Qual é o grande problema dos data centers de IA?

É um número tão grande que é difícil imaginar. Em todo o mundo, cerca de US $ 3TN (£ 2,2tn) serão gastos em data centers que suportam a IA entre agora e 2029.

Essa estimativa vem do banco de investimentos Morgan Stanley, que acrescenta que aproximadamente metade dessa soma será atingida nos custos de construção e metade do caro hardware que suporta a revolução da IA.

Colocar esse número em perspectiva, isso é aproximadamente o que toda a economia francesa valeu a pena em 2024.

Somente no Reino Unido, estima -se que outros 100 data centers será construído nos próximos anos para atender à demanda por processamento de IA.

Alguns deles serão construídos para a Microsoft que no início deste mês Anunciou o investimento de US $ 30 bilhões (£ 22 bilhões) no setor de IA do Reino Unido.

O que há sobre os data centers de IA que são diferentes do edifício tradicional que contém fileiras de servidores de computador que mantém nossas fotos pessoais, contas de mídia social e aplicativos de trabalho zumbindo?

E eles valem a pena essa excelente onda de gastos?

Os data centers crescem em tamanho há anos. Um novo termo, hiperescala, foi cunhado pela indústria de tecnologia para descrever sites em que o requisito de energia atinge dezenas de megawatts, antes de Gigawatts, mil vezes maior que Megawatts, entrou em cena.

Mas a AI superalimentou este jogo. A maioria dos modelos de IA depende de chips de computador caros da Nvidia para processar tarefas.

Os chips da NVIDIA vêm em grandes armários que custam cerca de US $ 4 milhões cada. E esses gabinetes mantêm a chave para o motivo pelo qual os data centers de IA são diferentes.

Os grandes modelos de idiomas (LLMs) que treinam o software de IA precisam dividir a linguagem em todos os pequenos elementos de significado possíveis. Isso só é possível com uma rede de computadores trabalhando em uníssono e em proximidade extremamente próxima.

Por que a proximidade é tão importante? Cada metro de distância entre dois chips adiciona um nanossegundo, um bilhão de segundo, ao tempo de processamento.

Pode não parecer muito tempo, mas quando um armazém cheio de computadores está zumbindo esses atrasos microscópicos se acumulam e diluem o desempenho necessário para a IA.

Os armários de processamento de IA estão reunidos para eliminar esse elemento de latência e criar o que o setor de tecnologia chama de processamento paralelo, operando como um computador enorme. Tudo isso significa densidade, uma palavra mágica nos círculos de construção de IA.

A densidade elimina os gargalos de processamento que os data centers regulares veem ao trabalhar com processadores sentados a vários metros de distância.

No entanto, essas densas fileiras de armários consomem gigawatts de energia e treinamento de LLM produz picos nesse apetite por eletricidade.

Esses picos são equivalentes a milhares de casas que ligam e desligam as chaleiras em uníssono a cada poucos segundos.

Esse tipo de demanda irregular em uma grade local precisa ser cuidadosamente gerenciada.

Daniel Bizo, da consultoria de engenharia de data center, o Uptime Institute analisa os data centers para viver.

“Os data centers normais são um zumbido constante em segundo plano em comparação com a demanda que uma carga de trabalho de IA faz na grade”.

Assim como aquelas chaleiras sincronizadas, a IA repentina apresenta o que Bizo chama de um problema de singular.

“A carga de trabalho singular nessa escala é inédita”, diz Bizo, “é um desafio de engenharia tão extremo, é como o programa Apollo”.

Os operadores de data center estão contornando o problema de energia de várias maneiras.

Falando à BBC no início deste mês, Jensen Huang, CEO da NVIDIA, disse que no Reino Unido no curto prazo ele esperava que mais turbinas a gás pudessem ser usadas “fora da grade para não sobrecarregar as pessoas na grade”.

Ele disse que a própria IA projetaria melhores turbinas a gás, painéis solares, turbinas eólicas e energia de fusão para produzir energia sustentável mais econômica.

A Microsoft está investindo bilhões de dólares em projetos de energia, incluindo um acordo com a Constellation Energy que verá energia nuclear produzida novamente em três milhas da ilha.

Google, de propriedade de alfabeto, também está investindo em energia nuclear como parte de uma estratégia para executar Energia livre de carbono até 2030.

Enquanto isso, a Amazon Web Services (AWS), que faz parte da gigante do varejo Amazon, diz que já está o maior comprador corporativo único de energia renovável no mundo.

O setor de data center está ciente de que os legisladores estão de olho nas desvantagens das fábricas de IA, com seu intenso uso de energia tendo um impacto potencial na infraestrutura local e no meio ambiente.

Um desses impactos ambientais inclui um suprimento pesado de água para resfriar as batatas fritas.

No Estado dos EUA, Virgínia, abrigando uma população em expansão de data centers que mantêm os gigantes da tecnologia como a Amazon e o Google nos negócios, é considerada uma lei que vincula a aprovação de novos locais aos números de consumo de água.

Enquanto isso, uma fábrica de IA proposta no norte de Lincolnshire, no Reino Unido, encontrou objeções da água da Angliana, responsável por manter torneiras na área do local proposto.

A água da Angliana ressalta que não é obrigada a fornecer água para uso não doméstico e sugere água reciclada a partir do estágio final do tratamento de efluentes como líquido de arrefecimento em vez de beber água.

Dados os problemas práticos e os enormes custos que os data centers enfrentam, todo o movimento é realmente uma grande bolha?

Um orador da recente conferência do Data Center cunhou o termo “Bragawatts” para descrever como o setor está falando da escala dos sites propostos de IA.

Zahl Limbuwala é especialista em Data Center no Tech Investment Advisors DTCP. Ele reconhece grandes questões em torno do futuro dos gastos com data center de IA.

“A trajetória atual é muito difícil de acreditar. Certamente houve muito se gabar. Mas o investimento precisa entregar um retorno ou o mercado se corrigirá”.

Tendo em mente essas precauções, ele ainda acredita que a IA merece um lugar especial em termos de investimento. “A IA terá mais impacto do que as tecnologias anteriores, incluindo a Internet. Portanto, é possível precisar de todos esses gigawatts”.

Ele observa que se gabando, os data centers da IA ​​”são o setor imobiliário do mundo da tecnologia”. Bolhas de tecnologia especulativas, como o boom do Dotcom, da década de 1990, careciam de uma base de tijolos e argamassa. Os data centers de IA são muito sólidos. Mas o boom dos gastos atrás deles não pode durar para sempre.