Nova geração de IA pode aumentar drasticamente o consumo de energia dos data centers, aponta estudo

Impacto Energético da Pesquisa

A investigação demonstrou que o dispêndio energético pode ser até 136,5 vezes superior ao registrado em sistemas convencionais de perguntas e respostas. Este aumento ocorre porque um agente de IA precisa consultar repetidamente os LLMs durante a execução de uma única tarefa, o que exige um processamento muito mais intenso. Os achados principais incluem um consumo de energia até 136,5 vezes maior por consulta, um aumento na latência de até 153,7 vezes, e o fato de que as GPUs ficam ociosas por até 54,5% do tempo de execução. Além disso, foi registrado um consumo médio de 348,41 watt-hora por consulta em um modelo que possui 70 bilhões de parâmetros.

Este estudo pioneiro oferece uma quantificação clara não só de como a IA está se tornando mais sofisticada, mas também de quanta eletricidade e quais custos são inerentes à implementação e manutenção dessa inteligência. Minsoo Rhu, professor da Escola de Engenharia Elétrica do KAIST, comentou sobre os resultados.

Projeções Futuras e Desafios

Os pesquisadores também simularam um cenário hipotético envolvendo 13,7 bilhões de requisições diárias de agentes de IA, um volume comparável às pesquisas realizadas atualmente no Google. Nesta projeção, os data centers consumiriam aproximadamente 198,9 gigawatts, o que equivale a cerca de metade do consumo médio de energia dos Estados Unidos. O estudo também apontou outro ponto crítico: enquanto as ferramentas externas realizam certas etapas, as GPUs de alta performance permanecem inativas em parte do tempo, o que diminui a eficiência geral do sistema.

Para a equipe do KAIST, o progresso da IA dependerá de uma evolução coordenada entre os modelos, os chips de IA, os data centers e a infraestrutura energética. Minsoo Rhu enfatizou a necessidade de adotar uma estratégia integrada de design conjunto (codesign) para otimizar tanto a infraestrutura de data centers para IA quanto os próprios modelos de agentes de IA e a rede de energia, à medida que os agentes de IA se espalham.

Adicionalmente, os pesquisadores disponibilizaram em código aberto as implementações dos agentes de IA e os benchmarks utilizados no estudo, o que deve impulsionar novas investigações e auxiliar no desenvolvimento de uma infraestrutura mais sustentável.