Os agentes de inteligência artificial (IA) são considerados uma das promessas mais significativas da área, contudo, seu avanço para tarefas mais complexas levanta preocupações sérias sobre o consumo de energia. Pesquisadores descobriram que esses novos sistemas podem demandar até 136,5 vezes mais eletricidade por consulta quando comparados à IA generativa tradicional, forçando a eficiência energética a se tornar um foco central nas futuras discussões tecnológicas.
Evolução dos Modelos de Linguagem
Os agentes de IA representam um salto evolutivo em relação aos grandes modelos de linguagem (LLMs). Diferentemente de apenas fornecer respostas, eles possuem a capacidade de planejar atividades, utilizar recursos externos, rodar códigos e tomar decisões sequenciais ao longo de múltiplas fases. Foi este comportamento avançado que motivou pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) a realizar a primeira medição do custo computacional e energético desses sistemas sob condições operacionais reais.
Impacto Energético da Pesquisa
A investigação demonstrou que o dispêndio energético pode ser até 136,5 vezes superior ao registrado em sistemas convencionais de perguntas e respostas. Este aumento ocorre porque um agente de IA precisa consultar repetidamente os LLMs durante a execução de uma única tarefa, o que exige um processamento muito mais intenso. Os achados principais incluem um consumo de energia até 136,5 vezes maior por consulta, um aumento na latência de até 153,7 vezes, e o fato de que as GPUs ficam ociosas por até 54,5% do tempo de execução. Além disso, foi registrado um consumo médio de 348,41 watt-hora por consulta em um modelo que possui 70 bilhões de parâmetros.
Este estudo pioneiro oferece uma quantificação clara não só de como a IA está se tornando mais sofisticada, mas também de quanta eletricidade e quais custos são inerentes à implementação e manutenção dessa inteligência. Minsoo Rhu, professor da Escola de Engenharia Elétrica do KAIST, comentou sobre os resultados.
Projeções Futuras e Desafios
Os pesquisadores também simularam um cenário hipotético envolvendo 13,7 bilhões de requisições diárias de agentes de IA, um volume comparável às pesquisas realizadas atualmente no Google. Nesta projeção, os data centers consumiriam aproximadamente 198,9 gigawatts, o que equivale a cerca de metade do consumo médio de energia dos Estados Unidos. O estudo também apontou outro ponto crítico: enquanto as ferramentas externas realizam certas etapas, as GPUs de alta performance permanecem inativas em parte do tempo, o que diminui a eficiência geral do sistema.
Para a equipe do KAIST, o progresso da IA dependerá de uma evolução coordenada entre os modelos, os chips de IA, os data centers e a infraestrutura energética. Minsoo Rhu enfatizou a necessidade de adotar uma estratégia integrada de design conjunto (codesign) para otimizar tanto a infraestrutura de data centers para IA quanto os próprios modelos de agentes de IA e a rede de energia, à medida que os agentes de IA se espalham.
Adicionalmente, os pesquisadores disponibilizaram em código aberto as implementações dos agentes de IA e os benchmarks utilizados no estudo, o que deve impulsionar novas investigações e auxiliar no desenvolvimento de uma infraestrutura mais sustentável.