Новое поколение ИИ может резко увеличить энергопотребление центров обработки данных, говорится в исследовании

Энергетическое воздействие исследования

Исследование показало, что энергопотребление может быть до 136,5 раз выше, чем зарегистрировано в традиционных системах вопросов и ответов. Этот рост происходит потому, что агент ИИ должен многократно обращаться к LLM во время выполнения одной задачи, что требует гораздо более интенсивной обработки. Основные выводы включают потребление энергии, которое в 136,5 раз выше на запрос, увеличение задержки до 153,7 раз и тот факт, что графические процессоры простаивают до 54,5% времени выполнения. Кроме того, было зафиксировано среднее потребление в 348,41 ватт-часа на запрос в модели с 70 миллиардами параметров.

Это новаторское исследование дает четкую количественную оценку не только того, как ИИ становится все более сложным, но и того, сколько электроэнергии и какие затраты сопряжены с внедрением и обслуживанием этого интеллекта. Минсу Рху, профессор факультета электротехники KAIST, прокомментировал результаты.

Будущие прогнозы и проблемы

Исследователи также смоделировали гипотетический сценарий, включающий 13,7 миллиардов ежедневных запросов от агентов ИИ, что сопоставимо с объемом исследований, проводимых в настоящее время в Google. При этом прогнозе центры обработки данных будут потреблять около 198,9 гигаватт, что эквивалентно примерно половине среднего потребления энергии в Соединенных Штатах. Исследование также указало на еще одну критическую проблему: в то время как внешние инструменты выполняют определенные этапы, высокопроизводительные графические процессоры остаются неактивными в течение части времени, что снижает общую эффективность системы.

Для команды KAIST прогресс ИИ будет зависеть от скоординированной эволюции моделей, чипов ИИ, центров обработки данных и энергетической инфраструктуры. Минсу Рху подчеркнул необходимость принятия интегрированной стратегии совместного проектирования (codesign) для оптимизации как инфраструктуры ЦОД для ИИ, так и самих моделей агентов ИИ и энергетической сети по мере распространения агентов ИИ.

Кроме того, исследователи опубликовали в открытом доступе реализации агентов ИИ и бенчмарки, использованные в исследовании, что должно стимулировать новые исследования и способствовать разработке более устойчивой инфраструктуры.