Агенты искусственного интеллекта (ИИ) считаются одним из самых значимых обещаний этой области, однако их продвижение к более сложным задачам вызывает серьезные опасения по поводу энергопотребления. Исследователи обнаружили, что эти новые системы могут требовать до 136,5 раз больше электроэнергии на запрос по сравнению с традиционным генеративным ИИ, что вынуждает сделать энергоэффективность центральной темой будущих технологических дискуссий.
Эволюция языковых моделей
Агенты ИИ представляют собой эволюционный скачок по сравнению с большими языковыми моделями (LLM). В отличие от просто предоставления ответов, они обладают способностью планировать действия, использовать внешние ресурсы, выполнять код и принимать последовательные решения на протяжении нескольких этапов. Именно это продвинутое поведение побудило исследователей из Корейского института передовых наук и технологий (KAIST) провести первое измерение вычислительных и энергетических затрат этих систем в реальных рабочих условиях.
Энергетическое воздействие исследования
Исследование показало, что энергопотребление может быть до 136,5 раз выше, чем зарегистрировано в традиционных системах вопросов и ответов. Этот рост происходит потому, что агент ИИ должен многократно обращаться к LLM во время выполнения одной задачи, что требует гораздо более интенсивной обработки. Основные выводы включают потребление энергии, которое в 136,5 раз выше на запрос, увеличение задержки до 153,7 раз и тот факт, что графические процессоры простаивают до 54,5% времени выполнения. Кроме того, было зафиксировано среднее потребление в 348,41 ватт-часа на запрос в модели с 70 миллиардами параметров.
Это новаторское исследование дает четкую количественную оценку не только того, как ИИ становится все более сложным, но и того, сколько электроэнергии и какие затраты сопряжены с внедрением и обслуживанием этого интеллекта. Минсу Рху, профессор факультета электротехники KAIST, прокомментировал результаты.
Будущие прогнозы и проблемы
Исследователи также смоделировали гипотетический сценарий, включающий 13,7 миллиардов ежедневных запросов от агентов ИИ, что сопоставимо с объемом исследований, проводимых в настоящее время в Google. При этом прогнозе центры обработки данных будут потреблять около 198,9 гигаватт, что эквивалентно примерно половине среднего потребления энергии в Соединенных Штатах. Исследование также указало на еще одну критическую проблему: в то время как внешние инструменты выполняют определенные этапы, высокопроизводительные графические процессоры остаются неактивными в течение части времени, что снижает общую эффективность системы.
Для команды KAIST прогресс ИИ будет зависеть от скоординированной эволюции моделей, чипов ИИ, центров обработки данных и энергетической инфраструктуры. Минсу Рху подчеркнул необходимость принятия интегрированной стратегии совместного проектирования (codesign) для оптимизации как инфраструктуры ЦОД для ИИ, так и самих моделей агентов ИИ и энергетической сети по мере распространения агентов ИИ.
Кроме того, исследователи опубликовали в открытом доступе реализации агентов ИИ и бенчмарки, использованные в исследовании, что должно стимулировать новые исследования и способствовать разработке более устойчивой инфраструктуры.