AI ning yangi avlodining ma'lumotlar markazlari energiyani keskin oshirishi mumkinligi haqida tadqiqot xulosa berdi

Tadqiqotning energiya ta'siri

Tadqiqot energiyaning sarfi an'anaviy savol-javob tizimlarida qayd etilgan darajadan 136,5 baravar yuqori bo'lishi mumkinligini ko'rsatdi. Bu oshish shuning uchun yuzaga keladiki, SI agenti bitta vazifani bajarish jarayonida LLM'larni takroran tekshirishi kerak, bu esa ancha intensiv qayta ishlashni talab qiladi. Asosiy natijalar orasida har bir so'rov uchun 136,5 baravar ko'proq energiya sarfi, 153,7 baravar g'iktirishning ortishi va GPUlar ish vaqtining 54,5% gacha ishlamay turishi kabi faktlar mavjud. Bundan tashqari, 70 milliard parametrga ega modelda har bir so'rov uchun o'rtacha 348,41 vatt-soat sarfi qayd etildi.

Bu poyona tadqiqot SI qanday tobora murakkablashayotganini emas, balki ushbu intellektni joriy etish va saqlash bilan bog'liq qancha elektr va qanday xarajatlar borligini ham aniq miqdoriy ko'rsatib beradi. KAIST Elektr muhandislik maktabi professori Minsoo Rhu natijalar haqida fikr bildirdi.

Kelajakdagi prognozlar va muammolar

Tadqiqotchilar shuningdek, hozirgi kunda Googleda amalga oshirilayotgan tadqiqotlarga teng hajmdagi kuniga 13,7 milliard SI so'rovini o'z ichiga olgan gipotetik ssenariyani simulyatsiya qilishdi. Ushbu prognozda ma'lumotlar markazlari taxminan 198,9 gigavatt iste'mol qiladi, bu AQShning o'rtacha energiya iste'moliining taxminan yarmi ga teng. Tadqiqot yana bir muhim nuqtani ko'rsatdi: tashqi vositalar ba'zi bosqichlarni bajarayotganda, yuqori samarali GPUlar vaqtning bir qismini passiv holatda qoladi, bu esa tizimning umumiy samaradorligini pasaytiradi.

KAIST jamoasi uchun SI ning taraqqiyoti modellar, SI chiplari, ma'lumotlar markazlari va energiya infratuzilmasi o'rtasidagi muvofiqlashgan evolyutsiyaga bog'liq bo'ladi. Minsoo Rhu SI agentlari tarqalib borayotgan paytda ma'lumotlar markazlari infratuzilmasini, SI agentlari modellarini va energiya tarmog'ini optimallashtirish uchun integratsiyalashgan dizayn (codesign) strategiyasini qo'llash zarurligini ta'kidladi.

Bundan tashqari, tadqiqotchilar SI agentlarining implementatsiyalarini va tadqiqotda ishlatilgan benchmarklarni ochiq kod sifatida taqdim etishdi, bu esa yangi tadqiqotlarni rag'batlantirishi va yanada barqaror infratuzilmani rivojlantirishga yordam berishi kerak.