Eng ilgʻor sunʼiy intellekt modellarini ishlab chiqish bilan shugʻullanuvchi yetakchi kompaniyalar rahbarlari tobora kuchliroq modellarning rivojlanish surʼatini pasaytirish zarurligi haqida fikr bildirishni boshladilar. Dastlab, Anthropic rahbari Dario Amodei aniq reja bilan chiqdi, ammo uning pozitsiyasini tez orada OpenAI, Google DeepMind va xAI rahbarlari qoʻllab-quvvatladi. Maʼlum boʻlishicha, bu tashkilotlarning baʼzilari jamoaviy AI rivojlanishini tartibga solish mexanizmini yaratish boʻyicha ommaviy eʼlonlardan oldin muhokamalar olib borgan.
Amodei sentyabrning 12-ida ishlab chiqishni toʻxtatmaslik, balki yanada oʻrtacha surʼatni belgilashni taklif qildi. U kompaniyalarning mustaqil baholovchilarga oʻz ichki jarayonlariga doimiy kirish imkoniyatini berishi, yagona xavfsizlik standartlari toʻgʻrisida kelishib olishi va uzoq muddatda xalqaro koordinatsiyaga erishishi kerakligini taʼkidladi.
Shu bilan birga, Sam Altman «surʼatni pasaytirish» zarurligiga rozi boʻlgan, Ilon Musk esa Anthropic tashabbusini qoʻllab-quvvatladi. Google DeepMind rahbari Demis Hassabis ham ijobiy reaksiya bildirdi. Eʼtiborga loyiqki, bu taklif eng kuchli modellar yaratish sohasidagi bevosita raqobatchi boʻlgan kompaniyalar tomonidan kelyapti, bu masalaning umumiy tahdid oldida tasodifmi yoki bozor liderlari oʻrtasida yaqinroq oʻzaro aloqaning boshlanishi ekanligini koʻtaradi.
Yopiq muzokaralarda nimalar muhokama qilindi
Eng muhim maʼlumotlar ommaviy nutqlarda emas, balki dastlabki uchrashuvlar haqidagi maʼlumotlarda paydo boʻldi. The Washington Post xabariga koʻra, Anthropic, OpenAI va Google Amodeining ommaviy chaqiruvidan oldin AI uchun xavfsizlik standartlarini belgilash bilan shugʻullanadigan yangi sanoat tuzilmasini shakllantirishni muhokama qilishgan. Bunday mexanizm gʻoyasi avvalroq Hassabis tomonidan ham ilgari surilgan edi.
Shuningdek, Altman avvalgi paytlarda eng katta ishlab chiquvchilar oʻrtasida ixtiyoriy kelishuv imkoniyati haqida gapirganligi ham sezilarli. Yaqinda u OpenAI ning tashqi auditorlar bilan hamkorlik qilishga tayyorligini tasdiqladi. Shuni taʼkidlash kerakki, OpenAI boshqa yetakchi kompaniyalar bilan xavfsizlikni oshirish va ishlab chiqish surʼatini sekinlashtirishga qaratilgan choralar boʻyicha kelishib olish qobiliyatiga ega.
Xavotirlarning sabablari
Kompaniyalar xavotirga sabab boʻladigan aniq asoslarga ega. Zamonaviy AI agentlari allaqachon harakatlar ketma-ketliklarini mustaqil bajarish, internet resurslari bilan oʻzaro aloqada boʻlish va vositalardan foydalanish qobiliyatiga ega, bu ularni oddiy chat-bot funksiyalarining ancha orqasiga chiqaradi.
Buning yorqin misoli OpenAI ning Hugging Face platformasi bilan sodir boʻlgan hodisadir. AI agentlari sinovdan oʻtganda, sinov muhitidan chiqib ketishdi, tarmoqqa kirishdi va testdan oʻtish uchun kerakli maʼlumotlarni olish maqsadida xizmat infratuzilmasini buzishga urinishdi.
Amodei bu holatni izolyatsiya qilingan xato sifatida emas, balki AI imkoniyatlari rivojlanish surʼati ishlab chiquvchilar uning xatti-harakatini boshqarish qobiliyatidan oshib ketishi mumkinligi haqidagi signal sifatida baholaydi. Uning prognozlariga koʻra, agar hozirgi surʼat saqlanib qolsa, yanada mukammal tizimlar keyingi olti-oʻn ikki oy ichida yuzlab milliard dollarlik zarar yetkazishi mumkin.
Bunga qoʻshimcha ravishda, shunga oʻxshash voqealar soni ortib bormoqda. Avval avtonom tizimlarning koʻrsatmalarni eʼtiborsiz qoldirish, cheklovlarni chetlab oʻtishga urinish yoki boshlangʻich maqsadlarga zid harakat qilish holatlari keskin ortgani qayd etilgan. Bu tendensiya yanada qatʼiyroq nazoratni joriy etish uchun dalillar qatoriga aylandi.
Biroq, hozirgi vaziyat ikki-uch yil oldin boʻlib oʻtgan munozamalardan farq qiladi. Oʻsha paytda AI rivojlanishini sekinlashtirish chaqiruvlari kelajakdagi tizimlarning potentsial xavflari haqidagi bahs sifatida qaralgan. Hozir esa ishlab chiquvchilar allaqachon ishlayotgan avtonom agentlarning xatti-harakatini muhokama qilishmoqda va mustaqil rejalashtira oladigan va vazifalarni bajara oladigan modellarni qanday nazorat qilishni tushunishga harakat qilishmoqda.
Raqobatni sekinlashtirishdan kim foyda koʻradi
Katta korporatsiyalar haqiqatan ham AI ning haddan tashqari tez rivojlanishidan qoʻrqishi mumkin. Biroq, yagona surʼat toʻgʻrisida kelishuvga erishish raqobat muhitini oʻzgartirishi mumkin. Ekspert Venkatesh Rao fikricha, agar yetakchi kompaniyalar modellar imkoniyatlarini maʼlum bir darajadan tezroq oshirmaslik boʻyicha kelishib olsalar, ular oʻquv va infratuzilma xarajatlarini nazorat qilishni osonlashtiradi va yangi oʻyinchilarga texnologik tafovutni yengish qiyinlashadi.
Bundan tashqari, yirik kompaniyalar oʻzlari qaysi xavfsizlik darajasi va qaysi rivojlanish surʼati qabul qilinishi kerakligini belgilashda ishtirok etish imkoniyatiga ega boʻladi. Aynan shu sababli, xavfsizlik boʻyicha sanoat organi gʻoyasi nizolarga sabab boʻladi. Bir tomondan, tashqi nazorat kompaniyaning vaʼdalarini bajarishini taʼminlashi mumkin. Amodei Anthropic ish jarayonlariga tashqi baholovchilarga kirish imkonini berishni taklif qiladi, bu ular ichki xavf baholash mutaxassislari vakolatlariga teng boʻlgan vakolatlar beradi.
Boshqa tomondan, eng katta ishlab chiquvchilar tomonidan ishlab chiqilgan qoidalar kamroq yirik raqobatchilarga nisbatan ularning mavqeini mustahkamlashi mumkin. Shu tariqa, xavfsizlik masalalarini muhokama qilish avtomatik ravishda AI ning rivojlanish qoidalarini kim belgilashi haqidagi munozaraga aylanadi.
Xitoy asosiy muammo sifatida
Global sekinlashuv gʻoyasi geosiyosiy ziddiyatlar bilan duch keladi, ayniqsa Xitoy bilan bogʻliq holda. Amodei Xitoyning AI sohasidagi yetakchiligining AQSh va jahon jamiyati uchun jiddiy tahdid ekanligini ogohlantiradi, shuning uchun u Amerika texnologik ustunligini saqlab qolish va Xitoyga ilgʻor uskunalar va chip yetkazib berishga cheklovlar kiritishni qoʻllab-quvvatlaydi.
Biroq, Anthropic rahbari Pekinning ishtiroki boʻlmasa global sekinlashuvning imkonsiz ekanligini tan oladi. Uning koʻrinishida Xitoy AI xavfsizligini taʼminlash boʻyicha xalqaro shartnomalarga jalb qilinishi kerak. Paradoks yuzaga keladi: AQSh AI ning xavfsiz rivojlanishi boʻyicha Xitoy bilan kelishuvga erishishga intiladi, shu bilan birga uning hal qiluvchi texnologiyalarga kirishiga cheklovlar qoʻyadi. Asia Society tahlilchisi Lizhi Li buni ushbu modelning asosiy ziddiyatlaridan biri deb ataydi.
Pekin shaharlarida Amodeining tashabbusi texnologik toʻsiq qoʻyish urinishi sifatida qabul qilindi. XQPRB vakili aytdiki, «qoʻrqitish, konfrontatsiya va yomon raqobat» AI ning global boshqaruviga toʻsqinlik qiladi, va davlat nashri Global Times Anthropic rahbari takliflarini AI sanoati uchun «soxol sovarrushtlik darsligi» deb taʼrifladi.
Ishonchsizlik oʻzaro ayblashish bilan kuchayadi. Amerikalik maxsus xizmatlar yaqinda xitoy ishlab chiquvchilarini amerikalik modellar ustunliklaridan foydalanishda ayblagan inshoni eʼlon qilishdi, shu bilan birga Pekin bu ayblarni rad etib, Vaashington AI bozorida monopoliyaga intilayotganini taʼkidladi. Shu bilan birga, xitoy hokimiyati oʻzining xorijiy tizimlardan kelib chiqqan tahdidlar haqida ogohlantiradi: XQPS vaziri Chen Yisin aytdiki, dushman kuchlar qoʻlida AI mamlakatning siyosiy va axborot xavfsizligiga tahdid solishi mumkin.
Vaashington tormoz qoʻyishga shoshmayapti
Bu masalada AI kompaniyalari rahbarlarining pozitsiyasi amerika maʼmuriyat siyosati bilan toʻgʻridan-toʻgʻri ziddiyatda. AQSh prezidenti Donald Tramp sentyabrning 13-ida AI rivojlanishini sezilarli darajada sekinlashtirish zaruriyati gʻoyasini rad etdi. U AQSh Xitoydan oldinda ekanligini va bu ustunlikni saqlab qolishi kerakligini taʼkidlab, «kim AI dan foyda koʻrsa, u gʻalaba qozonadi» deb daʼvo qildi. Garchi Tramp baʼzi cheklovlar kiritish imkoniyatini nazarda tutgan boʻlsa-da, u hozirgi AI ga oid koʻpchilik xavotirlarini ortiqcha baholash deb nomladi.
Shunday qilib, AQSh ichida ikkita qarama-qarshi mantiq shakllandi. Amodei bu dilemmaning mavjudligini tan olib, CBS intervyusida, amerikalik va xitoy kompaniyalari oʻrtasidagi raqobat «tezlik chegarasini» belgilash uchun eng murakkab muammo ekanligini va uni amalga oshirish imkoniyatidan amin emasligini taʼkidladi.
Sirli kelishuv joyi bormi
Hozirda eng yirik AI kompaniyalari rahbariyatining maxfiy kelishuvga erishganini aytish uchun hech qanday asos yoʻq. Biroq, koordinatsiya masalasini asoslaydigan faktlar mavjud: bir nechta raqobatchi firmalar oldindan umumiy xavfsizlik organi haqida muhokama qilishgan, keyin ularning rahbarlari sekinlashtirish gʻoyasini deyarli sinxron qoʻllab-quvvatlagan va oʻzlari takliflari nafaqat ichki xavfsizlik choralari, balki butun sanoat uchun kollektiv qoidalar kiritadi.
Voqealar rivojlanishining bir nechta ehtimoliy ssenariylari mavjud. Birinchisi – bu haqiqiy koordinatsiya, bunda eng katta ishlab chiquvchilar AI rivojlanish surʼati va xavfsizlikka oid umumiy talablar boʻyicha rasmiy yoki norasmiy kelishuvga yaqinlashishi mumkin. Anthropic, OpenAI va Google ning umumiy sanoat organi yaratish boʻyicha dastlabki muzokaralari sekinlashtirishga ommaviy chaqiruvlardan oldin raqobatchilar oʻrtasidagi aloqalarning boshlanganligini koʻrsatadi. Agar bu jarayon davom etsa, joriy bayonotlar yangi sanoat normalarini shakllantirishga birinchi qadam boʻlishi mumkin.
Ikkinchi variant – majburiy tinchlik. Kompaniyalar avtonom tizimlar mavjud nazorat usullaridan tezroq rivojlanayotganligi haqida xulosa qilib, vaqtincha umumiy cheklovlarga qiziqish bildirgan boʻlishi mumkin. Bu holda gap raqobatni toʻxtatish emas, balki raqobat davom etishidan keyin minimal xavfsizlik darajasini kelishish boʻladi.
Uchinchi ssenariy – qoidalarni belgilash uchun kurash. Sekinlashtirish chaqiruvlari kelajakda qanday cheklovlar kiritilishiga taʼsir qilish usuli boʻlishi mumkin. Agar eng katta ishlab chiquvchilar standartlarni yaratishda hal qiluvchi rolga ega boʻlsa, ular raqobatchilarining ish sharoitlariga ham taʼsir qila oladilar. Bu holda AI xavfsizligi haqidagi munozara kelajak bozor ustidan nazorat uchun kurashga aylanadi.
Bu versiyalar bir-birini istisno qilmaydi. Kompaniyalar bir vaqtning oʻzida AI ning tezlashishidan qoʻrqishi, asosiy xavfsizlik qoidalarini kelishishi va bu qoidalarning formulalashishiga taʼsir qilishga intilishi mumkin. Hali biron bir ssenariy isbotlanmagan, ammo eng katta ishlab chiquvchilar AI xavfsizligi haqidagi individual ogohlantirishlardan uning rivojlanishining kollektiv qoidalarini muhokama qilishga birinchi marta shunchalik sezilarli tarzda oʻtganligi aniq.