Fable 5 o'chirilishi hodisasidan so'ng, bu hodisada Washington eng kuchli sun'iy intellekt modellarini darhol to'xtatish qobiliyatini namoyish etgan, sanoat bunday xaos ssenariysi qayta takrorlanmasligi uchun reja tuzishni boshladi. Tanqidchilar bu reja faqat Washingtonning bevosita nazoratini yanada mukammallashtirilgan boshqaruv mexanizmi bilan almashtirishi mumkinligini ta'kidlaydilar.
Google DeepMinddan yangi tashabbus
Google DeepMind asoschisi va Bosh ijrochi Demis Hassabis X platformasida «Ilg'or AI uchun tuzilma va yangi davr boshlanishi» nomli manifestni e'lon qildi. U eng ilg'or AI modellarini chiqarishdan oldin tekshiradigan yangi organ yaratishga chaqirdi. Bir kun ichida bu chaqiriq Microsoft, OpenAI va xAI rahbariyatlari tomonidan qo'llab-quvvatlandi, bu raqobatbardosh sanoatda g'ayritabiiy birlik ko'rinishidir.
Standartlashtirish mexanizmi
Taklif etilgan rejaning asosida Finra (Financial Industry Regulatory Authority) ga o'xshash «standartlar organi» yaratish yotadi. Bu xususiy tashkilot sanoat tomonidan moliyalashtiriladi va AQSh hukumatining nazorati ostida Wall Streetni nazorat qiladi. Washington tomonidan qo'llab-quvvatlanadigan, ammo AI laboratoriyalari tomonidan moliyalashtiriladigan bu organ eng xavfli imkoniyatlar – kiber-, biologik va «aldovchi» yoki agentlik xavflarini sinovdan o'tkazishi kerak. Tekshiruv texnik ekspertlar kollegiyasi tomonidan amalga oshiriladi, unda mustaqil aʼzolar, shu jumladan sanoat, hukumat va ochiq kod vakillari mavjud bo'ladi.
Hassabis dastlab ilg'or laboratoriyalar modellarini chiqarishdan 30 kun oldin standartlar organiga ixtiyoriy ravishda taqdim etishganini yozdi. U baholash protokoli samaradorligi va ishonchliligi namoyish etilgandan so'ng, jarayonni rasmiylashtirish tezda kuzatilishi mumkin, bu ilg'or modellar AQSh bozoriga chiqarilishdan oldin ushbu tekshiruvdan o'tishi shart bo'lishini talab qiladi.
Qoidalarni qo'llash va muddatlar
Bu qoidalar kelib chiqish mamlakati yoki ochiq yoki yopiq bo'lishidan qat'i nazar, barcha ilg'or sinf modellariga tegishli bo'lishi kerak, startaplar va akademik muassasalardan tashqari. Hassabis Axioonga, «ilg'or» maqomi o'z-o'zidan ishtirok etish uchun rag'bat berish bo'lishi mumkin deb aytadi, chunki sinovdan o'tish «juda yoqimli obro'lik aktividir».
Oylar davomida Tramp ma'muriyatiga, boshqa laboratoriya rahbariyatiga va Yevropa ofitserlariga maslahat bergan Hassabis Axioonga, bu organ «yil oxirigacha» ishga tushishi kerakligini bildirdi, chunki u umumiy sun'iy intellektning «bir necha qisqa yillar ichida mavjud bo'lishi mumkin» deb hisoblaydi. Bu g'oya iyun oyidagi Evian G7 sammitida AI rahbariyatlari tomonidan jahon yetakchilariga taklif qilingan takliflarni rivojlantiradi.
Sanoatdagi qo'llab-quvvatlash va kelishmovchiliklar
Microsoft Bosh ijrochi Satya Nadella bu tashabbusni «Demisning muhim qismi» deb atab, maqsad dunyoni buzadigan biron bir yagona uzilishdan qochib, «innovatsiyalarga va tanlovga yordam beradigan ekotizim yaratish» ekanligini ta'kidladi. OpenAI'dan Sam Altman ham qo'llab-quvvatlash bildirib, avval Financial Times maqolasidan foydalanib, shunga o'xshash tamoyillar asosida AQSh tomonidan boshqariladigan xalqaro forum yaratishni talab qilgan edi.
Hatto Elon Musk ham, uning xAI tarmog'i Frontier Model Forum xavfsizlik guruhidan tashqaridagi yagona yirik ilg'or laboratoriya bo'lib, chorshanba kuni X'da nisbatan xolis qo'llab-quvvatlash bildirdi: «Umuman olganda, bu yaxshi o'ylangan tuzilma va shubhalarsiz muhokama uchun yaxshi boshlang'ich nuqta». Bu uning iyun oyamdagi hazil bilan AI tartiblovchisi nomi sifatida «AIAIAI» taklif qilgan ohangidan farq qiladi.
Anthropicdagi Dario Amodei yo'nalishga rozi, lekin dizayniga emas. Iyun oyi maqolasida u xavfsiz bo'lmagan modellar bloklanishi uchun qonuniy vakolatlarga ega FAA uslubidagi federal agentlikni himoya qilgan. Axioonga ko'ra, laboratoriya rahbariyati endi Washington ularni tartibga solishi kerakligiga kelishib yetgan, «asosiy farq kimda hokimiyat borligi bilan belgilanadi».
Yurisdiksiya va Xitoy masalalari
Hassabis taklifidagi eng aniq bo'shliq Xitoyga tegishli. Hassabis o'z standartlarini kelib chiqishidan qat'i nazar barcha ilg'or modellariga qo'llashni talab qilsa-da, AQShda joylashgan organ Xitoy ishlab chiquvchilari – masalan, DeepSeek va Zhipu AI kabi ilg'or imkoniyatlarga yaqinlashayotganlar – modellarini sinovdan o'tkazish uchun qanday taqdim etishlarini majburlashini aniqlamaydi.
Pekin shahridagi yetakchi laboratoriyalar teskari strategiyani qo'llaydi: Zhipu'dagi Tan Zhe xavfsizlik texnologik to'siqlar emas, balki keng kirish orqali erishiladi deb ta'kidlaydi va o'zining eng so'nggi ochiq kodli modelini chiqardi. Model vaznlari e'lon qilingandan so'ng, hech bir organ uni qaytarib olishi yoki to'xtatishi mumkin emas.
Fable 5 hodisasining darsi
Boshqa bir ochiq savol – bu taklif uning ilhom manbai bo'lgan inqirozni oldini olishi mumkinmi? Iyun oyida AQSh savdo vaziri Howard Latnik Claude Fable 5 va Mythos 5 ga eksport nazoratini joriy qildi, ularning ishga tushirilishidan bir necha kun o'tgach, bulutli xizmatga jismoniy mahsulotlar uchun yaratilgan huquqiy rejimni qo'lladi. Bu Amazon tadqiqotchilari Fable 5 himoyasini shunchaki modelga kod bazasini o'qish va kamchiliklarini tuzatishni so'ragan holda buzganidan so'ng sodir bo'ldi, natijada u zaifliklarni aniqladi va bir holatda exploit-kodni yaratdi.
Anthropic vaziyatning jiddiy ligini inkor qilib, kamroq qobiliyatli raqobatchi modellar ham shunday qilishi mumkinligini ko'rsatdi, ammo u ikki modelni butun dunyo miqyosida tunda o'chirishga majbur bo'ldi va ikki hafta o'tgachgina kirishni tikladi, bu esa uning aytishicha, hech qanday qoida, protokoll yoki qo'llanma bo'lmagan muzokaralardan keyin sodir bo'ldi.
Hassabis rejasi doirasida Fable 5 imkoniyatlari chiqarilishdan oldin e'lon qilingan protokolga muvofiqligini sinovdan o'tkazilardi, va chiqarilgandan so'ng kamchiliklar juma kuni kechqurun yuborilgan direktiva bilan emas, balki boshqariladigan tuzatishlarni o'rnatish jarayoni orqali hal qilinardi. Va'da bashorat qilinishdir. Biroq, bu Washingtonning eksport nazorati bo'yicha asosiy vakolatlarini yo'qotmaydi – qaror qabul qiluvchi ma'muriyat hali ham iyun oyidagi kabi protokoldan tashqarida harakat qilishi mumkin – va tarix shuni ko'rsatadiki, ixtiyoriy rejalar chegaralarga ega.
Ixtiyoriy tartibga solish xavflari
Brookings institutining olimi va AQSh Telekommunikatsiya Federal Komissiyasining sobiq raisi Tom Wheeler, Financial Action Task Force va Basel bank komiteti kabi shunga o'xshash xalqaro standartlar organlari bajarilgan sababi, nomuvofiqlik haqiqiy sanktsiyalarga olib kelishi bilan izoh berdi. U shunday dedi: «Ixtiyoriy rioya qilish natija faqat taxmin, standart emas degani».
U shuningdek, kompaniyalar tomonidan cheklangan jarayon «kompaniyalar muammolarini hal qiladi, hukumatlarga nima qilishayotgandek ko'rinish uchun qopqoq beradi» deb ogohlantirdi. Bundan tashqari, bu organ Tramp ma'muriyatining vositasi bo'lishiga nima to'sqinlik qilishi noma'lum. Dizayn Finra uslubida mustaqillikni nazarda tutadi, ammo organ hali ham, Axioonga ko'ra, «AQSh hukumatiga hisobot beradi», va Oq uy rasmiy tartibga solishga ehtiyotkor munosabatda bo'lgan; Shriram Krishnanan, iyun oxirigacha uning AI bo'yicha katta maslahatchisi, Financial Timesga «AI uchun FDA bo'lmaydi» deb aytdi, AQSh Oziq-ovqat va Dorilar Xavfsizligi Agentligiga murojaat qildi.
Rivojlanayotgan dunyo uchun kirish
R Street instituti o'chirishdan so'ng, eksport nazorati «har qanday laboratoriya, model yoki kompaniyaga qarshi qo'llanilishi mumkin bo'lgan doimiy siyosat vositasi» ga aylanganini ogohlantirdi. Standartlar organini qo'shish buni bekor qilmaydi. Rivojlanayotgan dunyo uchun ilg'or texnologiyalarga kirish hali ham Washington eshigidagi xizmatchi tomonidan ta'minlanadi, kafolatlangan emas. Ushbu tuzilmada Janubiy Afrikaga yoki boshqa afrikalik hukumatga qaysi modellar ularning bozorlariga yetib borishini hal qiladigan organda ovoz berish huquqi berilmagan; Hassabis tomonidan taqdim etilgan kollegiya sanoat, AQSh hukumat va ochiq kod hamjamiyat vakillaridan iborat. Ilg'or AI iste'mol qiladigan, ammo uni yaratmaydigan mamlakatlar uchun eshiklar hali ham eshiklardir.
Hassabis bu organni bir necha oy ichida ishga tushirishni maqsad qilgan, ammo majburlash, moliyalashtiruvchi sanoatdan tashqari kengash tarkibi va Xitoy ishtiroki masalalari hal bo'lmadi. Shu vaqtgacha iyun darsi dolzarb bo'lib qoladi: eshiklarni nazorat qiluvchi, dunyoning ilg'or AI ga kirishini nazorat qiladi, va bu eshiklar Washingtonda qolmoqda.