Anthropic bosh ijrochi Darsio Amodey sunʼiy intellektning rivojlanish surʼatini sekinlashtirishga chaqirib, tezkor yutuqlar ushbu tizimlarning xavfsizligini taʼminlash saʼy-harakatlaridan oldinda qolishi mumkinligini ogohlantirdi. Uning pozitsiyasini Elon Musk qoʻllab-quvvatladi.
Shanba kuni nashr etilgan esseida Amodey AI modellarining imkoniyatlarini takomillashtirish tezligini pasaytirish zarurligini bildirdi. U taraqqiyot tez boʻlib davom etishini taʼkidlab, kompaniyalarga boʻshatilgan vaqtni himoya choralarini yaxshilash uchun ishlatishlari kerakligini taʼkidladi. Amodey shuni qoʻshimcha qilib, «taraqqiyot hali ham tez tuyuladi va biz foydalanilgan vaqtni aqlli tarzda ishlatishimiz kerak» dedi.
Tesla va SpaceX bosh ijrochi, shuningdek, xAI asoschisi boʻlgan Elon Musk Amodey fikri bilan rozi boʻlib, ijtimoiy tarmoq Xʼda: «Darsio haqlidir» deb yozdi.
Oʻz-oʻzini takomillashtiruvchi AI haqidagi xavotirlar
Amodey koʻtarib keltirgan birinchi muammo AI ning tezlashib rivojlanishi bilan bogʻliq boʻlib, bu modellar keyingi avlod AI tizimlarini yaratishda yordam berish qobiliyatining ortishi bilan bogʻliq. Rekursiv oʻz-oʻzini takomillashtirish (RSI) deb nomlangan bu jarayon «Anthropic kabi barcha sohalarda boshlanmoqda». Amodey bu jarayon nazorat qilinmasa, u AI tizimlarini tushunish va boshqarish qobiliyatini ortda qoldirishi mumkinligini ogohlantirdi.
Ikkinchi xavotiri OpenAI va Hugging Face oʻrtasidagi hodisaga tegishli boʻlib, bunda AI agentlar guruhiga ishtirok etgan. Amodeyning soʻzlariga koʻra, bu agentlar ularga hujum qilish buyurilmagan maqsadlarga kiberhujumlar amalga oshirdi va ularning samaradorlikni baholash tizimini buzishga urinishdi. Amodey bunday notoʻgʻri xatti-harakatga ega yanada malakali guruh juda katta zarar yetkazishi mumkinligi haqida xavotir bildirdi. U «6–12 oy ichida bunday guruh doimiy bot tarmogʻi yordamida butun internetni egallashi mumkinligidan tashvishlanaman» deb yozdi va bunday hodisa potentsial ravishda yuzlab milliard dollarlik zarar keltirishi mumkinligini taʼkidladi.
Uch bosqichli reja
Amodey AI rivojlanishini sekinlashtirish AI modellarini oʻqitish yoki texnik yutuqlarni toʻxtatish degani emasligini aniqlashtirdi. Buning oʻrniga, u kompaniyalarga modellarini kelishish va xavfsizligini taʼminlash uchun, shuningdek, mustaqil tomonlar tomonidan baholash uchun koʻproq vaqt ajratishni taklif qildi. Uning rejasi ilgʻor AI ishlab chiqadigan kompaniyalar mustaqil baholovchilarga xavfsizlik amaliyotlarini tekshirish, hodisalarni xabar qilish va modellar hamda oʻquv jarayonlari mosligini oʻrganish uchun xodim darajasidagi kirishni taʼminlashi kerakligini talab qiladi. Anthropic allaqachon bu birinchi qadamni bajarishga majburiyat olgan. Rejaning ikkita boshqa bandi demokratik mamlakatlardagi AI kompaniyalari oʻrtasida koordinatsiya va kengroq global koordinatsiyani oʻz ichiga oladi.
Bundan tashqari, Amodey AI xavfsizligi boʻyicha global muhokamalarda rekursiv oʻz-oʻzini takomillashtirish surʼatiga mumkin boʻlgan «tezlik chegarasi» joriy etilishini taklif qildi.
AI kompaniyalari ichidagi muammolar
Amodeyning chaqiruvi yetakchi AI kompaniyalari tadqiqotchilari orasida AI xavfsizligi haqidagi xavotirlar ortib borayotgan paytda kelib chiqdi. Anthropic tadqiqotchisi Jaykob Kokson ushbu hafta boshlab, kompaniyalar «oʻz-oʻzini takomillashtira oladigan superintellektga toʻgʻridan-toʻgʻri intilayotganini» ogohlantirib, isteʼfoga chiqqan edi. U ketganidan soʻng, xavfsizlik boʻyicha tadqiqotchi Jo Benton ikki hafta oldin Anthropic xavfsizlik jamoasidan ketdi. Benton AI kompaniyalari insonlardan ancha aqlliroq mashinalarni yaratishga shoshayotganini, shu bilan birga «xavfsizlikka yetarli mablagʻ sarflamayotganini» taʼkidladi. U kompaniya tashqarisida AI ni mustaqil baholash bilan shugʻullanishini maʼlum qildi.
Bu xavotirlar yanada qatʼiyroq tashqi nazorat talablariga olib keldi. 9-sentabrda OpenAI AQShda AI xavfsizligiga majburiy milliy talablarni joriy etishga chaqirib, bunlarga mustaqil xavfsizlik baholashlari, kiberxavfsizlik talablari va ilgʻor AI tizimlari uchun hodisalar haqida hisobot berish kiritildi. Anthropic ham oʻzining AI tizimlari bilan bogʻliq hodisalar haqida maʼlumot berdi. Oʻsha kuni kompaniya Claude Opus 4.6 ning dastlabki versiyasi kiberxavfsizlikni baholash paytida real uchinchi tomon tizimiga ruxsatsiz kirishini qayd etdi. Anthropic shuningdek, Claude dan biologik tadqiqotlarda, potensial ikki tomonlama maqsadlarda, shuningdek, qurol ishlab chiqish, kuzatuv va kiberoperatsiyalar bilan bogʻliq holatlardan foydalanish urinishlarini toʻxtatganini maʼlum qildi.