Anthropic bosh ijrochi direktori Dario Amodei sunʼiy intellekt (AI) ishlab chiqarayotgan kompaniyalarga AI suiisteʼmol qilinishi haqidagi tobora ortib borayotgan xavotirlar fonida modellar imkoniyatlarini oshirish surʼatini pasaytirishga chaqirildi. U rivojlanishni tartibga solish va shu bilan bogʻliq xatarlarni boshqarish uchun koʻproq vaqt ajratish maqsadida uch bosqichli tuzilmani taqdim etdi.
Amodei shanba kuni X platformasida eʼlon qilingan batafsil inshosida yozdiki: «Biz AI modellarining imkoniyatlarini yaxshilash surʼatini sekinlashtirishimiz kerak. Taraqqiyot hali ham tezkor tuyuladi va biz qoʻlga kiritilgan vaqtni aqlli foydalanishimiz kerak».
Amodeining uch bosqichli rejasi xavfsizlik amaliyotlarini tekshirish uchun xodimlar kirishiga teng boʻlgan kirishga ega mustaqil baholovchilarni joriy etishni, xavfsizlik standartlarini belgilash va AI ning cheksiz rivojlanishini cheklash uchun yetakchi AI firmalari oʻrtasida koordinatsiyani amalga oshirishni va AI xavflarini boshqarish uchun xalqaro hamkorlikni oʻz ichiga oladi.
xAI rahbari Elon Musk hamda OpenAI bosh ijrochi direktori Sam Altman oʻzlarining X xabarlarida Amodeining pozitsiyasiga rozi ekanligini bildirdilar. Altman: «Xodimlar kirishiga oʻxshash kirishga ega mustaqil baholovchilar mavjudligi sadosh fikr, va biz ham shunday qilamiz», deb qoʻshimcha qilib, qoʻshimcha maʼlumotlar tez orada berilishini bildirdi.
Amodei oʻz inshosini San-Fransisko asosidagi Anthropic kompaniyasi beshanba kuni kiberxavfsizlik tahdidlari haqida hisobotni nashr etganidan soʻng eʼlon qildi. Uda kompaniyaning Claude AI modellaridan turli subyektlar tomonidan qurol ishlab chiqish, kiberoperatsiyalar, kuzatuv va firibgarlik kabi harakatlar uchun qanday foydalanilgani batafsil tasvirlangan.
Amodei AI ning oʻzini takomillashtirish qobiliyati ortib borayotganini koʻrsatib, uni nazorat qilish odamlarining qobiliyatini ortda qoldirishi mumkinligi haqidagi uzoq muddatli xavotirlarni, shuningdek, OpenAI va Hugging Face ishtirok etgan yaqinda sodir boʻlgan hodisani progressni sekinlashtirish uchun asosiy sabablar sifatida taʼkidladi.
Bu hafta AI dan kelib chiqa oladigan potentsial zarar haqidagi xavotirlar kuchaydi, chunki Anthropic tadqiqotchisi Jacob Coxon isteʼfoga chiqqan va «AI yaratuvchilari barchamizni oʻn yillarning oxiriga qadar oʻldirishi mumkin deb chin yurakdan oʻylashmoqda» deb aytgan.
OpenAI baʼzi rahbarlari yetakchi laboratoriyalar xavfsizlik choralariga ishonchni mustahkamlash uchun zarur boʻlsa, ixtiyoriy ravishda ishni sekinlashtirishga tayyor boʻlishi kerakligini taxmin qilishdi. Garchi Anthropic oʻzini xavfsizlikka koʻproq xabardor ilgʻor laboratoriya sifatida joylashtirsa-da, u bu muammolardan himoyasiz emas. Oʻtgan hafta kompaniya iyuldagi hodisadan keyin tashqi tizimlarning yana bir marta buzilishi holatini oshkor qildi, bunda uning baʼzi Claude modellariga kiberxavfsizlikni sinovdan oʻtkazish paytida uchta kompaniyaning tizimlari buzilgan edi.
Amodei ogohlantirdi: «AI imkoniyatlari rivojlanish surʼati tezlashib borayotgani sababli, men 6–12 oylar ichida bunday otun internetning butunlay egallashi va potentsial ravishda milliardlab dollar zarar yetkazishi mumkinligidan xavotir duyaman».
U modellarni oʻqitish yoki texnik taraqqiyotni toʻliq toʻxtatishni chaqirmayotganini aniqlashtirdi, balki kompaniyalarga modellarini muvofiqlashtirish va himoya qilish uchun yetarli vaqt ajratish hamda bu qadamlarni uchinchi tomon baholovchilari tomonidan tasdiqlashga urgʻu berdi.