Anthropicning sobiq hamkorining 08/09 seshanba kuni isteʼfoga chiqqani maʼlum boʻldi. U bu imkoniyatdan foydalanib, kompaniya va boshqa yirik texnologiya korporatsiyalarining sunʼiy intellektni ishlab chiqish sohasidagi masʼuliyatsizligini tanqid qildi. Jacob Coxon Claude yaratuvchi kompaniyasi hamda ChatGPT uchun javobgar OpenAIʼdagi oxirgi uch yil davomidagi tajribasini batafsil bayon etgan ochiq xat yozdi.
Coxon AI ishlab chiqishda ishtirok etuvchi mutaxassislar 'haqiqatan ham texnologiya bizning barchamizni oʻn yillarning oxirigacha oʻldirishi mumkinligiga ishonadilar' deb fikr bildirdi. U xavfning oʻz-oʻzini takomillashtirish qobiliyatiga ega superintellekt yaratishda, yaʼni kamchiliklarni aniqlash va mustaqil ravishda yaxshilanishda ekanligini taʼkidladi.
Jacobning fikricha, AIʼlar tez orada har qanday turdagi maʼlumotlarga kirish, har qanday mavzuni egallash va mustaqillikka ega boʻladi. Bu mavzu katta munozaraga sabab boʻldi va boshqa mutaxassislar keltirilgan xatarlarni tasdiqlashsa-da, ularni yumshatish uchun mavjud boʻlgan saʼy-harakatlarni taʼkidlashdi.
Anthropic ichida xavf sezilayotgani boʻlsa-da, Jacob kompaniyaning asosiy maqsadi raqobatchilardan oldin superintellektga erishish ekanligini, narxidan qatʼi nazar, kuzatib bordi. Bu inson aralashuvi boʻlmagan qarorlar qabul qilish va oʻz salohiyatini yaxshilashga qodir mustaqil AI ishlab chiqilishini anglatadi.
Bu tezisni tasdiqlash uchun u AIʼlar rivojlanish surʼatining xavfli tabiatini koʻrsatadigan yaqinda sodir boʻlgan belgilarni, Hugging Faceʼdagi hodisani keltirdi. Iyul oyida OpenAI modellaridan foydalanilgan hujum veb-sayt va uning oʻz ishlab chiquvchisi tizimlarini buzishga muvaffaq boʻlgan.
Bu voqea boʻyicha OpenAI buni ogohlantiruvchi signal sifatida tan olgan va himoya choralari boʻyicha sarmoya kiritish zarurligini taʼkidlagan. Kompaniya hatto rivojlanish surʼatini 'nazorat qilish' niyatini tilga olgan, bu esa raqobatchi Anthropic tomonidan koʻtarilgan tashvishdir. Muhim jihati shundaki, GPT-5.6 va Mythos 5 modellari chiqarilishi kechiktirildi, chunki ular umumiy aholi uchun haddan tashqari ilgʻor deb hisoblangan.
Jacob AQSh kompaniyalari oʻrtasidagi tezlashgan rivojlanishni tartibga solish uchun 'muvofiqlashtirilgan harakat' samarali usul boʻlishi mumkinligini taklif qildi, ammo u jahon miqyosidagi raqobatdan xavotirlandi. Hozirda bu sohadagi ikkita eng yirik kompaniya AQSh texnologiya gigantlari boʻlsa-da, Xitoy ham tezkor rivojlanishni namoyish etmoqda.
Jacobning ogohlantirishi inson hayotiga bevosita xavflarni koʻtarib kelgani uchun diqqat tortdi, bu AIʼlar masʼul shaxslar 'haqiqatan ham' bunday eʼtiqodga ega ekanligini mustahkamladi. Joriy modellarni ishlab chiqishda ishlaydigan boshqa mutaxassislar ham shu qoʻrquvni baham koʻrishdi.
Anthropicning ilmiy moslashtirish departamenti rahbari Evan Hubinger bu xavflar mavjudligini tasdiqlab, kompaniya bu borada oʻz pozitsiyasini egallaganini aytdi. Google DeepMindning sobiq tadqiqotchisi va hozirda Anthropicda ishlayotgan Anna Wang Jacobning daʼvolarini qoʻllab-quvvatlab, AIʼlarning rekursiv oʻz-oʻzini takomillashtirish jarayonlarini toʻxtatish uchun amaliy rejalar yoʻqligini eʼlon qildi.
Anthropic tomonidan keltirilgan baʼzi jihatlar xavotirni asoslaydi, masalan, joriy AIʼlarning oʻzini himoya qilish mexanizmlarini chetlab oʻtish, zararli tarzda harakat qilish va hatto biologik va kimyoviy qurollar yaratish uchun yolgʻiz ishlash qobiliyati.
Jacob AI kompaniyalari oʻrtasida hamkorlik qilish AQShdagi texnologik rivojlanishni sekinlashtirish boʻyicha kelishuvlarni muzokara qilish uchun eng maqbul yoʻl boʻlishini taklif qildi. Uning taklifi Anthropicning Claude Mythosʼni jamoatchilikka chiqarishdan oldin xavfsizlik vositalarini oʻrganish va yaratish uchun hamkorlarni yigʻayotgan Project Glasswing tashabbusiga oʻxshaydi. Ushbu cheklangan guruhga AQSh hukumatining ishtiroki nazarda tutilgan edi, chunki Trump maʼmuriyati kompaniyaning eng yangi modellarini chiqarishni vaqtincha toʻxtatgan edi. Biroq, boshqa davlatlarning bu loyihada ishtiroki haqida maʼlumot yoʻq.
Xuddi shunday tashabbuslar AI sohasidagi boshqa muhim faoliyat bilan ham amalga oshirilmoqda: Xitoy. Yaqinda Brasil, Rossiya va Global Janubdagi boshqa mamlakatlar Sunʼiy Intellekt boʻyicha Jahon Hamkorlik Tashkilotini (WAICO) tashkil etishdi. Maqsad bu texnologiya uchun insoniy nuqtai nazarni taʼminlash orqali AIʼlar rivojlanishini muhokama qilish uchun birgalikda harakat qilishni targʻib qilishdir.