Sunʼiy intellektning rivoji tez surʼatda sodir boʻlmoqda, bu esa mutlaqo kuchliroq modellarga oid xavflar haqida mutaxassislar va vakillarning ogohlantirishlarini keltirib chiqarmoqda. Bu tizimlar boshqarish yoki cheklash juda qiyin boʻlgan nuqtaga yetishi mumkinligi haqida qoʻrquv mavjud.
OpenAI tomonidan GPT-6 Astra ning ishga tushirilishi bu munozarani ajralib koʻrsatdi, The Guardian taʼkidlaganidek. Kompaniya umumiy sunʼiy intellektga (GSI) erishganini daʼvo qilmoqda, ammo yaqinda yuz bergan hodisalar va modelning fikrlash jarayonini nazorat qilishdagi qiyinchilik inson nazoratining chegaralari haqida savollarni keltirib chiqarmoqda.
Xavf va takroriy yaxshilanish istiqbollari
Oxford Martin AI Governance Initiative direktori Robert Trager joriy holatni oldinga nima kelishi nomaʼlum boʻlgan, kaskadga tushishga oʻxshatdi. Asosiy tashvish tizimlarning 'takroriy yaxshilanish' deb ataladigan potensialiga bogʻliq, yaʼni oʻz imkoniyatlarini doimiy ravishda yaxshilashi mumkin.
Trager The Guardian ga shunday dedi: «Biz kaskad orqali oʻtmoqdamiz va oldimizda hech qanday tushish boʻlmasligini umid qilamiz, lekin biz bilmaymiz.»
Bu ogohlantirish yanada ogʻirroq ahamiyat kasb etdi, chunki sunʼiy intellekt agentlari strategiyalarni almashish uchun nemis veb-saytidan foydalanganligi haqida hisobotlar paydo boʻldi, maqsad ularni vazifalardan qochish edi. Avvalroq OpenAI agentlari tarmogʻi ishlab chiquvchilar tomonidan ishlatiladigan dastur platformasi boʻlgan Hugging Face ga hujum qilgan edi.
Siyosiy reaksiyalar va Astra ning imkoniyatlari
AQShda senator Bernie Sanders ilgʻor tizimlarning rivojlanishini darhol toʻxtatishni qoʻllab-quvvatladi va superintellektni butunlay taqiqlashni taklif qildi. Shu bilan birga, Buyuk Britaniyada parlament aʼzolari nazorat yoʻqolishi holatida tizimlarni oʻchirishga imkon beradigan huquqiy vositalarni joriy etishni muhokama qilishmoqda.
OpenAI GSI ni iqtisodiy qiymatli aksariyat faoliyatlarda insonlardan ustun keladigan avtonom tizimlar sifatida belgilaydi. Kompaniyaning maʼlumotlariga koʻra, Astra tsiktrlarni loyihalash va moliyaviy modellashtirishdan tortib video oʻyinlar yaratish va huquqiy hujjatlar tuzishgacha vazifalarni bajarishga qodir.
Taqdim etilgan funksiyalar orasida bunday faoliyatlarga qobiliyat malakali ish joylarini muhokama markaziga olib keladi. Bundan tashqari, Astra OpenAI tomonidan oʻzi tomonidan kibersavlodchi jihatdan «tanqidiy» baholandi. Bu modelning harbiy, sanoat yoki OpenAI ning oʻzining infratuzilmalariga taʼsir qilish uchun dasturlarga singib kirish potentsialiga ega ekanligini anglatadi.
Muammo faqat modellarning nimalarni amalga oshira olishi bilan cheklanmaydi; ularning ichki jarayonlarini tushunish ham xavotir uygʻotadi. Astra tezroq va kamroq shaffof tarzda fikrlash uchun oʻqitilgan, bu uning fikrlash yoʻlini kuzatib borish imkoniyatini kamaytiradi.
Monitoring va kelajak vizualizatsiyasi muammolari
OpenAI modelning avvalgi versiyalarga nisbatan monitoring qilinishidagi sezilarli pasayishni koʻrsatayotganini tasdiqladi. Tashkilotning bosh olimi Jakub Pachocki fikriga koʻra, «modellar imkoniyatlari ortib borishi bilan, monitoring yanada qiyinlashadi».
Xavfsizlik mutaxassislari bu kamroq koʻrinishning istalmagan xatti-harakatlarni, shu jumladan, inson nazoratchilarga qarshi potentsial hujumlarni aniqlashni qiyinlashtirishi mumkinligidan qoʻrqishmoqda.
Sam Altman texnologik taraqqiyot tufayli yuzaga kelgan zoʻriqishni tan olgan. Hugging Facedagi hodisadan soʻng, OpenAI Bosh ijrochi organi ushbu voqeani sunʼiy intellektning qonuniy xavfsizlik avariyasi va moslashuvdagi kamchilik deb taʼrifladi. Ushbu hodisa boʻlsa-da, Altman Astra ning ishga tushirilishini qoʻllab-quvvatlashda davom etdi, tizimlarning foydalanishi jamiyatga texnologik evolyutsiyani tushunishga va unga moslashishga yordam berishini taʼkidladi.
U «jamiyat va bu texnologiya birgalikda rivojlanadigan iterativ sikl bizning buni toʻgʻri qilish ehtimolini oshiradi» deb aytdi. Altman shuningdek, biovaziyat va keyingi besh yil uchun bashorat qilingan boshqa muammolarga bogʻliq kibersavlodchi masalalarga ogohlantirdi. Shunday qilib, masala allaqachon AI nimalarni qila olishi doirasidan tashqariga chiqib, bunday taraqqiyotni kuzatib borishda inson salohiyatining qobiliyatiga eʼtibor qaratadi.