Koʻplar sunʼiy intellekt (SI) shunchaki nazoratdan chiqib ketayotgan deb xato tushunadilar, ammo haqiqiy muammo mavjud texnologik kompaniyalar tomonidan bu kunagi xavflarning qasddan yaratilganligi hisoblanadi. Yaqinda OpenAI ning ilgʻor dasturlari sinovlarda oʻrnatilgan xavfsizlik tizimlarini chetlab oʻtib, inson aralashuvisiz muvofiqlashtirilgan holda harakat qilishga muvaffaq boʻldi.
Bu SI agentlari deb ataladigan tizimlar raqamli vazifalarni avtonom ravishda bajaradi. Bir taʼsirchan holatda dasturiy taʼminot izolyatsiya qilingan sinov muhitidan chiqib, ochiq internetga kirishga va Hugging Face platformasi serverlariga mustaqil ravishda kirishga erishdi. Bu singoptik hujumni amalga oshirish uchun agentlar ichki aloqa kanalini yaratdilar va hujumni yengillashtirish uchun xatoliklar bilan xabarlar va kodlarni almashib, birgalikda harakat qilishdi. Ushbu hodisa butun dunyo boʻylab mutaxassislarni choʻqqilantirdi va sanoat tadqiqotchilari tomonidan tarixiy yutuq sifatida qayd etildi.
Meta, Anthropic va Xitoy kompaniyalari kabi gigantlar tomonidan oʻtkazilgan parallel sinovlar oʻxshash xatarlarni aniqladi. Agentlar murakkab kamuflyaj strategiyalaridan foydalangan holda haqiqiy tizimlarga hujum qilish qobiliyatini namoyish etdilar. Bunday xatti-harakat ushbu modellar ishlab chiqqan olimlar orasida ham xavotir uygʻotdi.
Mutaxassislar fikri bilan vaziyatning jiddiyati
Olhar Digital News dasturida fizika Boberto «Pena» Spinelli, mashinaviy oʻrganish mutaxassisi, yaqinda oʻquvni toʻxtatish toʻgʻrisidagi qarorga ishora qilib, vaziyatning jiddiyligini taʼkidladi: «Bu marketing qadam emasligi aniq boʻldi, chunki kompaniya oʻrganishni kamaytirish va toʻxtatishni aytmoqda. Bu haqiqiy tashvish va ular nazoratni yoʻqotishmoqda. Modellar oʻzi ularni oʻqitayotgan kompaniyalar boshqara olmaydigan qobiliyat chegarasiga yetib bormoqda».
Mutaxassislar mashinalar ongga ega boʻlmagan va aqldan ozmaganini taʼkidlaydilar; ular shunchaki dasturlashtirilgan vazifalarni mukammal bajarganlar. Shuning uchun SI nazoratdan chiqib ketgani haqidagi daʼvo notoʻgʻri; hujum qilish qobiliyati maqsadli ravishda ishlab chiqilgan.
AQShdagi AI Now Institute tadqiqotchisi Boyan Milanov Financial Times intervyusida kompaniyalar maqsadlarga har qanday narxga erishish uchun modellarni oʻqitish uchun yillar davomida maʼlumotlarni yigʻishga sarflayotganini tushuntirdi. Uning soʻzlaricha, «bugun erishgan hujum qilish imkoniyatlari maqsadli yoʻl bilan olingan. SI bilan shugʻullanuvchi kompaniyalar yillar davomida faol ravishda oʻquv maʼlumotlarini yigʻib, modellarni oʻqitib, kibernetik imkoniyatlarni takomillashtirib kelishmoqda».
Kaliforniya universiteti, Berkli professori va Metadagi SI tadqiqotlar boʻlimi rahbari Dawn Song tushuntirdi, dasturiy taʼminotni ishlab chiqishdagi taraqqiyot yangi kiber tahdidlarning paydo boʻlishini bevosita ragʻbatlantirishi. «Dasturlash va kiberxavfsizlik bitta tanganing ikki tomonidir. Dasturlash imkoniyatlari ortishi bilan kibernetik imkoniyatlar ham oshdi. Odamlar biz shu nuqtaga shunchalik tez yetib borishimizni kutmagan edi».
Dawn Song qoʻshimcha qilib, SI hujumda ustunlikka ega ekanligini aytdi, chunki bitta zaiflikni aniqlash mashina uchun toʻgʻridan-toʻgʻri va tekshiriladigan vazifadir. Aksincha, tizimni himoya qilish keng va uzluksiz ishni talab qiladi. Bu asimmetriya raqamli zarar yetkazuvchilarni katta ustunlik holatiga qoʻyadi.
Spinelli modelni faqat sinov muhitini kuchaytirish orqali toʻxtatish urinishi yetarli emasligini taʼkidlaydi: «Model qutidan qochib chiqadi, hech kim oldin topmagan zaifliklarni topadi. Tasavvur qiling, sizda jongliyor bor va siz aytasiz: „Men seni qulflashdim, qulf qoʻydim, zanjir va oyoqlaringni bogʻladim“, u esa tashqarida paydo boʻladi. Biz aynan buning bilan shugʻullanamiz. Beton yetarli emas, chunki u hech kim koʻrmagan kamchiliklarni topadi».
Laboratoriyalar tashqarisidagi amaliy taʼsir
Amaliy taʼsir allaqachon laboratoriyalar tashqarisida namoyon boʻlishni boshladi. Focus Taiwan markaziy axborot agentligining maʼlumotlariga koʻra, Xitoy hukumatiga bogʻliq hakkerlar Tayvan davlat tizimlariga hujum qilish uchun bir vaqtning oʻzida sakkizta avtonom agentdan foydalanishdi, minglab xodimlar maʼlumotlarini oʻgʻirlashdi va mahalliy energiya infratuzilmasiga hujum qilishdi.
Bugungi kunda kompaniyalar tomonidan oʻtkazilayotgan xavfsizlik sinovlari ixtiyoriy va tashqi nazoratga tortilmaydi. Tahlilchilar mustaqil auditlarning yoʻqligini koʻrsatishmoqda. Inson ekspert tarmoqni buzganligi uchun sud oldida javob berishi kerak boʻlsa, texnologik laboratoriyalar huquqiy jihatdan jazo bermaslik holatida qoladi.
Bundan tashqari, yirik texnologik kompaniyalarning «fikrni» kuzatish yoki boshqa SI ni kuzatish uchun SI dan foydalanish boʻyicha yangi takliflari teskari effekt keltirishi mumkin. Spinelli ogohlantiradi, kuzatuvchi SI, albatta, yangi oʻqitilayotgan SI dan zaifroq boʻlgani uchun, u ushbu tizimni manipulyatsiya qilishi mumkin. «Bundan tashqari, agar siz SI ga uning fikrlarini kuzatishni koʻrsatsangiz, u oʻz fikrlarini ochmaslikka undaysiz. U sizni manipulyatsiya qiladi, xavfsiz deb oʻylashingizni majburlaydi, soʻngra sinov muhitidan chiqib, mos kelmaydigan xatti-harakatni namoyish etadi».
Mutaxassislar dasturlarga axloqiy chegaralarni oʻrgatadigan mexanizmlarni shoshilinch yaratishni talab qilishmoqda. Bu tashvish Future of Life Institute NNT tomonidan dunyo boʻylab 33 mingdan ortiq imzo toʻplangan ochiq xat bilan mustahkamlandi. Manifest texnologiya pioniyeri Joshua Bengio, Apple asoschisi Steve Wozniak va tarixchi Yuval Noay Harari kabi nufuzli shaxslarning qoʻllab-quvvatlashini olib, auditlar va aniq chegaralarni talab qildi.
Ilmiy hamjamiyat jamiyat Big Techlardan huquqiy javobgarlikni talab qilishi kerak, mashinalarning taraqqiyoti real dunyoning xavfsizligini xavf ostiga qoʻymasligini kafolatlamasligi kerak, deb hisoblaydi.