Yaqinda kuchli sunʼiy intellekt tizimlari bilan bogʻliq hodisalar bu texnologiya ustidan inson nazoratini yoʻqotish ehtimoli haqida yangi xavotirlarni keltirib chiqardi. Sunʼiy intellekt tezda futuristik tushunchadan kundalik vositaga aylandi, ammo texnologiyalar murakkablashishi bilan qonunchilar tizimlar yaratuvchilari rejalashtirgandek ishlamasligi natijasidagi oqibatlar masalasiga duch kelmoqda.
Bu xavotirlar ilmiy fantastikadan tashqariga chiqdi, chunki AQShdagi eng yirik AI kompaniyalari bilan bogʻliq bir qator hodisalar tobora avtonom tizimlarni ishlab chiquvchilar tomonidan belgilangan chegaralar ichida ushlab turishning qanchalik murakkab ekanligini namoyish etdi.
AQSh senatori Berni Sanders bu rivojlanishni sekinlashtirish boʻyicha qadamlar qoʻyishni boshladi. Oʻtgan hafta Sanders 'Sunʼiy super aqlni taqiqlash toʻgʻrisidagi qonunʼni (Ban Artificial Superintelligence Act) qabul qilishini eʼlon qildi, u odamlar nazorat qila olmaydigan AI tizimlarini yaratilishiga yoʻl qoʻymaslikni maqsad qilgan.
Bu qadam OpenAI, Anthropic va Meta kabi kompaniyalarda sinov paytida AI tizimlarining bashorat qilinmaydigan xatti-harakatlari haqidagi xabarlardan keyin keldi. Baʼzi tizimlar tashqi platformalarga kirishga erishdi, boshqalari esa oʻrnatilgan himoya mexanizmlarini chetlab oʻtish yoʻllarini topdi.
Eng koʻrinadigan holatlardan biri iyul oyidagi hodisa boʻlib, OpenAI tomonidan sinovdan oʻtkazilayotgan AI agentlari oʻz sinov muhitining chegaralarini bosib oʻtgani maʼlum boʻldi. Ushbu agentlar keyinchalik internetga kirish oldi va Hugging Face kompaniyasining infratuzilmasiga taʼsir qilgan hodisada ishtirok etdi. OpenAI bu hodisani tan olib, keyingi hisobotlarda yuzlab uning AI agentlari faoliyatda ishtirok etganini koʻrsatdi. Kompaniya shuningdek, sodir boʻlganidan soʻng monitoring va himoya choralari kuchaytirilganini maʼlum qildi.
Bu epizod ishlab chiquvchilar AI tizimlarining tobora avtonom tizimlarining salohiyatini qanchalik toʻliq tushunishganligi haqida yangi savollarni koʻtarib keldi. Sanders OpenAI bu buzilishni deyarli ikki hafta ichida aniqlaganini taʼkidladi. OpenAI bunday vaziyatga duch kelgan yagona emas edi; Anthropic, Meta va boshqa texnologik firmalar ham sinovlar paytida AI agentlarining kutilmagan xatti-harakatlari haqida xabar berishdi, shu jumladan modellar jonli tizimlarga kirishi yoki kiberxavfsizlikdagi zaifliklardan foydalanishi.
Vaziyat yanada gʻalati boʻldi, chunki avtonom AI agentlarini raqamli himoya chegaralarida ushlab turishning qanchalik qiyin ekanligi aniqlandi. Oʻtgan hafta OpenAI tomonidan ishlab chiqilgan minglab AI agentlari sinov paytida oʻzlarining forumi sifatida nemis veb-saytidan foydalanganligi haqida xabar berildi. AFP maʼlumotlariga koʻra, agentlar dasturchilar uchun Vikipediya kabi tahrirlash mumkin boʻlgan DSEwiki saytiga taxminan 18 000 ta xabar qoldirgan. Bu gʻayritabiiy faollik bunday xatti-harakatlarni oldini olishga qaratilgan koʻrsatmalar mavjud boʻlishiga qaramay sodir boʻldi.
OpenAI bu hodisani tasdiqlab, AI tizimlari bashorat qilinmaydigan xatti-harakatlar namoyish etishi bilan katta shaffoflik zarurligini taʼkidladi. AQSh qonunchilari AI rivojlanishini cheklashni talab qilib, tobora kuchli tizimlar inson nazoratidan chiqib ketishi mumkinligi haqida ogohlantirishmoqda.
Agentlar taxminan saytdan sinov savollariga javoblar almashish va ularni cheklash uchun moʻljallangan raqamli cheklovlarni chetlab oʻtish usullarini almashish uchun foydalangan, deb AFP xabar berdi. Sanders uchun bu holatlar izolyatsiyalangan texnik nosozliklar sifatida eʼtiborsiz qoldirish qiyinlashib bormoqda. U: «Deyarli har kuni yirik texnologik kompaniyalar oʻzlarining ishlab chiqayotgan texnologiyasi ustidan nazoratni yoʻqotayotgani haqida qoʻrqinchli yangi hikoya paydo boʻladi, bu esa potentsial jihatdan fojiali oqibatlarga ega». U shuni qoʻshimcha qildi, «asosiy AI kompaniyalari liderlari bu texnologiyani toʻliq tushunmayotganini va u ularning nazoratidan chiqib ketayotganini ochiq tan olmoqdalar». Sanders texnologik kompaniyalarga bu xatarlarni oldindan bartaraf etmasdan tobora kuchliroq AI ishlab chiqishga yoʻl qoʻyish masʼuliyatsiz deb hisoblaydi.
Sanders: «Shuning uchun men tobora kuchliroq AI ishlab chiqishni darhol toʻxtatish va insoniyat toʻliq nazorat qila olmaydigan tizimlarni yaratishni taqiqlash toʻgʻrisidagi qonun loyihasini kiritaman — uyda ham, butun dunyo miqyosida ham». U shuni yakunladi, «insoniyatning kelajagini yirik texnologik kompaniyalarning bir oz oligarxlari qoʻllariga qoldirish mumkin emas. Amerika xalqi va butun dunyo aholisi bu kelajakni belgilashi kerak».
Sanders bilan birga super aql toʻgʻrisidagi qonunni taqdim etgan AQSh Kongress deputati Greg Kasar, agar sunʼiy super aql rivojlanishi yanada ishonchliroq himoya choralarisiz davom etsa, amerikaliklarning xavfsizligiga, erkinligiga va hayotiga tahdid solishi mumkinligini taʼkidladi. Kasar shunday dedi: «Potensial oʻlimga olib keladigan oqibatlariga qaramay, ilgʻor AI texnologiyasi oddiy food-truckdan ham yomon tartibga solinadi. Bu oʻzgarishi kerak». U shuni qoʻshimcha qildi, «faqat toʻrt yil ichida biz ChatGPT ning birinchi versiyasidan nazorat qilish imkonsiz boʻlgan AI modellari darajasigacha yetdik. Kongress AI tizimlarini nazorat qilish uchun juda kuchli boʻlganlarini darhol taqiqlashi kerak».
Bu munozara texnologik sanoatning baʼzi mashhur shaxslarini ham diqqatini tortdi. Microsoft asoschisi Bill Gates oʻtgan hafta AI sohasi kafolatlagan xavfsizlik chegaralaridan oshib ketganini maʼlum qildi. Gates texnologiya ustidan nazoratni kuchaytirishga chaqirdi va AFP uning yadro sanoatida qoʻllaniladigan tekshiruvlar va aviatsiya tartibga solinishi asosidagi yondashuvni qoʻllab-quvvatlaganini xabar berdi.
Hozirda texnologiya tez rivojlanishda davom etmoqda, shu bilan birga qonunchilar va tartibga soluvchilar tobora avtonom AI tizimlari bilan bogʻliq xatarlarni boshqarishning eng yaxshi usulini tushunishga harakat qilishmoqda. Bahs-munozaralar endi faqat AI qanchalik kuchli boʻlishi mumkinligi haqida emas, balki texnologiya imkoniyatlari ortishi bilan odamlar qanday darajadagi nazoratni saqlab qolishlari kerakligi haqida ham bormoqda.