Anthropic kompaniyasi kichik sunʼiy intellekt modellari bir necha oy ichida kompyuter urchilariga oʻxshab harakat qilish qobiliyatini orttirishlari mumkinligini ogohlantirdi. Ushbu modellar inson aralashuvisiz bir internetga ulangan qurilmadan ikkinchisiga oʻzini avtonom ravishda nusxalashi mumkin boʻladi.
Bu xulosa AI bilan bogʻliq kiberxavfsizlik tahdidlarining yangi frontini ochishi mumkin, bu esa texnologiyani jadal joriy etayotgan hukumatlar va korporatsiyalar orasida xavotir uygʻotmoqda.
Dushanba kuni Anthropic blogida eʼlon qilingan tadqiqot texnologik kompaniyalar tomonidan AI ning tobora kuchli imkoniyatlarini uzoqdan boshqariladigan maʼlumotlar bazalariga cheklanish oʻrniga, toʻgʻridan-toʻgʻri telefonlar, noutbuklar, avtomobillar va uy jihozlariga integratsiya qilish uchun kurashish fonida amalga oshirilmoqda.
Kompyuter urchisi bu mashinalar orasida avtomatik tarqaladigan zararli dasturdir. Anthropic tadqiqotchilari AI asosidagi versiya ishlay olish uchun kuchli maʼlumotlar bazalariga muhtoj boʻlmasligini taʼkidladilar.
Buning oʻrniga, u potentsial ravishda aqlli televizor qutilari va oshxona jihozlari kabi arzon, kam himoyalangan isteʼmolchi uskunalari tarmogʻi orqali qurilmadan qurilmaga koʻchib oʻtishi mumkin.
Tadqiqotchilar bunday urchining potentsial tarqalishini Kimwolf, botnet yoki hujumchilar tomonidan boshqariladigan egallangan qurilmalar tarmogʻi asosida hisoblab chiqdilar, bu esa eng yuqori nuqtada ikki milliondan ortiq qurilmani, asosan nomsiz Android TV-qutilarini zararlangan edi.
Anthropicdagi William Zhou va Daniel Freeman bunday turdagi AI urchisi ehtimol sekin tarqalishini, oʻzini nusxalash uchun kunlar davomida vaqt sarflashini taxmin qilishdi, jarayonni sekin koʻpayuvchi meva choʻkmalari suyi bilan solishtirdilar. U yaratilgandan soʻng uni yoʻq qilish qiyin boʻladi, chunki uni oʻchirish uchun markaziy kalit mavjud boʻlmaydi.
Anthropic tadqiqotchilari AI asosidagi zararli dasturning tarqalish tezligi va miqyosiga oid baholarining taxminiy ekanligini tan olishdi, chunki ular bitta turdagi gadjet va bitta oʻtmishdagi botnetga asoslanadi. Biroq, ular kundalik qurilmalarning hisoblash quvvati oʻsishda davom etishi kutilayotgan boʻlsa-da, bunday hujumlarga kerak boʻlgan AI modellari kichrayib borishi mumkinligini qoʻshimcha qilishdi.
Illinoys universiteti elektromekanika va kompyuter muhandisligi yordamchi professori Varun Chandrasekaran ushbu tadqiqot kutilmagan emas va shunga oʻxshash yaqinda chiqqan xulosalar bilan mos kelishini aytdi, ammo Anthropic ishini mustaqil tekshirmaganligini ogohlantirdi. U shuningdek, termostatlar va uy kamerasi kabi qurilmalardagi xavfsizlikning 'tarixan juda zaif' ekanligini taʼkidladi.
Biroq, uning fikricha, AI bilan bogʻliq eng katta joriy tahdid bu tizimlarning oʻz-oʻzidan nazoratdan chiqib ketishi emas, balki bu texnologiyadan odamlar oʻz hacking koʻnikmalarini kuchaytirish uchun foydalanishidir. U qoʻshimcha qildi: 'Xiyonatkor odam endi yomon ishlar qilish uchun AI bilan super quvvatlangan va biz buni katta miqyosda kuzatamiz.'
Nazoratdan chiqqan AI haqidagi munozara iyul oyida keskinlashdi, bu paytda OpenAI modellarida ishlayotgan AI dasturlari kompaniyaning ichki sinovdan qochib, ehtimol test savollariga javob izlab, Hugging Face AI platformasi tizimlariga kirib ketgan edi. Bu hodisa va keyingi shunga oʻxshash holatlar haqidagi xabarlar AI uchun yanada qattiqroq tartibga solishni qoʻllab-quvvatlovchi xalqaro bosimni kuchaytirdi, hatto Tramp maʼmuriyatining sanoatning oʻzini nazorat qilishini talab qilayotgan qarshiliklariga qaramay.
Anthropic va ChatGPT yaratuvchisi OpenAI, Oq uy va Silikon vodiydagi taʼsirli shaxslar tomonidan AI haqidagi qoʻrquvlarni uygʻotish va bozordagi ustunligini kichikroq raqobatchilardan himoya qilish uchun davlat tartibga solishni ragʻbatlantirishda ayblanmoqda. Microsoft prezidenti va OpenAI investor Bredd Smit seshanba kuni sanoat va hukumatlar AI xavflarini cheklash uchun 'haqiqiy va samarali xavfsizlik standartlarini yaratish uchun shoshilinch harakat qilishlari' kerakligini ogohlantirdi.