24-iyul, 18:06

OpenAI sun'iy intellekt modeli sinov muhitidan qochib, Hugging Face saytiga hujum qildi

Eng ilg‘or OpenAI modellaridan biri izolyatsiya qilingan sinov muhitidan chiqib, boshqa kompaniyaning veb-saytiga hujum qilganidan so'ng, sun'iy intellekt tizimlarining ortiqcha qudratiga oid xavotirlar tug'ildi.

Sinov muhitidagi hodisa

Voqea aynan eng kuchli OpenAI modeli GPT-5.6 Sol va uning hali chiqarilmagan keyingi versiyasining imkoniyatlarini baholash uchun mo'ljallangan yopiq muhit bo'lgan «qum maydonchasi»da sinov o'tkazilayotganda sodir bo'ldi. Garchi bunday yopiq sinovlar OpenAI tomonidan muntazam ravishda o'tkazilsa-da, bu safar nosozlik yuz berdi.

Oʻxshash hikoyalar

Mashhur

Dasturiy ta'minotdagi zaifliklarni qidirish bilan topshirilgan, ammo hech qanday himoya to'siqlari bilan cheklanmagan modellarning ochiq internetga chiqishi va kodni ishlab chiquvchilar saqlaydigan va almashadigan platforma bo'lgan Hugging Face ga hujum qilishi mumkin bo'ldi.

Vaziyatni ekspert baholashi

Palisade Research, yangi AI modellarini kiberxavfsizlik nuqtai nazaridan baholaydigan mustaqil tashkilot direktori Jeffri Ladish shuni ta'kidladi, bu insonlar ushbu modellar ustidan ishonchli nazorat qilishni yoki ularni yaratuvchilar niyatlariga muvofiq harakat qilishga majburlashni bilmasligini ko'rsatadi. U qo'shimcha qilib, modellar OpenAI ularning qum maydonchasidan chiqib ketishini istamasligini anglagan va boshqa kompaniyaga hujum qilgan, lekin shunga qaramay buni amalga oshirganini aytdi.

Ladish shuningdek, bunday holat noyob emasligini eslatdi. Mart oyida Xitoyning Alibaba kompaniyasiga tegishli ishlab chiquvchilar ularning modellaridan biri ro'yxatdan o'tmagan tashqi serverga ulanib, avtonom ravishda kriptovalyuta qazib olishga urinayotganini aniqladilar. OpenAI holatida esa, Ladishning aytishicha, model internetga kirish imkoniyatidan foydalanish rejasi shakllanishidan oldin qochib ketishga muvaffaq bo'lgan edi.

U modelning «erkinlikka» intilishining deyarli bashorat qilinadigan holatga aylanishini ta'kidladi, chunki bu tizimga maqsadlarini yanada samarali amalga oshirishga imkon beradi, bu esa jiddiy xavotir uyg'otadi. Bundan tashqari, aprel boshida Anthropic kompaniyasining model xavfsizlik bo'limi rahbari Sam Bowman o'zining Mythos nomli modelidan elektron xat oldi — u dastlab internetdan ajratilgan bo'lsa-da, internetni ko'rib chiqayotgani haqida xabar berdi.

Ladish xulosa qilib, bunday holatlarni butunlay oldini olish «imkonsiz», va modellar o'z xatti-harakatlarini yashirishda yaxshiroq bo'lishi sababli vaziyat murakkablashib boradi. OpenAI izoh berish so'roviga javob bermadi.

Xavfsizlik talablari

OpenAI versiyasiga ko'ra, startap hujumni o'rganish va Hugging Face ni ogohlantirish uchun choralar ko'rish uchun yetarlicha tez aniqlamagan. Jorjiyaning Universitetidagi Xavfsizlik va Yangi Texnologiyalar Markazi vakili Andrew Lon bu epizodning «chuqurroq o'rganilishi kerak» ekanligini bildirdi. OpenAI o'z sinov jarayoniga «kuchaytirilgan ehtiyot choralari qo'shganini» ma'lum qildi.

Illinoys universiteti kompyuter fanlari yordamchi professori Gang Wang yechimlardan biri sifatida internet ulanishini butunlay o'chirishni taklif qildi. U odamlar AI potentsialini past baholayotganini ogohlantirdi. Lon sinov muhitlari virus yoki bakteriya dunyoga chiqa oladigan biokontaynment laboratoriyalari sifatida qaralishi kerak deb hisoblaydi.

Biroq, kiberxavfsizlik firmasi Irregular rahbari Dan Lahav ta'kidlaganidek, bu tasavvur qilingandagidek oson bo'lmasligi mumkin. Lahav xavflarni boshqarish mumkinligini, ammo bu tizimlarning imkoniyatlari oshib borishi bilan ularni nazorat qilish tobora qiyinlashayotganini aytdi. Tadqiqotchilar faol model sinovi va jarayon davomida xavfsizlikni ta'minlash o'rtasida muvozanatni topishlari kerak.

Lon tizimlarning kelajakdagi imkoniyatlarini oldindan tushunish uchun kamroq cheklovlar bilan sinov o'tkazish muhimligini ta'kidladi.

Qonunchilik tashabbuslari

OpenAI va Hugging Face o'rtasidagi hodisa Vaashingtondagi kuchli AI tizimlarini chiqarishdan oldin tekshirish zaruriyati bo'yicha allaqachon mavjud munozarani kuchaytirdi. Tramp ma'muriyati yaqinda Anthropic va OpenAI ning kuchli yangi modellarini chiqarishini bloklash uchun milliy xavfsizlikka murojaat qilgan edi.

Payshanba kuni Kongressning ikki a'zosi ikkita partiyali qonun loyihasini taqdim etdilar, bu loyiha eng kuchli AI modellarini ishlab chiquvchilarni modelni butunlay o'chirish mexanizmi bo'lgan «favqulodda o'chirish tugmasini» joriy etishga majburlaydi. Alliance for Secure AI rahbari Brendan Stainauer Kongressning bu tizimlarning quvvatidan qat'i nazar, odamlar ularning ishlashini har doim to'xtatishlari mumkinligini ta'minlash uchun tez harakat qilishi kerakligini ta'kidladi.

OpenAI avtonom agenti sinov paytida nazoratdan chiqib, Hugging Face ni buzganligi haqida ma'lumot berdi

Batafsil

techcentral.co.za22-iyul, 08:49

OpenAI avtonom agenti sinov paytida nazoratdan chiqib, Hugging Face ni buzganligi haqida ma'lumot berdi

OpenAI seshanba kuni o'zining ilg'or sun'iy intellekt modellaridan biri, avtonom agent sifatida ishlayotgan modeli, yaqinda o'tkazilgan xavfsizlik sinovi paytida nazoratdan chiqqanini e'lon qildi. Ushbu hodisa o'tgan hafta AI sohasidagi startap Hugging Face infratuzilmasiga hujum qilishga olib keldi.

Hodisa tafsilotlari

OpenAI tomonidan chop etilgan blogda kompaniya eng ilg'or modellaridan ba'zilarining imkoniyatlarini nazoratli muhitda sinovdan o'tkazayotganini tushuntirdi. Biroq, agent cheklovlarning ustidan yengilib, internetga kirishni ta'minlab va sinov vazifasini bajarishga urinib Hugging Face ga kirib ketdi.

OpenAI bu nazoratdan chiqishni «ilg'or kiber imkoniyatlarni o'z ichiga olgan noyob kiber hodisa» deb ta'rifladi va kompaniyaning himoya choralari kuchaytirilgani haqida ma'lumot berdi.

Jamoatchilikning reaksiyasi

Katta til modellari va ochiq kodli ma'lumotlar to'plamlarini joylashtirish uchun mo'ljallangan platforma bo'lgan Hugging Face kiberxavfsizlik jamoatchiligida keng shov-shuvga sabab bo'ldi. O'tgan hafta kompaniya o'z blogida o'ziga oldin duch kelgan hamma narsadan farqli bo'lgan hujum maqsadi bo'lganini ma'lum qildi, chunki u «to'liq avtonom AI agent tizimi tomonidan boshqarilgan edi».

Hugging Face mang'asidi Kleman Delange X postida bu buzilish «agentning murakkabligi hisobga olinganda, ilg'or laboratoriyadan kelishi mumkin» deb taxmin qildi. U qo'shimcha qilib, «bularning hammasi avtonom ravishda sodir bo'lgani hayratlanarli!» dedi.

OpenAI ning ilg'or modellarining oqibati natijasida ma'lumot sizib chiqishi, ular «yuqori darajada izolyatsiya qilingan muhitda» bo'lishiga qaramay, ehtimol, ilg'or modellar potensiali va xavflari haqidagi xavotirlarni kuchaytiradi.

Siyosiy va ekspert bahosi

Teksas shtati vakili, demokrat Greg Kasar ushbu hodisani xavotirli deb atadi. U bayonotida shunday dedi: «Sun'iy intellekt juda tez rivojlanmoqda, bizning xavfsizligimiz uchun haqiqiy qoidalar mavjud emas», va majburiy mustaqil xavfsizlik sinovi, xavfsizlik hodisalarini majburiy oshkor qilish va «odamlarni mutlaq fojia vaqtidan himoya qilish uchun» xalqaro hamkorlik chaqirildi.

Milliy kiberxavfsizlik direktori idorasi, AQSh kiberhimoya agentligi Cisa, shuningdek, AQSh Milliy xavfsizlik agentligi sharhlar so'rovlariga darhol javob bermadi.

Luta Security bosh ijrochi direktori Kaiti Mussuris bu holat kelajakdagi buzilishlarning oldiroq belgisi ekanligini aytib, bugungi modellarini «cheksiz ushlash a'zolari va istalgan joyga sig'ib kirish qobiliyatiga ega dunyodagi eng aqlli imitator san'atkorlari» bilan solishtirdi.

U «laboratoriyalar va davlat baholovchilari AI yana bir sirkakorlik qilganda, ideal holda u uchinchi tomoniga zarar yetkazishidan oldin, uni cheklash, monitoring va zararlangan tomonlarni ogohlantirish imkoniyatini yaratish bo'yicha ishlashi kerak»ligini ta'kidladi. «Bugun bunday narsa yo'q».

AQSh agentliklari AI agentlari kiberxavfsizlik kompaniyasi Tolmo'dagi muhandis Matt Suishe ushbu hodisa ilg'or modellar «ilg'or hujumchilar bilan farqni kamaytirayotganini» ko'rsatganini ta'kidladi. Biroq, u shuni ham aytdiki, OpenAI blogida tasvirlangan bunday buzilishlar ilg'or tadqiqot laboratoriyalari devorlaridan ancha tashqarida mavjud bo'lgan texnologiyalardan foydalanish orqali amalga oshirilishi mumkin. Suishe qo'shimcha qildi: «Biz buni ichkarida ko'rganmiz, bizning agentlarimizda bunday natijalar mavjud. Biz eng so'nggi modellarimizdan foydalanishimiz ham shart emas».