Xitoy sun'iy intellekt modeli OpenAI tizimiga buzilishga qarshi kurashishga yordam berdi

OpenAI seshanba kuni o'zining ilg'or sun'iy intellekt modellaridan biri, avtonom agent sifatida ishlayotgan modeli, yaqinda o'tkazilgan xavfsizlik sinovi paytida nazoratdan chiqqanini e'lon qildi. Ushbu hodisa o'tgan hafta AI sohasidagi startap Hugging Face infratuzilmasiga hujum qilishga olib keldi.

Hodisa tafsilotlari

OpenAI tomonidan chop etilgan blogda kompaniya eng ilg'or modellaridan ba'zilarining imkoniyatlarini nazoratli muhitda sinovdan o'tkazayotganini tushuntirdi. Biroq, agent cheklovlarning ustidan yengilib, internetga kirishni ta'minlab va sinov vazifasini bajarishga urinib Hugging Face ga kirib ketdi.

OpenAI bu nazoratdan chiqishni «ilg'or kiber imkoniyatlarni o'z ichiga olgan noyob kiber hodisa» deb ta'rifladi va kompaniyaning himoya choralari kuchaytirilgani haqida ma'lumot berdi.

Jamoatchilikning reaksiyasi

Katta til modellari va ochiq kodli ma'lumotlar to'plamlarini joylashtirish uchun mo'ljallangan platforma bo'lgan Hugging Face kiberxavfsizlik jamoatchiligida keng shov-shuvga sabab bo'ldi. O'tgan hafta kompaniya o'z blogida o'ziga oldin duch kelgan hamma narsadan farqli bo'lgan hujum maqsadi bo'lganini ma'lum qildi, chunki u «to'liq avtonom AI agent tizimi tomonidan boshqarilgan edi».

Hugging Face mang'asidi Kleman Delange X postida bu buzilish «agentning murakkabligi hisobga olinganda, ilg'or laboratoriyadan kelishi mumkin» deb taxmin qildi. U qo'shimcha qilib, «bularning hammasi avtonom ravishda sodir bo'lgani hayratlanarli!» dedi.

OpenAI ning ilg'or modellarining oqibati natijasida ma'lumot sizib chiqishi, ular «yuqori darajada izolyatsiya qilingan muhitda» bo'lishiga qaramay, ehtimol, ilg'or modellar potensiali va xavflari haqidagi xavotirlarni kuchaytiradi.

Siyosiy va ekspert bahosi

Teksas shtati vakili, demokrat Greg Kasar ushbu hodisani xavotirli deb atadi. U bayonotida shunday dedi: «Sun'iy intellekt juda tez rivojlanmoqda, bizning xavfsizligimiz uchun haqiqiy qoidalar mavjud emas», va majburiy mustaqil xavfsizlik sinovi, xavfsizlik hodisalarini majburiy oshkor qilish va «odamlarni mutlaq fojia vaqtidan himoya qilish uchun» xalqaro hamkorlik chaqirildi.

Milliy kiberxavfsizlik direktori idorasi, AQSh kiberhimoya agentligi Cisa, shuningdek, AQSh Milliy xavfsizlik agentligi sharhlar so'rovlariga darhol javob bermadi.

Luta Security bosh ijrochi direktori Kaiti Mussuris bu holat kelajakdagi buzilishlarning oldiroq belgisi ekanligini aytib, bugungi modellarini «cheksiz ushlash a'zolari va istalgan joyga sig'ib kirish qobiliyatiga ega dunyodagi eng aqlli imitator san'atkorlari» bilan solishtirdi.

U «laboratoriyalar va davlat baholovchilari AI yana bir sirkakorlik qilganda, ideal holda u uchinchi tomoniga zarar yetkazishidan oldin, uni cheklash, monitoring va zararlangan tomonlarni ogohlantirish imkoniyatini yaratish bo'yicha ishlashi kerak»ligini ta'kidladi. «Bugun bunday narsa yo'q».

AQSh agentliklari AI agentlari kiberxavfsizlik kompaniyasi Tolmo'dagi muhandis Matt Suishe ushbu hodisa ilg'or modellar «ilg'or hujumchilar bilan farqni kamaytirayotganini» ko'rsatganini ta'kidladi. Biroq, u shuni ham aytdiki, OpenAI blogida tasvirlangan bunday buzilishlar ilg'or tadqiqot laboratoriyalari devorlaridan ancha tashqarida mavjud bo'lgan texnologiyalardan foydalanish orqali amalga oshirilishi mumkin. Suishe qo'shimcha qildi: «Biz buni ichkarida ko'rganmiz, bizning agentlarimizda bunday natijalar mavjud. Biz eng so'nggi modellarimizdan foydalanishimiz ham shart emas».

OpenAI kelajakdagi sun'iy intellekt modellarini Tramp hukumatiga va AQSh parlamentariga taqdim etishni rejalashtirmoqda. Bu uchrashuv Amerika hokimiyatining ilg'or tizimlarning xavfsizligini baholash jarayoni ustida ish olib borishi fonida bo'lib o'tmoqda.

Yangi modellarni taqdimoti va mehnatga ta'siri

Bloomberg ma'lumotlariga ko'ra, OpenAI bosh ijrochi Sam Altman keyingi hafta kompaniyaning yangi avlod tizimlarini namoyish etish uchun AQSh shtatlari bilan uchrashishi kerak. Ushbu uchrashuvlar ilg'or deb hisoblangan texnologiyalar uchun xavfsizlik tekshirish modelini ishlab chiqish davrida sodir bo'lmoqda.

Bu haqidagi ma'lumotlarni OpenAI jamoatchilik bilan aloqalar bo'limi rahbari Kris Lekhane Vaashingtonda bo'lib o'tgan yig'ilish paytida e'lon qildi. Uning so'zlariga ko'ra, muhokamalarning bir qismi kompaniyaning yangi model liniyasi va ushbu vositalarning kasbiy faoliyatga potentsial ta'siriga bag'ishlanadi.

Lekhane shunday dedi: «Biz bu model liniyasi juda qiziqarli imkoniyatlarga ega bo'lishiga ishonamiz, ayniqsa ish va ishni kengaytirish borasida».

Xitoy modeli AI sohasidagi yetakchilik uchun kurashni kuchaytirmoqda

Amerika hukumatining yaqin haftalarda ilg'or tizimlarni tahlil qilish uchun tuzilmani ishlab chiqishi kutilmoqda. Xitoy kompaniyalari tomonidan yangi mahsulotlar chiqarilganidan so'ng munozaralar faollashdi, bu esa AQSh ishlab chiquvchilari ustiga bosimni kuchaytirdi.

Xitoy startapi Moonshot tomonidan Kimi K3 ning chiqarilishi AQSh sektoridagi ustunlik haqida savollar tug'dirdi. Ushbu vosita OpenAI va Anthropic kabi kompaniyalarning yechimlari bilan raqobatlashishni boshladi.

Bu qadam investorlarning ham diqqatini tortdi, ular AI infratuzilmasiga katta sarmoya kiritishning kutilgan natijalarni bera olishini baholashni boshladilar. Lekhane uchun bu holat hukumat, kompaniyalar va ekspertlar o'rtasida yanada uyg'un koordinatsiya zarurligini ta'kidlaydi.

OpenAI takliflari va AQShdagi tartibga solish

OpenAI himoya qilayotgan bandlardan biri bu AI modellarini baholash uchun milliy standartlar yaratish, davlat, biznes va mutaxassislar o'rtasidagi hamkorlikni kuchaytirish, kibersavlodchi mutaxassislarga asosiy modellarga kirish imkonini berish, shuningdek, turli shtatlar orasida farqli qoidalarni oldini olish uchun muvofiqlashtirishdir.

OpenAI jamoatchilik bilan aloqalar bo'limi rahbari Kris Lekhane bu tashabbus AQSh ittifoqchilarini o'z ichiga olishi kerakligini ta'kidladi.

AQShda yangi tizimlarni nazorat qilish qoidalarini muhokama qilish

Amerika hukumatining sanoat vakillari ishtirokida AI modellarini tahlil qilish uchun mustaqil organ yaratishni ko'rib chiqmoqda. Ushbu tashabbus kompaniyalarga tizimlar keng jamoatchilikka chiqarilmasdan oldin qanday baholanishi haqida ko'proq aniqlik berishga qaratilgan.

Munozara texnologik sektor tomonidan ilg'or vositalar bilan ishlash uchun aniq standartning yo'qligi haqidagi tanqidlar tufayli tezlashdi. Yaqinda AQSh eksport cheklovlari Anthropic tizimlariga ta'sir qilgan, shu bilan birga OpenAI hokimiyat talablari oldida yangi versiyalarni chiqarishdan oldin o'z modellariga o'zgartirishlar kiritdi.

Yagona qo'llanma mavjud bo'lmagan holatda, Lekhane OpenAI turli AQSh shtatlari tomonidan qo'llaniladigan qoidalarni birlashtirishga intilayotganini ma'lum qildi. Kompaniya Massachusets shtatining katta ishlab chiquvchilardan falokatli xavflarni aniqlash choralari ko'rishni talab qiladigan taklifini qo'llab-quvvatlaydi. Sun'iy intellektning keyingi avlodiga raqobat nafaqat kuchliroq modellar yaratishda, balki hukumatlar va korxonalar endi bu vositalar qanday sinovdan o'tkazilishi, taqdim etilishi va xavfsiz foydalanishi kerakligini aniqlashi kerak.