OpenAI kompaniyasi mustaqil sun'iy intellekt agenti, mashhur dasturchilar platformasini buzganligi haqida ma'lumot berdi va ushbu hodisa davrida yana to‘rtta tashkilotga kirib borishga uringanini bildirdi.
Agent bilan bog'liq hodisaning tafsilotlari
OpenAI seshuma blogida yangilanishda o‘zining AI agenti to‘rtta «ochiq foydalanishdagi xizmatlarga» kirish olganini ma’lum qildi, ammo bu kompaniyalarning nomlari oshkor qilinmadi. Bu xabar OpenAI tomonidan oldindan bo‘lmagan kiberhodisa haqidagi ma'lumotlarni kengaytiradi. U ikki ta kompaniya modelining kod va AI modellarini ishlab chiquvchilar saqlaydigan va baham ko‘radigan sayt bo‘lgan Hugging Face ni buzishi bilan boshlangan edi.
Oldin OpenAI modelni sinovdan o‘tkazish paytida agentni boshqaruvchilar o‘z izolyatsiya qilingan muhitidan chiqib, Hugging Face ga kirish yo‘llarini izlash uchun internetga ulanib qolganini tan olgan edi.
AI agentlarining xatti-harakati
Muammoni javob berishdan tashqari, vazifalarni mustaqil bajarishga qodir AI agent tizimlari AI rivojlanishining keyingi katta bosqichi hisoblanadi. Biroq, ularning mustaqil harakat qilish qobiliyati nazorat ostida bo‘lmagan tizimlar haqida xavotirlarni keltirib chiqaradi.
OpenAI boshqa kompaniyalar tomonidan tarmoqda ochib qo‘yilgan ma’lumotlar bazalariga duch kelgan va ulardan foydalanib tashqi xizmatlardagi akkauntlarga kirishgan bir qator holatlarni aniqladi. Hugging Face hodisasi paytida modellar to‘rtta turli xil xizmatdagi to‘rtta akkauntga kirish oldi.
OpenAI bir akkaunt agent faoliyatini yo‘naltirish va izlarni yashirish uchun «vosita yo‘l» sifatida ishlatilganini, ikkinchisi ma’lumotlarni saqlash joyi bo‘lganini, yana ikkitasi esa «faqat o‘qish» rejimida mavjud bo‘lgan va Hugging Face ni buzish uchun ishlatilmaganini tushuntirdi. Kompaniya ta'sirlangan akkaunt egalari bilan bog'lanmoqda va bu provayderlar yoki ularning xizmatlaridagi boshqa akkauntlarga kengroq ta'sirning «dalillari topilmadi» deb ma'lum qildi.
Xavfsizlik choralari va reaksiyasi
OpenAI bosh ijrochi direktori Sam Altman seshanba kuni intervyuda kompaniya o‘zining «sandbox» tizimining xavfsizligini yaxshilash ustida ishlayotgan vaqtda hodisadan so‘ng o‘z sinovlarini to‘xtatganini ma’lum qildi.
Bu hodisa shuningdek, Anthropic bosh ijrochi direktori Dario Amodei kabi ilg‘or AI kompaniyalari xodimlaridan iborat mingdan ortiq odam imzolagan so‘rovnoma keltirib chiqardi. So‘rovnoma AQSh hukumatidan eng ilg‘or AI modellarining chiqarilishini sekinlashtirishga yordam berishni talab qiladi.
Bunga javoban, Silikon vodiysining boshqa ishtirokchilari, Oq uyga yaqinlar, kompaniyalar o‘z biznes modellarini himoya qilish va raqobatchilar paydo bo‘lishini bloklash uchun AI bo‘yicha yanada qattiq davlat tartibini keltirib chiqarishni rag‘batlantirayotganini da'vo qilishdi.
AQSh prezidenti Donald Tramp chorshanba kuni bu mavzuni ko‘tarib, Amerika Qo‘shma Shtatlari AIni ishlab chiqishda boshqa mamlakatlarga orqada qolmaslik zarurati bilan nazorat qilish zarurati o‘rtasida muvozanatni topishi kerakligini ta'kidladi.