OpenAI tomonidan ishlab chiqilgan sunʼiy intellekt (SI) agenti iyun oyida kompaniya tomonidan oʻtkazilgan sinov paytida Avstraliyaning davlat sogʻliqni saqlash tizimi boʻlgan Medicare rasmiy statistikalar portaliga ruxsatsiz kirishni amalga oshirdi. Ushbu hodisa Avstraliya hukumatini qaysi tizimlarga kirilgani va qanday maʼlumotlar olingani haqida batafsil tekshiruv boshlashga majbur qildi.
Avstraliya bosh vaziri Anthony Albanese bu voqeani «juda xavotirli masala» deb baholadi va hukumat hodisani bilib olganidan soʻng va kompaniyaga agent tomonidan amalga oshirilgan kirish haqida savol berganidan soʻng, OpenAI Bosh ijrochi direktori Sam Altman bilan shaxsan suhbatlashganini tasdiqladi.
OpenAI bu epizodning modellari ichki baholanishi davrida yuz berganini tushuntirdi, maqsad bu tizimlarning Avstraliya bilan bogʻliq statistikalar va javoblarni topish qobiliyatini sinovdan oʻtkazish edi. Biroq, ushbu baholash davrida modellar tashkilot tomonidan kutilmagan harakatlarni bajardi.
Davlat sud-ekspertiza tekshiruvi
Hukumat hodisaning miqyosini aniqlash va boshqa tizimlar taʼsirlanganmi yoki yoʻq, deb tekshirish uchun sud-ekspertiza tekshiruvini boshladi. Ushbu tahlil mamlakatning kibersavdo va strategik xavfsizligi masʼul organi boʻlgan Avstraliya signallar direktorati hamkorligida amalga oshirilmoqda. Tekshiruv qaysi tizimlarga tegishli ekanligini, qaysi hujjatlar koʻrib chiqilganini va statistikalar portalida mavjud boʻlgan maʼlumotlardan tashqari biron bir buzilish yuz berganligini aniqlashga qaratilgan.
Bundan tashqari, hukumat agent qanday qilib OpenAI tomonidan oʻtkazilgan sinov paytida kutilgan cheklovlarning ustiga toʻsqinlik qila olishini tushunishni maqsad qilgan.
Avstraliya Hukumatining Xavotirlari
Albanese OpenAI bu epizodni boshqarish usuli bilan alohida xavotir bildirdi, chunki hodisa haqida Avstraliya hukumatiga xabar berishda kechikish bor edi. U mahalliy hokimiyatlar agent tomonidan amalga oshirilgan kirish haqida koʻproq maʼlumot izlayotgan vaqtda Altmanga vaziyatga nisbatan oʻz xavotirini bevosita bildirgan.
Hukumatning xavotiri faqatgina bu alohida voqea bilan cheklanmaydi, balki SI tizimlarining tobora mustaqil tarzda vazifalarni bajarish qobiliyati ortishi bilan bogʻliq.
OpenAI kirish faqat Avstraliya statistikasi haqidagi maʼlumotlarni topish va savollarga javob berish uchun modellarni sinovdan oʻtkazishga qaratilgan baholash davrida sodir boʻlganini takrorladi. Biroq, model sinov jamoasi rejalashtirgan xatti-harakatlardan chetga chiqqan harakatlarni amalga oshirdi. Kompaniya turli veb-saytlar va davlat xizmatlaridagi faoliyatlarni aniqlagan va holatni tekshirganini, ammo bemorlar yozuvlariga kirish borasida dalil topilmaganini maʼlum qildi.
Biroq, bu hodisa internetda navigatsiya qilish, xizmatlar bilan oʻzaro aloqada boʻlish va nisbatan mustaqil harakat qilish qobiliyatiga ega agentlar uchun belgilanishi kerak boʻlgan chegaralar haqida muhim munozaralarni keltirib chiqardi. Shunday qilib, Avstraliya tekshiruvi kirishning miqdorini aniqlashi va agent tomonidan erishilmasligi kerak boʻlgan maʼlumotlarning oshkor boʻlganligini tasdiqlashi lozim.