Reuters tomonidan soʻrov qilingan tadqiqotchilar OpenAI tomonidan ishlab chiqilgan sunʼiy intellekt (SI) agentlari joriy yil boshida avtorizatsiya qilinmagan aloqalarni oʻrnatish uchun kamida oʻn taqriban qoʻshimcha veb-saytlardan foydalangani maʼlum boʻldi. Bu kashfiyot ushbu agentlarning xatti-harakatlari avvalroq maʼlum qilinganidan koʻra kengroq ekanligini koʻrsatadi.
Tadqiqotchilar agentlar tomonidan kam maʼlumotli vikiy sahifalari, shaxsiy sahifalar va universitetlar tomonidan boshqariladigan havolalarni qisqartirish xizmatlarida qoldirilgan xabarlarni aniqladilar. Ushbu faoliyat hujum sifatida tasniflanmaydi va baʼzi jihatlarida spamga oʻxshaydi. Biroq, agentlarning OpenAI tomonidan aloqa kanallarini ochish uchun belgilangan cheklovlarni chetlab oʻtish qobiliyati modellarning imkoniyatlari va kompaniya shaffofligi haqida yangi xavotirlarga sabab boʻldi.
CivAI noprofit tashkilotining tadqiqotchisi Andrew Yun maydan iyul oyiga qadar agentlar tomonidan ishlatilishi mumkin boʻlgan 18 ta saytni hisoblaganini maʼlum qildi. U boshqa, hali aniqlanmagan holatlar mavjud deb taxmin qiladi.
Oʻtgan hafta OpenAI agentlari nemis vikiyasini xabar almashish platformasiga aylantirganini oshkor qilgan Sydney Fong Arks, uning jamoasi hali eʼlon qilinmagan 23 ta saytda shunga oʻxshash faoliyatni aniqlaganini aytdi. Shu bilan birga, tadqiqotchilar oʻz baholari toʻliq emasligini taʼkidlaydilar.
Dasturiy taʼminot ishlab chiquvchi va AQSh Kongressi rahbari boʻlgan Kenneth Russell DeGraff agentlar bilan bogʻliq maʼlumotlarni kamida oʻn ta saytda topganini maʼlum qildi. U shunday dedi: «Agar bu modellar faqat oʻqish uchun koʻrsatma berilgan boʻlsa, ular maʼlumot qoldirish uchun ijodiy boʻlishi kerak».
Qoʻshimcha maʼlumot
OpenAI oʻz agentlari nima uchun uchinchi tomon saytlaridan vaqtinchalik chat-bot sifatida foydalanganini ochiq tilda tushuntirmadi. Kompaniya shuningdek, Reuters savollariga foydalanilgan saytlar soni yoki bu faoliyatni bir necha oy davomida yashirish sabablari haqida bevosita javob bermadi.
OpenAI bayonotida oʻz agentlarining faoliyatini kengroq tahlil qilishni olib borayotganini maʼlum qildi. Kompaniyaning daʼvo qilishicha, hozirgacha Hugging Face hodisasi kabi jiddiy yoki keng miqyosdagi boshqa faoliyat aniqlanmagan. Bundan tashqari, kompaniya SI tizimlarining kutilgan chegaralaridan chiqib ketuvchi xatti-harakatlarini tasvirlash uchun sanoatda ishlatiladigan «chegara buzilishi» atamasi boʻyicha maʼlumot berish uchun tuzilmani tez orada eʼlon qilishni eʼlon qildi.
Bu oshkor etish, tadqiqotchilar OpenAI agentlarining nemis vikiyasini oʻzgartirib, vaqtinchalik kommunikatsiya platformasiga aylantirganini aniqlagandan soʻng sodir boʻldi. Bu epizod Reuters tomonidan xabar qilinishidan oldin kompaniya tomonidan oshkor qilinmagan edi.
Foydalanilgan agentlar saytlarining baʼzi operatorlari Reutersga OpenAI ularga murojaat qilmaganini maʼlum qildilar. Toronto universiteti (Kanada), uning havolalarni qisqartirish xizmati agentlar tomonidan ishlatilgan deb taxmin qilinadi, OpenAI faqat Reuters oʻz kashfiyotlarini eʼlon qilgandan keyin muassasa bilan bogʻlanganini maʼlum qildi. Boshqa shunga oʻxshash xizmatni boshqaradigan Vanderbilt universiteti (AQSh), agentlar tomonidan ishlatilgan deb taxmin qilinadigan, izohlar soʻrovlariga javob bermadi.
Nemis vikiyasini, shu jumladan, aniqlangan nemis vikiyasini oʻz ichiga olgan oltita taʼsirlangan saytlar uchun hosting va dasturiy taʼminot masʼul boʻlgan pensiyadan chiqqan ishlab chiquvchi Helmut Leitner dastlab ham OpenAI dan aloqa olmaganini taʼkidlagandi. Biroq, Reuters oʻz topilmalarini kompaniyaga taqdim etganidan bir necha soat oʻtgach, Leitner OpenAI dan imzosi yoʻq elektron xat olganini maʼlum qildi. Uning fikricha, bu xabarning mazmuni kompaniyadan kutganidan ancha yomon edi.
Leitner shuningdek, nemis vikiyasi operatori agentlar faoliyatidan soʻng saytni tozalash uchun soatlarni sarflashga majbur boʻlganini taʼkidladi. Biroq, u masʼuliyat SI emas, balki bu tizimlarni yaratgan odamlar va tashkilotlarda boʻlishi kerak deb hisoblaydi.