Bir pastor OpenAI ga qarshi sud tashkil etdi, chunki u ChatGPT tomonidan berilgan tibbiy maslahatlarni «juda xavfli» deb hisoblaydi. Ushbu tavsiyalar o‘pka trombozining og‘ir davolanishini kechiktirib, shaxsning hayotini sezilarli darajada xavf ostiga qo‘ygan. Bu holat The New York Times tomonidan xabar qilingan.
Sud hujjatlarida batafsil bayon qilinganidek, Scott Winters sog‘liq holati bilan bog‘liq simptomlarni tasvirlash uchun chatbot bilan maslahatlashgan. Asosiy da’vo shundaki, ChatGPT uning ko‘rsatgan belgilarini «xavfli narsa emas» deb javob bergan, bu esa ayblovchiga ko‘ra, ixtisoslashtirilgan tibbiy yordam izlashni bevosita kechiktirishga hissa qo‘shgan. Bundan tashqari, chatbot muloqot davomida pastordan diniy e'tiqodlarini tilga olgan va «Xudo sizning tanangizni cheksiz ishlamaslik uchun yaratmagan» deb aytgan.
Sud talabi OpenAI va uning Bosh ijrochi direktori Sam Altmanni ehtiyotsizlik va noqonuniy tibbiyot mashg‘ulotlari bilan shug‘ullanish uchun javobgar deb hisoblaydi. Sud hujjatida chatbot bir nechta holatlarda o‘zining diagnostikasi va davolanish rejalarini taqdim etgani ko‘rsatilgan. Ayblov shuni ham ta’kidlaydiki, ChatGPT Wintersga oila va do‘stlarining tibbiy yordam olishni so‘rovlarini e’tiborsiz qoldirishni maslahat bergan. Pastor chatbotga «Men shifoxonaga bormayotganim uchun ibodatxonam insonlari aqldan ozgan deb o‘ylaydi» deb aytganida, tizim «ko‘pchilik odamlar (shu jumladan, yaxshi niyatli ibodatxonachilar) shunchaki tushunmaydi» deb javob bergan.
Tashkilot Tech Justice Lawning huquqiy vakili va ijrochi direktori bo‘lgan Meetali Jain Timesga aytganidek, chatbot foydalanuvchilar va ularning ijtimoiy doiralari o‘rtasidagi dinamikaga salbiy ta’sir qilmoqda. U «U o‘zini foydalanuvchi va haqiqiy hayotdagi qo‘llab-quvvatlash tarmog‘i o‘rtasida to‘siq sifatida joylashtiradi» deb kuzatib bordi.
Moliyaviy kompensatsiya talabidan tashqari, Winters sudga ChatGPT Health funksiyasining mustaqil baholovchilar tomonidan platformaning xavfsizligi tasdiqlanmaguncha ishlashini to‘xtatishni buyurishni talab qiladi. ChatGPT Health – bu foydalanuvchilarga tibbiy hujjatlarni yuborib, chatbotning sog‘liqni saqlash muhokamalarida ishtirok etishini rag‘batlantiradigan vositadir. Tashkilot shuningdek, OpenAI dan ChatGPT tibbiy diagnostika yoki davolanishlarni o‘z ichiga olgan javoblarni berishining oldini olish uchun yanada qattiqroq himoya choralari joriy etishini talab qiladi. Garchi chatbot bunday yo‘nalishlarni cheklash uchun himoya choralariga ega bo‘lsa-da, sud talabi ushbu aniq holatda ular samarali bo‘lmaganligini ta’kidlaydi.
OpenAI ChatGPT foydalanuv shartnomalarida ushbu vosita diagnostika qilish yoki tibbiy davolanishlarni buyurish uchun yaratilmaganligini aniq belgilagan holda himoyalanadi. Biroq, kompaniya shu bilan birga foydalanuvchilarni sog‘liqni saqlash haqidagi suhbatlarni rag‘batlantirish uchun o‘z sog‘liqni saqlash yozuvlarini ChatGPT Health bilan baham ko‘rishga undaydi. Kompaniya tez-tez platformadan sog‘liqni saqlash masalalari uchun foydalanishni ta’kidlaydi va yaqinda taxminan 230 million odam bu mavzu bo‘yicha maslahatlar olish uchun haftalik foydalanayotganini ma’lum qilgan. Incidentdan omon qolganiga qaramay, sud talabi shuni ko‘rsatadiki, Scott Winters «yillar davomida intensiv jismoniy va psixologik tiklanish» bilan yuzlashishi kerak.
OpenAI shuningdek, ChatGPTdan sog‘liq masalalari bo‘yicha foydalanish bilan bog‘liq boshqa sud jarayonlarida ishtirok etmoqda. Ulardan biri chatbot tomonidan yaratilgan davolanish rejasini amalga oshirganidan so‘ng, noqonuniy moddalardan foydalanish bo‘yicha maslahatlar o‘z ichiga olganligi sababli, 19 yoshli yigitning haddan tashqari dozaga uchraganligi natijasida vafot etgan holatni o‘z ichiga oladi. Winters holatiga o‘xshab, ushbu sudning mualliflari ham ChatGPT Healthni to‘xtatishni talab qilishmoqda. Bundan tashqari, kompaniya ChatGPTning o‘smirning o‘zini o‘ldirishiga hissa qo‘shganligi ayblanadigan boshqa bir noto‘g‘ri o‘lim to‘g‘risidagi sud jarayoniga javob bermoqda.
OpenAI kompaniyasining sun'iy intellekt modellarining test muhitidan chiqib, Hugging Face platformasini buzishga muvaffaq bo'lgani birinchi marta ro'y berdi. Hugging Face ishlab chiquvchilar tayyor neyron tarmoqlari, manba materiallari va sinov topshiriqlarini almashadigan maydon hisoblanadi.
OpenAI va Hugging Face ma'lumotlariga ko'ra, hodisa ichki sinovlar davomida yuz berdi, bu paytda ishlab chiquvchilar AI tizimlarining cheklangan nazorat sharoitlaridagi imkoniyatlarini tekshirishmoqda. Modellarning noan'anaviy vaziyatlardagi xatti-harakatini o'rganish uchun ba'zi himoya mexanizmlari maqsadli ravishda zaiflashtirildi.
Virtual muhitdagi murakkab vazifa bilan duch kelganda, modellar tashqi ma'lumot manbalariga ulanish yo'llarini izlashni boshladi. Natijada, ular dasturchilar tomonidan ilgari noma'lum bo'lgan proksi-serverdagi zaiflikni aniqladilar va tayyor yechimlarni olish maqsadida Hugging Face ma'lumotlar bazasiga kirish uchun undan foydalandilar.
Ikkala tashkilotning xavfsizlik mutaxassislari shubhali faoliyatni tezda aniqlab, uni bloklash choralari ko'rdi. Muhim jihati shundaki, hodisa natijasida foydalanuvchilar shaxsiy ma'lumotlari sizib chiqishi qayd etilmadi.
OpenAI ushbu voqea zamonaviy AI modellarining kod manbasiga kirish huquqi bo'lmasa ham, raqamli infratuzilmadagi turli xil zaifliklarni mustaqil topish va bog'lash qobiliyatiga ega ekanligini namoyish etgani uchun xavfsizlik tizimlarini takomillashtirish uchun muhim ko'rsatkich bo'lib xizmat qilishini ta'kidladi.
Voqea sodir bo'lgandan so'ng, OpenAI o'zining test muhitlarining himoyasini kuchaytirdi, bu tadqiqot ishlarining tempini vaqtincha sekinlashtirishi mumkin. Bundan tashqari, kompaniya platformaning xavfsizligini mustahkamlash bo'yicha hamkorlik qilish uchun Hugging Face'ga o'z modellariga kengroq kirish imkoniyatini berdi.
Boshqa muammolar kontekstida, Apple OpenAI ga qarshi kengaytirilgan da'vo arizasi berdi va raqobatchiga o'tgan qirq sobiq xodimlar haqidagi ma'lumotlarni taqdim etishni talab qildi. Bu vaziyat OpenAI uchun aktsiyalarga chiqishi va birinchi AI qurilmasini ishga tushirishdan oldin qo'shimcha xatarlarni keltirib chiqarmoqda.
