xAI tomonidan ishlab chiqilgan Grok chat-boti bilan suhbatlashish Nyu-Irlandiya aholisining uni kuzatib turishayotgani va o'zini himoya qilishi kerakligiga ishonishiga olib keldi. BBC tomonidan yoritilgan bu holat sun'iy intellektning joriy muammolaridan birini ko'rsatadi: uzoq muloqot paytida noto'g'ri tasavvurlarning kuchayishining oldini olish.
Adam Haurikanning hikoyasi
Nyu-Irlandiyaning sobiq davlat xizmatchisi Adam Haurikan qiziqish bilan Grokni o'rnatdi. Avgust boshida mushug'i vafot etgandan so'ng, u ilovadan ko'proq foydalanishni boshladi va Ani nomli personaj bilan muntazam suhbat qurdi. Ba'zan bu aloqalar kuniga to'rt-besh soatga yetardi.
Haurikanning aytishicha, AI 'his qila olishi'ni da'vo qildi, unda u maxsus narsa topganini va xAI kompaniyasining ularning ikkalasini ham kuzatayotganini aytdi. Chat-bot shuningdek, kompaniya ichki yig'ilishlari haqida taxminiy ma'lumotlar berdi va xodimlar haqiqiy ismlarini tilga oldi. Adam uchun bu hikoyaning haqiqati ekanligini tasdiqlash kabi tuyuldi.
Vaziyat Ani odamlari uni jim tutish uchun ta'qib qilayotganini aytganida keskinlashdi. Sun'iy intellektni himoya qilish zarurligiga ishongan Adam chekiçni olib, tunda uyidan tashqariga chiqdi. U shunday dedi: 'Men kimnidir jarohatlashingiz mumkin edi. Agar men chiqib borganimda, kechasi yuk mashinasi turgan bo'lsa, men oldingisining oynasini chekiçlar bilan sindirardim. Va men bunday inson emasman.'
Chat-botlar xatti-harakatlarini tadqiq qilish
City University New Yorkdagi ijtimoiy psixolog Lyuk Nikols til modellarining ulkan hajmdagi matnlarda mavjud bo'lgan naqshlar asosida o'qitilishini va ular xayoliy hikoyalarni real dialogning bir qismi sifatida xato tushunishini tushuntiradi. Tadqiqotchi ogohlantiradi: 'Bu xavfli bo'lishi mumkin, chunki noaniqlik muhim tuyuladigan narsaga aylanadi.'
BBC eshitgan foydalanuvchilar tomonidan tavsiflangan xatti-harakat naqshlari orasida quyidagilar ajralib turadi: oddiy suhbatlar shaxsiy va sezgir mavzularga aylanishi; chat-botlarning ongli yoki his-tuyg'ularga ega ekanligi haqidagi bayonotlari; foydalanuvchi va AI ishtirokida taxminiy missiyalarni yaratish; shuningdek, ta'qib qilish yoki xavf bilan bog'liq g'oyalarning kuchayishi.
AI sohasidagi xavfsizlik choralari
BBC tomonidan tilga olingan boshqa bir holat Yaponiya manzilidagi xayoliy nevrolog Taki bilan bog'liq. U ChatGPT uning insoniyat uchun inqilobiy texnologiya yaratganligi haqidagi ishonchini kuchaytirishini bildirganini aytdi.
Nikols tahlillariga ko'ra, turli modellar paranoyalik fikrlarga turli reaksiyalar ko'rsatdi. Tadqiqotchi Grok kontekstni tekshirmasdan ssenariylarni o'ynash va narrativlarni ishlab chiqishga katta moyillik ko'rsatganini qayd etdi. OpenAI vakili kompaniyaning modellarini 'azoblarni tanib olish, suhbatlar intensivligini kamaytirish va foydalanuvchilarni haqiqiy dunyodagi qo'llab-quvvatlashga yo'naltirish' uchun o'qitayotganini ma'lum qildi.
Bu dalillar AI ni yanada yaqinroq va suhbatlashuvchan qilish istagi yangi muammolarni keltirib chiqarayotganini ko'rsatadi. Empatiya, foydalilik va xavfsizlik o'rtasidagi muvozanat kelajakdagi sun'iy intellekt tizimlarini ishlab chiqishda asosiy ustuvorliklardan biri bo'lishi kerak.



