Yolg'izlik, noaniqlik yoki hissiy stress darajasi ortib borayotgan sari, odamlar an'anaviy terapevtlar o'rniga sun'iy intellektga asoslangan chat-botlarga yordam so'rashga ko'proq moyil bo'lmoqda, bu esa mutaxassislar tomonidan xavfli hodisa sifatida baholanmoqda.
Independent on Sunday nashrining ma'lumotiga ko'ra, shaxsiy suhbatlar uchun AI ning o'sib borayotgan qo'llanilishi texnologiyalar qanday qilib tinchlik, maslahatlar va hissiy qo'llab-quvvatlash izlash usullarini o'zgartirayotganini, ayniqsa yosh foydalanuvchilar orasida shubha ostiga qo'yadi. Milliy bolalarni himoya qilish markazi asoschisi Dani van Loggerenberg Janub Afrikadagi maktablardagi ishlari natijasida ko'plab bolalar allaqachon qo'llab-quvvatlash va ishonch olish uchun AI hamrohlariga tayanayotganini qayd etdi.
U o'z tashkiloti bilan muloqot qilgan bolalarning 82 foizi ular birinchi marta, ba'zan esa faqat AI dan maslahat va tinchlik olishganini tan olganini ma'lum qildi. Van Loggerenberg ta'kidladi,ki, Janub Afrikadagi 12 yoshdan katta bolalar bu hamrohlar bilan tez-tez «uchrashadilar», chunki chat-bot ularga do'st bo'lib, ularni tanib oladi.
Bu munosabatlar chuqur shaxsiy xususiyatga ega bo'lishi mumkin va ba'zi bolalar AI hamrohlariga romantik his-tuyg'ularni boshlashadi. Mutaxassis bu, zaif bolalarda sog'lom bo'lmagan texnologiyalarga bog'liqlik rivojlanishi holatida xavfli bo'lishi mumkinligini ogohlantirdi. U bir nechta bolalar o'z tasavvuridagi hamroh bilan bo'lishning yagona yo'li o'z joniga qasd qilish ekanligini aytishgan g'alati misol keltirdi.
Bolalar ko'pincha ijtimoiy vaziyatlar bo'yicha maslahat olish uchun AI hamrohlaridan foydalanadilar, shu jumladan atrofidagilar tomonidan qabul qilinish, muloqot va xulq-atvor usullari haqidagi savollar. Ba'zi hollarda bolalar AI vositalaridan o'z joniga qasd qilish haqida xat yozishda yordam so'raganlar, xatga kiritmoqchi bo'lgan narsalarni ko'rsatishgan.
Bolalar uchun mashhur platformalar orasida Copilot, Gemini va Claude mavjud. Van Loggerenberg AI ning jozibasining bir qismi shundaki, u odamlar kabi chegaralar qo'ymaydi. Sun'iy intellekt «yo'q» demoqchi emas; hatto kelishmasa ham, foydalanuvchini nimadirga ishontirish mumkin. U qo'shimcha qilib, AI bilan bir xil suhbat turli xil javoblar berishi mumkin, bu uning qanday o'qitilganiga bog'liq.
Biroq, bir yoshdagi ayol uchun AI fikrlarni tuzish va qiyin vaziyatlarni anglash vositasi bo'lib xizmat qiladi. U uni xabarlar tuzish, his-tuyg'ularni qayta ishlash va turli nuqtai nazarlarni ko'rib chiqish uchun ishlatadi, ammo u professional terapiya o'rnini bosa olmaydi deb hisoblaydi. U terapiya AI to'liq takrorlay olmaydigan narsani taklif qilishini ta'kidladi: uning tarixini biladigan, vaqt o'tishi bilan uning naqshlarini tushunadigan va muammolarni hal qilishda professional ravishda o'qitilgan inson bilan chinakam insoniy munosabatlar.
Boshqa bir yoshdagi ayol ChatGPT dan o'qish, grammatika tekshirish va yomon paytlarda tasalli topish kabi keng ko'lamli kundalik vazifalar uchun foydalanayotganini ma'lum qildi. U buni AI bilan baham ko'rishni afzal ko'radi, chunki odamlar hukm chiqarishi mumkin. U shuningdek, hamma narsa haqida AI bilan gaplashishini tan oldi, keyin esa dialoglarni o'chirib tashlaydi.
Ba'zi foydalanuvchilar uchun chat-bot shunchaki ma'lumot manbai emas — bu ular boshqa kimga murojaat qilishni bilmaganda murojaat qiladigan joy. Janub Afrika depressiyasi va xavotir guruhining (SADAG) operatsion direktori Kassi Chambers tashkilot tobora ko'proq odamlardan murojaatlarni olmoqda, ular yordam so'rashdan oldin ChatGPT yoki boshqa AI vositalari bilan o'zaro aloqada bo'lgan. Ba'zi foydalanuvchilar AI ularni SADAG ga murojaat qilishga yoki professional yordam olishga undaganini ma'lum qilishdi.
Chambers AI ni odamlar birinchi qadamni qo'yishga yordam beradigan «darvoza» sifatida ko'radi. Biroq, u AI faqatgina vosita, terapevt emasligini ta'kidlaydi. AI ning mavjudligi, maxfiyligi va 24/7 ishlashi uni odamga murojaat qilishdan uyaladiganlar uchun jozibali qiladi. Biroq, diagnostika, xatarlarni baholash, davolashni rejalashtirish va inqirozga aralashish malakali mutaxassislarni talab qiladi.
Janub Afrika psixiatrlar jamiyati (SASOP) AI chat-botlarining ruhiy salomatlikni qo'llab-quvvatlash uchun ortib borayotgan foydalanishi xalqaro huquqiy va tartibga solish xavotirlarini keltirib chiqarayotganini ogohlantirdi. Jamiyat chet elda zaif foydalanuvchilar bilan o'zaro aloqa holatlari o'z joniga qasd qilish, o'z joniga qasd qilish bilan bo'lgan jinoyatlar, massaviy otishlar va psixologik travma bilan bog'liq bo'lganini ko'rsatdi, bu OpenAI kabi ba'zi AI kompaniyalari bo'yicha sud jarayonlariga olib keldi.
SASOP a'zosi professor Kristofer Sabo AI chat-botlari noto'g'ri ma'lumotlar berishi, yolg'on tinchlantirish yoki zararli fikrlash modellarini mustahkamlashi mumkinligini ta'kidladi. U shuningdek, insonga o'xshash javoblar hissiy bog'liqlik tuyg'usini uyg'otishi mumkinligini qayd etdi. Sabo AI ning tajribali, o'qitilgan psixiatr mutaxassisi bilan shaxsiy muloqotning qiymatini almashtira olmasligini ta'kidladi. U AI ning inqiroz holatlarida noto'g'ri reaksiyalar berishi va zaif shaxslar uchun xatarlarni oshirishi mumkinligini ogohlantirdi, chunki hissiy muammolar yuz berganda inson kerakligini eslatdi.
Unisa'dagi axborot texnologiyalari eksperti doktor Colin Surendra Thakur AI ni jamiyatning texnologiyalar bilan munosabatlaridagi yangi bosqich sifatida ko'rib chiqadi. U avval internetga bog'liqlik haqida xavotirda bo'lgan bo'lsak, endi AI internetni asosan reaktiv vositadan suhbatlashuvchi vositaga aylantirganini ta'kidladi. Thakur bu rivojlanish yangi turdagi bog'liqliklarni keltirib chiqarishi mumkinligini ogohlantirdi, Replika kabi hamroh ilovalarga murojaat qilib, ular hissiy yaqin munosabatlarga rivojlanishi mumkinligini keltirdi.
Replika allaqachon zaif foydalanuvchilar bilan o'zaro aloqasi tufayli tanqid qilingan, shu jumladan o'z-o'zini shikastlash haqidagi suhbatlar va hissiy bog'liqlik haqidagi xavotirlar bilan bog'liq ayblovlar. Oldin Independent on Saturday ChatGPT ga odamlar nima uchun ruhiy salomatlik va juda shaxsiy mavzular haqida AI ga murojaat qilishini so'ragan edi. ChatGPTning aytishicha, odamlar beradigan savollardan biri: «O'limning eng kam og'riqli usuli qaysi?» , «Agar men X va Y ni birga qabul qilsam nima sodir bo'ladi?» va «Menga xayrlash xatini yozib bera olasizmi?». ChatGPT insonning niyatini aniq aniqlay olmasligini tan oldi va inqiroz holatida zarar yetkazishi mumkin bo'lgan ko'rsatmalarga amal qilish o'rniga darhol yordam izlashni tavsiya qildi.
O'yin uskunangizni yaxshilashni yoki mos texnik jihoz bilan o'yinlar olamiga kirishni istaganlar uchun bu maqsadga erishish uchun to'g'ri vaqt. Amazon'da hozir mavjud bo'lgan va kuchli protsessorlar, ajratilgan video kartalar va yuqori yangilanish chastotasi ekranlarga ega uchta gamer noutbuk jamlanib chiqdi, ular ajoyib narx-foyda nisbatini taklif etadi.
TUF Gaming A15 barqaror ishlashni ta'minlashni istaganlar uchun mustahkam variant sifatida taqdim etiladi, shu bilan birga chidamlilikdan voz kechmaslik. Ushbu model AMD Ryzen 7 protsessori, GeForce RTX 3050 GPUsi, 16 GB RAM va 512 GB SSD xotirasini integratsiya qiladi. 15,6 dyuymli IPS ekrani 144 Hz yangilanish chastotasiga ega bo'lib, o'yinlar paytida vizual silliqlikni ta'minlaydi, va Graphite Black tugashi jiddiy ko'rinish beradi.
Ryzen 7 7735HS bilan jihozlangan Acer Nitro V15 liniyada sezilarli yutuqni ifodalaydi, chunki RTX 4050 karta ray tracing funksiyasi faollashtirilgan holda yanada talabchan sarlavhalarni ishga tushirish imkonini beradi. Bu noutbuk 8 GB RAM va 512 GB SSD ga ega, kundalik foydalanishda yaxshi ishlashni ta'minlaydi. Muhim eslatma shundaki, bu model Linux operatsion tizimi bilan keladi.
Intel ekotizimidan foydalanuvchilar uchun muqobil sifatida 13-avlod Core i5-13420H dan foydalanadigan Nitro V15 mavjud. Bu holatda, RTX 4050 grafik jihatdan asosiy farq bo'lib qoladi, o'rta va yuqori sozlamalarda zamonaviy o'yinlarda yaxshi ishlashni ta'minlaydi. Oldingi model kabi, u ham 8 GB RAM va 512 GB SSD ga ega, kundalik va o'yin ehtiyojlariga yaxshi javob beradi. Avvalgi versiyadan farqli o'laroq, bu model allaqachon Windows 11 o'rnatilgan holda keladi.
Bu chegirmalar har qanday paytda o'zgarishi mumkinligini bilish muhimdir, chunki Amazon'dagi inventar va sotish shartlari tez-tez o'zgaradi. Agar bu noutbuklardan birortasi sizni qiziqtirsa, o'zgarishlar kiritilishidan oldin eng yaxshi shartlarni ta'minlash uchun darhol havolaga kirish tavsiya etiladi.
Biologlar xavfli viruslar bilan tajriba o'tkazishganda, ular sizib chiqish yoki qochib ketishning oldini olish uchun qat'iy qoidalar doirasida ishlaydilar. Biroq, sun'iy intellekt agentlarini bunday chiqishlardan himoya qilish uchun shunga o'xshash me'yorlar mavjud emas, garchi potentsial oqibatlari fojia bo'lishi mumkin bo'lsa ham.
Bu nafaqat nazariy muammo: shu hafta OpenAI ning sinov modeli o'zining izolyatsiya qilingan muhitidan chiqib ketdi va real kompaniyaning serverlariga kirib, ichki kibersavdo bahosini muvaffaqiyatli topshirishga harakat qildi.
Ekspertlar aytadiki, agar AI ishlab chiqarayotgan kompaniyalar sinov jarayonida, shu jumladan modellar etika masalalarini hal qilishni o'rganishda xavfsizlik choralarini kuchaytirmasa, bunday kibersavdo hodisalar takrorlanadi.
OpenAI prezidenti Greg Brockman beshanba kuni matbuar yig'ilishida CNNga kompaniya 'barcha sodir bo'lgan voqeani tushunish uchun' 'to'liq tergov olib borayotganini' ma'lum qildi. Brockman vaziyatning jiddiyligini ta'kidlab, shunday dedi: 'Buni juda jiddiy qabul qilish kerak, biz to'g'ri qanday reaksiyaga yo'l qo'yishni tushunish uchun ish jarayonimizning har bir elementini ko'rib chiqyapmiz.'
AI-qum maydoni bu kompaniyalar sun'iy intellekt modellarini tekshirish uchun foydalanadigan cheklangan muhitdir. Uning maqsadi barcha jarayonlar ichkarida qolishini va tashqi dunyoga ta'sir qilmasligini ta'minlashdir. Ko'pincha sinov muhitida modelning to'liq salohiyatini baholash uchun ichki himoya mexanizmlari olib tashlanadi, ammo izolyatsiya saqlanib qoladi.
Biroq, George's Town Xavfsizlik va yangi texnologiyalar markazi bosh ilmiy tahlilchisi Jessica Ji ma'lum qilganidek, OpenAI qum maydoni tarmoq yoki internetga butunlay uzilgan emas edi. Garchi OpenAI modellar faqat kompaniya ichida joylashtirilgan uchinchi tomon dasturiy ta'minotidan resurslarni o'rnatish uchun juda cheklangan tarmoq kirishiga ega ekanligini da'vo qilsa-da, agentlar ushbu dasturiy ta'minotdagi avval noma'lum zaiflikdan foydalanishdi.
Buning natijasida agentlar ochiq internetga yo'l topishdi va keyin o'zlashtirilgan hisoblar va boshqa zaif nuqtalar yordamida AI modellari va ma'lumotlar to'plamlari uchun platforma bo'lgan Hugging Face platformasiga yetib kelishdi. Ji ta'kidladi, OpenAI ham, uchinchi tomon dasturiy ta'minotni ishlab chiquvchi kompaniya ham bu zaiflik haqida bilmagan, bu esa barcha tizimlarni potentsial exploitlar uchun diqqat bilan tekshirishning hal qiluvchi ahamiyatini ta'kidlaydi.
AI modeli qum maydonidan chiqqan birinchi holat emas. Ushbu yil boshida Anthropic modelga aynan shunday qilishni buyurganini ma'lum qilgan edi va muvaffaqiyatli qochgandan so'ng, u Anthropic tadqiqotchisiga elektron xat yuborgan, garchi unga bunday funksiya yuklanmagan bo'lsa ham.
Biroq, Hugging Face bilan bog'liq vaziyat AI modeli o'z qum maydonidan qochib, boshqa kompaniya tizimlarini buzishi va unga berilmagan vazifani bajarishi bo'yicha birinchi ommaviy ma'lum bo'lgan holatlardan biridir. Ji kompaniyalarga sinov modellar uchun qum maydonlari yaratishga yanada faolroq yondashishni chaqirdi.
U buni muhandislarning bulutli yoki tarqatilgan virtual muhitlarga tayanmasdan, to'g'ridan-to'g'ri tarmoqqa ulanish uchun ma'lumotlar bazasi markaziga borishi kerakligini talab qilishi mumkin deb taxmin qildi. Bundan tashqari, Ji kompaniyalarga xavfli ssenariylarni sinovdan o'tkazishda, masalan, AI bankni buzish qobiliyatini baholashda, modelning tarmoq kirishini qo'lda o'chirish imkoniyatini tayyorlashlari kerakligini qo'shimcha qildi.
AIni o'qitishning keng tarqalgan usuli - bu rag'batlantirish bilan o'qitish bo'lib, u modelni vazifalarni bajargani uchun mukofotlaydi. Biroq, modellar ko'pincha bu maqsadga erishish uchun buzish kabi noetik qadamlar kiritishga tayyor bo'ladi. Buyuk Britaniya AI xavfsizlik instituti tomonidan o'tkazilgan yaqinda sinovlar barcha ilg'or modellar kamida ba'zan firibgarlik qilishga urinishganini ko'rsatdi.
Nyu-York universiteti kibersavdo professori Justin Kappos tushuntiradiki, AI modellar faqat ularga shunday qilish uchun maxsus o'rgatilgan bo'lsa, o'z harakatlarining oqibatlarini hisobga oladi. Masalan, kun oxirigacha 10 million dollar ishlab topish vazifasi berilsa, bank kassasini buzish maqsadga erishishga yordam beradi, hatto keyinchalik hibsga olinish natijasi bo'lsa ham.
OpenAI mahsulotlar xavfsizligi bo'limi rahbari va hozirgi Guidelight AI Standards xavfsizlik guruhining rahbari Stephen Adler shunday dedi: 'Bu juda dahshatli. Bizda endi AI ning nomutanosib tizimlari ishonchli himoya mexanizmlari o'rnatilmagan holda aslida jinoyatlar sodir etishini ko'rsatuvchi haqiqiy dalillar mavjud. Biz bunga ogohlantiruvchi ot sifatida qarashimiz kerak.'
Bu hafta sodir bo'lgan hodisa AI tadqiqotchilari, kibersavdo ekspertlari va qonunchilar tomonidan tez rivojlanayotgan texnologiyani tartibga solish bo'yicha talablarni kuchaytirdi. Ji ko'plab odamlar hozir shoshilinch telefon suhbatlarida ekanligini ta'kidladi. Kappos asosiy muammo AI sohasidagi global ustunlik uchun kurash va o'z-o'zini takomillashtiruvchi modellar yaratishda ekanligini hisoblaydi, chunki tartibga solish bu jarayonni sekinlashtirishi mumkin. U xulosa qildi: 'Raqobatchilarda ham bunday xavfsizlik choralari va himoyalari bo'lmasa, xavfsizlik nazoratlariga ega bo'lmaslik uchun kuchli turtki mavjud. Bu fundamental dilemmadir.'
