AQShdagi San-Fransisko prokuraturasi Apple va Google kompaniyalarini rasman ogohlantirdi, ularni yolg'on yechimlar bilan jinsiy tasvirlar yaratishga mo'ljallangan sun'iy intellekt ilovalari orqali foyda ko'rishda ayblamoqda.
>AQShdagi San-Fransisko prokuraturasi Apple va Google kompaniyalarini rasman ogohlantirdi, ularni yolg'on yechimlar bilan jinsiy tasvirlar yaratishga mo'ljallangan sun'iy intellekt ilovalari orqali foyda ko'rishda ayblamoqda.
>Ayblovchi organ kompaniyalar bu AI ilovalari tarqatilishi va savdo qilinishini osonlashtirayotganini ta'kidlaydi, ular haqiqiy shaxslarning fotosuratlarini o'zgartirish va jinsiy bo'lmagan holatni simulyatsiya qilish uchun ishlatiladi. Bunday amaliyotlar zo'ravonlik, tasvirning noto'g'ri ekspluatatsiyasi va jinsiy suiiste'molning katalizatori sifatida ko'rsatilmoqda.
Prokuraturaga ko'ra, bu faoliyat Kaliforniya qonunlariga, ya'ni roziliksiz sintezlangan pornografiya bo'yicha qoidalariga zid kelishi mumkin. Bundan tashqari, kompaniyalar ushbu ilovalarda amalga oshirilgan to'lovlar uchun komissiya olib, moliyaviy daromad topayotganligi ma'lum.
Bosh prokuror David Chiu Wired portali uchun bayonot berib, roziliksiz tasvirlar yaratish «noqonuniy, zararli va mutlaqo qabul qilinmaydigan» ekanligini bildirdi. U kompaniyalar o'z ilova ekotizimlari hech qanday jinsiy suiiste'molni osonlashtiradigan platforma bo'lmasligini ta'minlash majburiyatiga ega ekanligini ta'kidladi.
Prokuratura shuningdek, bu ilovalarning ba'zilari raqamli do'konlarda past yosh chegarasi belgisi bilan tasniflanganligini, hatto bolalar uchun mos deb taqdim etilganini ta'kidladi.
Sud xabarnomalarida Apple va Google'dan aniqlangan ilovalarni darhol olib tashlash va mas'ul ishlab chiquvchilar bilan har qanday tijorat munosabatini to'xtatish talab qilinmoqda. Kaliforniya hokimiyati roziliksiz sintezlangan pornografiya ishlab chiqarish va sotishga yo'naltirilgan xizmatlarga texnik yoki moliyaviy qo'llab-quvvatlash bo'lmasligini belgilab berdi.
Bu bosim AI vositalarining sezilarli rivojlanishi paytida yuzaga kelyapti, bu vositalar tasvirlarda yuqori aniqlik bilan o'zgarishlar kiritish imkonini beradi. Odatda, bu vositalar ijtimoiy tarmoqlarda mavjud bo'lgan oddiy fotosuratlardan foydalanib, ayollar va o'smirlarga qarshi yo'naltiriladi.
Bundan tashqari, yanvar oyida shtat Elon Muskning Grok AI startapi xAI ga qarshi tekshiruvlarni boshlagan, chunki chatbot haqiqiy odamlar, shu jumladan, yoshlar bilan bog'liq kattalar kontentini yaratishga yordam beradigan postlar topilgan edi.
Portaldagi so'rovga javoban, Google Android do'konida jinsiy materialni o'z ichiga olgan ilovalarga taqiqlanganini va bunday kontentni aniqlash va olib tashlash choralari joriy etilganini ma'lum qildi. Kompaniya shunga o'xshash funksiyalarga ega yuzlab ilovalarni bloklagan, shuningdek, ushbu vositalarga bog'liq ishlab chiquvchilar hisoblarini va to'lovlarni to'xtatganini ta'kidladi.
Hozirgi vaqtda Apple App Store'dagi ushbu ilovalarning qolishi haqida rasmiy pozitsiyasini e'lon qilmagan.
O'tgan juma kuni (17) San-Fransisko shahar prokurori kabineti Apple va Googlelarga rasmiy ogohlantirishlar yubordi. Maqsad – tasvirlangan odamlarning roziligisiz sun'iy ravishda yaratilgan yopiqlik tasvirlarini hosil qiluvchi o'n uchta yuz almashtirish ilovasini olib tashlashni talab qilish edi.
Shahar harakati bu yerda sun'iy intellekt yordamida shaxslarning fotosuratlarini o'zgartirib, jinsiy kontent hosil qiladigan vositalarga xususan qaratilgan. Shahar hokimiyati ma'lumot berishicha, bu raqamli platformalar bunday xizmatlar uchun ilovalar ichida amalga oshiriladigan to'lovlar orqali foyda keltiradi.
Bu tashabbus dastlab oddiy rasm tahrirlovchilari sifatida taqdim etilgan, ammo jinsiy tabiatdagi deepfake'larni ishlab chiqarishda ishlatilishi mumkinligi aniqlangan tekshiruvlardan keyin paydo bo'ldi. Ushbu turdagi kontentdan eng ko'p shikoyat qilganlar ayollar va qizlar hisoblanadi.
Ikkala texnologik gigantga yuborilgan xatlar San-Fransisko shahar prokurori David Chiu tomonidan imzolangan. U ruxsatsiz intim tasvirlarni yaratish noqonuniy va zararli amaliyot ekanligini ta'kidladi va Apple ham, Google ham o'z raqamli ekotizimlaridan suiiste'molni osonlashtirishni to'xtatishlari kerakligini talab qildi.
Shaharning vakili shuningdek, kompaniyalardan ushbu turdagi ilovalarni ishlab chiqqan ishlab chiquvchilar bilan barcha tijorat munosabatlarini bekor qilishni so'radi. Bundan tashqari, talab virtual dovozdagi to'lov tizimlariga ham tegishli bo'lib, bunda kompaniyalar ushbu dasturlar tomonidan yaratilgan daromadning bir qismini oladi.
Apple ham, Google ham o'z platformalarida pornografiya, tahdid va har qanday suiiste'molchi kontentga qarshi qat'iy yo'riqnomalarga ega ekanligini e'lon qildi. Apple shaharning ko'rsatgan ilovalardan uchtasini olib tashlaganini va tegishli ishlab chiquvchilar hisoblarini to'xtatish jarayonini boshlaganini ma'lum qildi. Kompaniya boshqa ijodkorlar ham aniqlangan qoidabuzarliklarni tuzatmasa, chiqarib tashlanishi mumkinligini ogohlantirdi.
O'z navbatida, Google o'z siyosatlarini buzgan «yopiqlik» funksiyalari mavjud bo'lgan yuzlab ilovalarni olib tashlashini e'lon qildi. Kompaniya shuningdek, shunga o'xshash vositalarni to'xtatganini va ilova do'konidagi ushbu xizmatga oid qidiruv shartlarini cheklaganini ma'lum qildi.
Shahar tekshiruvi natijalari shuni ko'rsatdiki, muammo faqat aniq yopiqlik vositalari sifatida belgilangan ilovalarga cheklanmaydi. Tadqiqotlar oddiy tahrirlash funksiyalari sifatida taqdim etilgan, ammo samarali himoya choralari bo'lmagan jinsiy tasvirlarni yaratish imkonini beradigan yuz almashtirish dasturlarini kashf etdi.
Matnda tilga olingan tadqiqot bir nechta yuz almashtirish ilovalari borligini aniqladi, ular Apple va Google do'konlarida mavjud. Ushbu dasturlarning sezilarli qismi hatto rasman bunday maqsad uchun e'lon qilinmagan bo'lsa ham, yopiq tasvirlar montajlarini yaratishga imkon berardi.
Bu vositalarning ko'payishi generativ sun'iy intellekt tizimlarining rivojlanishi bilan bir vaqtda sodir bo'ldi, bu esa yuqori darajada realistik yolg'on tasvirlarni yaratish uchun zarur bo'lgan texnik murakkablikni sezilarli darajada kamaytirdi. Materialda tilga olingan mutaxassislar, faqat bitta havolaviy fotosurat va ba'zi buyruqlar bilan bunday turdagi kontentni yaratish mumkinligini ta'kidladilar.
San-Fransisko shahri ushbu vositalarning tarqalishiga yo'l qo'yadigan kompaniyalarga qarshi huquqiy choralar ko'rib chiqilishini davom ettirishini e'lon qildi. Organning bayon etilgan maqsadi platformalarni yangi ilovalarni joylashtirishdan oldin tahlil mexanizmlarini yaxshilashga majburlashdir.
