O'tgan juma kuni (17) San-Fransisko shahar prokurori kabineti Apple va Googlelarga rasmiy ogohlantirishlar yubordi. Maqsad – tasvirlangan odamlarning roziligisiz sun'iy ravishda yaratilgan yopiqlik tasvirlarini hosil qiluvchi o'n uchta yuz almashtirish ilovasini olib tashlashni talab qilish edi.
Jinsiy Kontentga E'tibor
Shahar harakati bu yerda sun'iy intellekt yordamida shaxslarning fotosuratlarini o'zgartirib, jinsiy kontent hosil qiladigan vositalarga xususan qaratilgan. Shahar hokimiyati ma'lumot berishicha, bu raqamli platformalar bunday xizmatlar uchun ilovalar ichida amalga oshiriladigan to'lovlar orqali foyda keltiradi.
Tekshiruvlar va Xavotirlar
Bu tashabbus dastlab oddiy rasm tahrirlovchilari sifatida taqdim etilgan, ammo jinsiy tabiatdagi deepfake'larni ishlab chiqarishda ishlatilishi mumkinligi aniqlangan tekshiruvlardan keyin paydo bo'ldi. Ushbu turdagi kontentdan eng ko'p shikoyat qilganlar ayollar va qizlar hisoblanadi.
Texnologiya Korxonalariga Talablar
Ikkala texnologik gigantga yuborilgan xatlar San-Fransisko shahar prokurori David Chiu tomonidan imzolangan. U ruxsatsiz intim tasvirlarni yaratish noqonuniy va zararli amaliyot ekanligini ta'kidladi va Apple ham, Google ham o'z raqamli ekotizimlaridan suiiste'molni osonlashtirishni to'xtatishlari kerakligini talab qildi.
Shaharning vakili shuningdek, kompaniyalardan ushbu turdagi ilovalarni ishlab chiqqan ishlab chiquvchilar bilan barcha tijorat munosabatlarini bekor qilishni so'radi. Bundan tashqari, talab virtual dovozdagi to'lov tizimlariga ham tegishli bo'lib, bunda kompaniyalar ushbu dasturlar tomonidan yaratilgan daromadning bir qismini oladi.
Apple va Google Javoblari
Apple ham, Google ham o'z platformalarida pornografiya, tahdid va har qanday suiiste'molchi kontentga qarshi qat'iy yo'riqnomalarga ega ekanligini e'lon qildi. Apple shaharning ko'rsatgan ilovalardan uchtasini olib tashlaganini va tegishli ishlab chiquvchilar hisoblarini to'xtatish jarayonini boshlaganini ma'lum qildi. Kompaniya boshqa ijodkorlar ham aniqlangan qoidabuzarliklarni tuzatmasa, chiqarib tashlanishi mumkinligini ogohlantirdi.
O'z navbatida, Google o'z siyosatlarini buzgan «yopiqlik» funksiyalari mavjud bo'lgan yuzlab ilovalarni olib tashlashini e'lon qildi. Kompaniya shuningdek, shunga o'xshash vositalarni to'xtatganini va ilova do'konidagi ushbu xizmatga oid qidiruv shartlarini cheklaganini ma'lum qildi.
Aniqlangan Muammoning Tabiatiga
Shahar tekshiruvi natijalari shuni ko'rsatdiki, muammo faqat aniq yopiqlik vositalari sifatida belgilangan ilovalarga cheklanmaydi. Tadqiqotlar oddiy tahrirlash funksiyalari sifatida taqdim etilgan, ammo samarali himoya choralari bo'lmagan jinsiy tasvirlarni yaratish imkonini beradigan yuz almashtirish dasturlarini kashf etdi.
Matnda tilga olingan tadqiqot bir nechta yuz almashtirish ilovalari borligini aniqladi, ular Apple va Google do'konlarida mavjud. Ushbu dasturlarning sezilarli qismi hatto rasman bunday maqsad uchun e'lon qilinmagan bo'lsa ham, yopiq tasvirlar montajlarini yaratishga imkon berardi.
Generativ Sun'iy Intellektning Ta'siri
Bu vositalarning ko'payishi generativ sun'iy intellekt tizimlarining rivojlanishi bilan bir vaqtda sodir bo'ldi, bu esa yuqori darajada realistik yolg'on tasvirlarni yaratish uchun zarur bo'lgan texnik murakkablikni sezilarli darajada kamaytirdi. Materialda tilga olingan mutaxassislar, faqat bitta havolaviy fotosurat va ba'zi buyruqlar bilan bunday turdagi kontentni yaratish mumkinligini ta'kidladilar.
Keyingi Huquqiy Qadamlar
San-Fransisko shahri ushbu vositalarning tarqalishiga yo'l qo'yadigan kompaniyalarga qarshi huquqiy choralar ko'rib chiqilishini davom ettirishini e'lon qildi. Organning bayon etilgan maqsadi platformalarni yangi ilovalarni joylashtirishdan oldin tahlil mexanizmlarini yaxshilashga majburlashdir.
