O'tgan juma kuni (17) San-Fransisko shahar prokurori kabineti Apple va Googlelarga rasmiy ogohlantirishlar yubordi. Maqsad – tasvirlangan odamlarning roziligisiz sun'iy ravishda yaratilgan yopiqlik tasvirlarini hosil qiluvchi o'n uchta yuz almashtirish ilovasini olib tashlashni talab qilish edi.
Shahar harakati bu yerda sun'iy intellekt yordamida shaxslarning fotosuratlarini o'zgartirib, jinsiy kontent hosil qiladigan vositalarga xususan qaratilgan. Shahar hokimiyati ma'lumot berishicha, bu raqamli platformalar bunday xizmatlar uchun ilovalar ichida amalga oshiriladigan to'lovlar orqali foyda keltiradi.
Bu tashabbus dastlab oddiy rasm tahrirlovchilari sifatida taqdim etilgan, ammo jinsiy tabiatdagi deepfake'larni ishlab chiqarishda ishlatilishi mumkinligi aniqlangan tekshiruvlardan keyin paydo bo'ldi. Ushbu turdagi kontentdan eng ko'p shikoyat qilganlar ayollar va qizlar hisoblanadi.
Ikkala texnologik gigantga yuborilgan xatlar San-Fransisko shahar prokurori David Chiu tomonidan imzolangan. U ruxsatsiz intim tasvirlarni yaratish noqonuniy va zararli amaliyot ekanligini ta'kidladi va Apple ham, Google ham o'z raqamli ekotizimlaridan suiiste'molni osonlashtirishni to'xtatishlari kerakligini talab qildi.
Shaharning vakili shuningdek, kompaniyalardan ushbu turdagi ilovalarni ishlab chiqqan ishlab chiquvchilar bilan barcha tijorat munosabatlarini bekor qilishni so'radi. Bundan tashqari, talab virtual dovozdagi to'lov tizimlariga ham tegishli bo'lib, bunda kompaniyalar ushbu dasturlar tomonidan yaratilgan daromadning bir qismini oladi.
Apple ham, Google ham o'z platformalarida pornografiya, tahdid va har qanday suiiste'molchi kontentga qarshi qat'iy yo'riqnomalarga ega ekanligini e'lon qildi. Apple shaharning ko'rsatgan ilovalardan uchtasini olib tashlaganini va tegishli ishlab chiquvchilar hisoblarini to'xtatish jarayonini boshlaganini ma'lum qildi. Kompaniya boshqa ijodkorlar ham aniqlangan qoidabuzarliklarni tuzatmasa, chiqarib tashlanishi mumkinligini ogohlantirdi.
O'z navbatida, Google o'z siyosatlarini buzgan «yopiqlik» funksiyalari mavjud bo'lgan yuzlab ilovalarni olib tashlashini e'lon qildi. Kompaniya shuningdek, shunga o'xshash vositalarni to'xtatganini va ilova do'konidagi ushbu xizmatga oid qidiruv shartlarini cheklaganini ma'lum qildi.
Shahar tekshiruvi natijalari shuni ko'rsatdiki, muammo faqat aniq yopiqlik vositalari sifatida belgilangan ilovalarga cheklanmaydi. Tadqiqotlar oddiy tahrirlash funksiyalari sifatida taqdim etilgan, ammo samarali himoya choralari bo'lmagan jinsiy tasvirlarni yaratish imkonini beradigan yuz almashtirish dasturlarini kashf etdi.
Matnda tilga olingan tadqiqot bir nechta yuz almashtirish ilovalari borligini aniqladi, ular Apple va Google do'konlarida mavjud. Ushbu dasturlarning sezilarli qismi hatto rasman bunday maqsad uchun e'lon qilinmagan bo'lsa ham, yopiq tasvirlar montajlarini yaratishga imkon berardi.
Bu vositalarning ko'payishi generativ sun'iy intellekt tizimlarining rivojlanishi bilan bir vaqtda sodir bo'ldi, bu esa yuqori darajada realistik yolg'on tasvirlarni yaratish uchun zarur bo'lgan texnik murakkablikni sezilarli darajada kamaytirdi. Materialda tilga olingan mutaxassislar, faqat bitta havolaviy fotosurat va ba'zi buyruqlar bilan bunday turdagi kontentni yaratish mumkinligini ta'kidladilar.
San-Fransisko shahri ushbu vositalarning tarqalishiga yo'l qo'yadigan kompaniyalarga qarshi huquqiy choralar ko'rib chiqilishini davom ettirishini e'lon qildi. Organning bayon etilgan maqsadi platformalarni yangi ilovalarni joylashtirishdan oldin tahlil mexanizmlarini yaxshilashga majburlashdir.
Microsoft Word va Excel kabi mahsulotlarda o'zining sun'iy intellekt modellaridan foydalanishni oshirish orqali strategik o'zgarishni amalga oshirmoqda. Bu o'zgartirish kompaniyaning hamkorlar tomonidan yaratilgan tizimlarga bo'lgan bog'liqligini kamaytirishni maqsad qilgan bo'lib, bu AI dan foydalanish bilan bog'liq xarajatlar o'sishi sababli amalga oshirilmoqda.
Kompaniya OpenAI va Anthropic tomonidan taqdim etilgan yechimlardan foydalanishni saqlab qolgan bo'lsa-da, u ichki modellarining qo'llanilishini turli funksiyalarda kengaytirdi. Bu harakat texnologiya sohasidagi yirik korxonalarning umumiy xarajatlarni cheklash izlovchi kontekstiga kiradi, chunki sun'iy intellekt xizmatlarini saqlashning yuqori narxi mavjud.
Microsoftning taktikasi foydalanuvchilar buyruqlarining bir qismini Word va Excel kabi mashhur vositalarda qayta ishlash uchun o'zining MAI deb nomlangan modellarini kiritishdan iborat. Avvalgi paytlarda Office 365 segmentlari OpenAI va Anthropic tomonidan ishlab chiqilgan modellaridan foydalanishi ma'lum edi. Ushbu o'tishga qaramay, Microsoft tashqi yetkazib beruvchilarni tashlab yubormadi, ichki AI infratuzilmasini mustahkamlashda davom etib, shu jumladan, aniq vazifalarni bajarish uchun agentlarni ishlab chiqish orqali ushbu kompaniyalarning modellariga murojaat qilishda davom etmoqda.
O'tgan oyda o'tkazilgan yillik Build konferensiyasida kompaniya yetti yangi MAI modelini e'lon qildi. Ushbu chiqarilishlar orasida dasturlashga qaratilgan agent va matnli tavsiflardan tasvir yaratishga qodir vosita ajralib turdi. TechCrunch tomonidan bu o'zgarish haqida murojaat qilinganda, Microsoft mavzu bo'yicha qo'shimcha bayonotlari yo'qligini bildirdi. Kompaniyaning bu qadami Amazon, Uber, Meta va Accenture kabi boshqa tashkilotlarda kuzatilayotgan tendensiyani aks ettiradi, ular ham sun'iy intellekt xarajatlarini boshqarish choralari ko'rdi. AI tizimlarini joriy etish va operatsion xarajatlarining oshishi bu masalani sektor uchun tobora muhim muammo qilib aylantirmoqda. Silikon vodiysining ba'zi hududlarida ba'zi kompaniyalar xavfsizlik masalalari mavjud bo'lsa-da, AI agentlari asosidagi yechimlar uchun pastroq narxdagi variant sifatida Xitoyda ishlab chiqilgan modellarni ko'rib chiqishni boshlashdi.
