Meta tomonidan sun'iy intellekt bilan yaratilgan rasmlarni aniqlash uchun ishlab chiqilgan vosita oddiy kesishdan so'ng o'z yaratgan mahsulotlarini aniqlashda xatoliklarga yo'l qo'ygani haqida Reuters ma'lumot berdi.
Yaratilgan rasmlar bilan sinov natijalari
Sinovda kompaniyaning eng yangi tasvir yaratish modeli bo'lgan Muse Image tomonidan ishlab chiqarilgan 40 ta rasm ishtirok etdi. Dastlab, vosita barcha 40 ta asl rasmni to'g'ri aniqlay olgan. Biroq, bu rasmlar shu kabi kesib, asl hajmining uchdan bir yoki yarim qismiga qisqartirilganda, detektor 55% hollarda ishlamadi.
Tizimning ishlashi va cheklovlari
Meta o'z deteksiya tizimi Muse Image tomonidan yaratilgan har bir rasmdagi Content Seal deb nomlangan ko'rinmas suv belgisi (watermark) dan foydalanishini tushuntiradi. Ushbu texnologiya foydalanuvchilarga kompaniya AI modellaridan yaratilgan rasmni odatiy tahrirlanganidan keyin ham tekshirish imkonini berish uchun yaratilgan.
Reuters tahlil natijalari haqida savol berilganda, Meta ushbu vosita hali sinov bosqichida ekanligini ta'kidladi. Kompaniya suv belgisi odatiy tahrirlarni qo'llab-quvvatlash uchun mo'ljallanganini tan olgan, ammo juda keskin kesishlarda signal yo'qolishi mumkinligini e'tiraf berdi.
AI mutaxassislari fikrlari
New York shtat universiteti Buffalo shaharidagi kompyuter fanlari professori va AI tasvirlari forensikasi mutaxassisi Siwei Lyu Reutersga, suv belgilariga tayanadigan tizimlarning ma'lum cheklovlari borligini ta'kidladi. U shuni aytdiki, suv belgisi signal butunligicha saqlanib qolsa, suv belgisi asosidagi usullar juda samarali bo'lsa-da, og'ir siqish, qayta o'lchash yoki kesish kabi signalni zaiflashtiradigan yoki yo'qotadigan har qanday o'zgarish uning samaradorligini suv belgisining dizayniga bog'liq holda kamaytirishi mumkin.
Boshqa tomondan, UC Berkeley axborot maktabidagi AI doktoranti Sarah Barrington cheklovlar bilan rozi bo'ldi, ammo boshqa kibersavdo yoki jismoniy xavfsizlik choralariga o'xshab, u ham to'liq xatosiz bo'la olmasligini ta'kidladi. U qo'shimcha qilib, aniqlash faqat 90% holatlarga erishsa ham, bu nol foiz darajasiga qaraganda sezilarli yutuq ekanligini bildirdi.
Regulyativ kontekst va raqobat
Bu kashfiyot muhim davrda paydo bo'ldi, chunki yil AQSh o'rta muddatli saylovlarini o'z ichiga oladi, bu paytda manipulyatsiya qilingan rasmlar va deepfake'lar tarqalishi oshishi tendensiyasiga ega. Mart oyida Meta nazorat kengashi, kontent moderatsiyasi bo'yicha majburiy qarorlar qabul qiluvchi mustaqil organ, kompaniyadan o'z platformalarida AI tomonidan yaratilgan yolg'on kontent tarqalishiga qarshi sa'y-harakatlarni kuchaytirish va yanada mustahkamroq deteksiya vositalariga sarmoya kiritishni so'ragan edi.
Meta bu muammoga yolg'iz duch kelmayapti; Google va OpenAI ham o'zlarining deteksiya vositalari ham tasvirni manipulyatsiya qilish texnikalariga immunitetga ega emasligi haqida ommaviy ogohlantirishlar berishdi.
