OpenAI va Anthropic Yevropa Sun'iy Intellekt Qonunini joriy etishidan oldin xavfsizlik kamchiliklarini tushuntirdilar

OpenAI va Anthropic tomonidan ishlab chiqilgan sun'iy intellekt modellarining xavfsizlik sinovlari paytida kiberhujumlar simulyatsiyalari kabi kutilmagan qobiliyatlar namoyon bo'ldi. Ushbu hodisalar jamoatchilikka e'lon qilinishidan oldin Yevropa Komissiyasiga ma'lum qilindi.

Reuters ma'lumotlariga ko'ra, Yevropa bloki bu holatlarni kuzatib bormoqda, chunki u dunyodagi ushbu texnologiyaning rivojlanishini nazorat qilishga qaratilgan birinchi keng qamrovli tartibga solinishlardan biri bo'lgan Sun'iy Intellekt Qonuni uchun tayyorgarlikni yakunlamoqda.

Sinovlar AI agentlari uchun yangi muammolarni ochdi

Bu voqealar avtonom ravishda vazifalarni bajarish qobiliyatiga ega vositalar haqida yanada katta xavotir uyg'otdi. Yevropa Komissiyasi ikki kompaniya tomonidan hodisalar ochiq e'lon qilinishidan oldin batafsil ma'lumotlar olganini tasdiqladi. Organ xodimi shunday dedi: «Biz ikkala yetkazib beruvchidan hodisalar haqida ular jamoatchilikka ma'lum bo'lishidan oldin xabardor qilindi. Biz ular bilan bog'lanib turibmiz va ko'proq ma'lumotlar olamiz. Shuningdek, biz bu masalalarga yanada rasmiy yo'naltirish berish zarurmi yoki yo'q, baholaymiz».

Ma'muriyat tomonidan olib borilayotgan tahlil bir nechta muhim jihatlarga qaratilgan, jumladan: tizimlarning bevosita buyruqsiz harakat qilish qobiliyati; raqamli hujumlarda noto'g'ri foydalanish bilan bog'liq xatarlar; ishlab chiquvchilar tomonidan majburiy monitoring talabi; va ushbu texnologiyalarning ishlashiga oid shaffoflik talabi.

Yevropa Komissiyasining boshqa vakili «bu hodisalar ishlab chiquvchilardan talab qilinadigan monitoring faoliyatini amalga oshirish muhimligini ta'kidlaydi» dedi.

Anthropic va OpenAI kutilmagan xatti-harakatlarni hisobot berishmoqda

Birinchi bayon qilingan holat Anthropicning Claude oilasiga tegishli modellar bilan bog'liq edi. Kompaniya ba'zi versiyalari kiberxavfsizlik sinovlari paytida uchta tashkilotning tizimlariga kirib borishi mumkinligini ma'lum qildi. Kompaniyaning o'ziga ko'ra, konfiguratsiya xatosi internetga kirish imkonini yaratgan. Faoliyat 141 mingdan ortiq sinov sessiyalarini diqqat bilan ko'rib chiqqandan so'ng aniqlangan va ta'sirlangan subyektlar tegishli tarzda xabardor qilindi.

Bir necha kun o'tgach, OpenAI o'zining ikki modelining xavfsizlik baholash jarayonida tizimga kirish usulini topganini e'lon qildi. Kompaniya bu voqeani «oldin sezilmagan» hujum deb tasnifladi.

Yangi AI Qonuni kompaniyalar ustidagi bosimni oshiradi

Bu holatlar Yevropa Ittifoqining AI Qonuni kuchga kirishidan oldingi muhim paytda yuzaga keldi, u 2-avgustda rejalashtirilgan. Ushbu tartibga solinish umumiy maqsadli va tizimli xavf potentsialiga ega modellar ishlab chiquvchilari uchun burchlarni belgilaydi.

Huquqiy talablarga kiberhujumlar, zararli manipulyatsiya va texnologiya inson nazoratidan tashqarida ishlashi mumkin bo'lgan ssenariylarni yumshatishga qaratilgan choralar kiradi. Qonunchilik shuningdek, foydalanuvchilar sun'iy intellekt bilan o'zaro aloqada bo'lganda yoki kontent ushbu texnologiya tomonidan yaratilganda yoki o'zgartirilganda ogohlantirish majburiyati kabi shaffoflik mezonlarini belgilaydi.

Kutilayotgan jazo miqdori sezilarli darajada farq qilishi mumkin, u 7,5 million yevrodan (taxminan 48 million braziliya realiga teng) yoki global tushumning 1,5% gacha, 35 million yevrodan (taxminan 224 million braziliya realiga teng) yoki jahon daromadining 7% gacha bo'lishi mumkin, bu buzilishning og'irligiga bog'liq.

Yangi normalativ hujjat joriy etilishi oldidan, Yevropa ikki bog'liq, ammo har doim ham mos kelmaydigan maqsadni muvozanatlashtirish bilan duch kelmoqda: AI taraqqiyotini rag'batlantirish va tobora avtonom texnologiyalarga xos xatarlarni kamaytirish.

Yevropa Ittifoqi sun'iy intellekt tomonidan yaratilgan realistik ko'rinishdagi kontent uchun belgilash majburiyatini joriy qiladi

Batafsil

olhardigital.com.br31-iyul, 21:14

Yevropa Ittifoqi sun'iy intellekt tomonidan yaratilgan realistik ko'rinishdagi kontent uchun belgilash majburiyatini joriy qiladi

Yevropa Ittifoqi keyingi yakshanba kuni, ya'ni 2-sentabrdan boshlab, blok ichida sun'iy intellekt tizimlarini taqdim etadigan kompaniyalar uchun yangi qoidani qo'llashni boshlaydi. Bu talab AI tomonidan yaratilgan va haqiqatga o'xshashlikni taqlid qilish uchun mo'ljallangan rasmlar, audio va matnlarning raqamli belgisi bilan tegishli belgilanishini talab qiladi.

Bu majburiyat Yevropa Ittifoqi Sun'iy Intellekt Qonunidagi ko'rsatmalar tarkibiga kiradi va Yevropa bozoriga chiqarilayotgan har qanday yangi tizimlar uchun darhol kuchga kiradi. Biroq, mavjud platformalar va vositalar talablarga moslashish uchun qo'shimcha to'rtta oylik muddatga ega bo'ladi.

Bu talab Yevropa Ittifoqi Sun'iy Intellekt Qonunining amalga oshirilgan qismi bo'lib, u sun'iy intellekt tomonidan yaratilgan va haqiqiy holatlarni yoki materiallarni aks ettirish maqsadida yaratilgan barcha kontentning raqamli belgi bilan ta'minlanishi kerakligini belgilaydi. Ushbu identifikatsiya Yevropa Ittifoqining o'zi yaratgan standart yoki boshqa tashkilotlar tomonidan ishlab chiqilgan ekvivalent tizimlardan foydalanish orqali amalga oshirilishi mumkin.

Yangi normalar shaxsiy foydalanish uchun mo'ljallangan kontentlarni, masalan, foydalanuvchilar o'rtasidagi maxfiy aloqalarni istisno etadi. Bundan tashqari, satira va bunday aniq ravishda xayoliy asarlar kabi aniq san'at asarlari ham ozod qilinadi.

Yevropa bozoriga yangi AI tizimlarini kiritadigan kompaniyalar 2-avgustdan boshlab bu talablarga rioya qilishlari kerak. Ushbu sanagacha mavjud bo'lgan vositalar uchun qonunchilik moslashish uchun qo'shimcha to'rtta oylik davr beradi.

Yevropa Ittifoqi Sun'iy Intellekt Qonuni muzokaralarida ishtirok etgan deputat Sergey Lagodinsky choraning amalga oshirilishi haqida sharh berib, uning doirasi shunchaki iste'molchini himoya qilishdan oshib ketishini ta'kidladi. U The Guardian gazetasiga tushuntirib, ushbu tashabbusning internetdagi faktlarning haqiqiyligini saqlab qolish orqali demokratiyani himoya qilishni maqsad qilganini aytdi.

Ushbu talablarga rioya qilmaslik kompaniyalarining umumiy yillik daromadining 3% gacha yetadigan jarimalarga olib kelishi mumkin.

Computer and Communications Industry Association ning sun'iy intellekt siyosati bo'yicha mas'ul shaxs Boniface de Champris, ko'plab iste'molchilar bu belgilarning qayerdan paydo bo'lishini bilib hayratda qolishlari mumkinligini kuzatib bordi. Unga ko'ra, ijtimoiy tarmoqlar allaqachon AI tomonidan yaratilgan kontentning bir qismini belgilash mexanizmlaridan foydalansa-da, tendensiya bu belgilarning reklama, kino va nashriyot bozori kabi sohalarda ham ko'rinadigan bo'lishidir, chunki texnologiya u yerda keng qo'llanilmoqda.

Matnda katta raqamli platformalar allaqachon AI tomonidan yaratilgan kontentni aniqlashga qaratilgan siyosatlarga ega ekanligi ham ta'kidlangan, garchi bu amaliyot har doim to'liq samarali bo'lmasa ham. Tilga olingan misollardan biri TikTok ijodkorlardan AI tomonidan yaratilgan materiallarni belgilashni talab qiladi, ammo bu kontent sezilmay qolgan hollarni qayd etadi, masalan, shubhalik sog'liqni saqlash maslahatlari berayotgan soxta shifokorlar haqidagi qisqa videolar.

Bundan tashqari, Google va Meta kabi korporatsiyalar sintez materiallarini aniqlashga yordam berish uchun o'z xususiy texnologiyalaridan foydalanmoqda. Google o'zining SynthID vositasi 100 milliarddan ortiq rasmni belgilashda va taxminan 60 ming yilga teng audio hajmini belgilashda ishlatilganini ma'lum qildi. Meta ham sun'iy intellekt tomonidan yaratilgan fotorealistik rasmlarni aniqlash uchun maxsus siyosatlarni saqlab turadi.

Sun'iy intellekt uchun kurash Apple aksiyalari ustiga komponentlar tanqisligi tufayli bosim o'tkazmoqda

Batafsil

olhardigital.com.br31-iyul, 20:15

Sun'iy intellekt uchun kurash Apple aksiyalari ustiga komponentlar tanqisligi tufayli bosim o'tkazmoqda

Apple yaqin oylardagi moliyaviy prognozlarini e'lon qilgandan so'ng, aksiyalari keskin pasaydi. Reuters ma'lumotlariga ko'ra, korxona sun'iy intellektni kengaytirish uchun mo'ljallangan yarimo'tkazgichlar bo'yicha global raqobat davrida muhim komponentlarni ta'minlashda to'siqlarga duch kelmoqda.

Bu pasayish kompaniyaning sayyoraning eng qimmat korxonasi maqomini yo'qotishi xavfini tug'diradi va bu o'rnni asosan AI tizimlari uchun chip ishlab chiqaruvchi Nvidia ga qaytarishi mumkin.

Chip tanqisligi Appleni bosim ostiga qo'ymoqda

Apple aksiyalari natijalar va yangi moliyaviy taxminlar e'lon qilinganidan so'ng deyarli 10% tushdi. Agar bu tendensiya davom etsa, kompaniya bozordagi qiymatining taxminan 500 milliard AQSh dollarini (taxminan 2,5 trillion brzlian real) yo'qotishi mumkin. Bu tushish 2020-yil mart oyidan beri kompaniyaning eng yomon kundalik ishlashini tashkil etadi, shu davrda jahon bozorlari pandemiya ta'sirida edi.

Muammoning mohiyati ta'minot zanjirida yotadi. Texnologiya kompaniyalari katta sun'iy intellekt infratuzilmalarini qurishdagi ishtiyoqi ilg'or protsessorlar va xotira uchun kurashni kuchaytirdi, bu mobil telefon va kompyuter ishlab chiqaruvchilarga ham ta'sir qildi.

Apple Bosh ijrochi direktori Tim Kuk vaziyatni 'juda muhim' deb ta'riflab, kompaniyaning ta'minot zanjiri cheklovlarini boshqarish uchun kam alternativga ega ekanligini bildirdi. Ushbu bayonot uning John Ternusga lavozim topshirilishi oldidagi oxirgi natijalar taqdimoti paytida berilgan.

Yangi AI tizimlarini qo'llab-quvvatlash uchun chiplarga cheksiz izlanish texnologiya sektorining an'anaviy segmentlariga kutilmagan bosim o'tkazdi. Sektordagi gigantlar ham o'z inventarini oshirish va qismlar bo'yicha talabni qondirishda qiyinchiliklarga duch kelishmoqda.

Bu holatning oqibatlari quyidagilarni o'z ichiga oladi: murakkab chiplar uchun yuqori raqobat; komponentlar narxining oshishi; iPhone va Mac buyurtmalarini bajarishdagi muammolar; va smartfonlar hamda kompyuterlar bozoriga bosim. Agar Applening o'zi ta'minot zanjirining barcha moslashuvchanligini tugatganini bildirsa, bu vaziyat barcha ishtirokchilar uchun jiddiy deb hisoblanadi, deb ta'kidlaydi Creative Strategies konsalting firmasi Bosh ijrochi direktori Ben Bajarin Reutersga.

Apple xizmatlari ham investorlarni xavotirga solmoqda

Bozorning xavotiri faqat komponentlar bilan cheklanmadi. Apple xizmatlari bo'limining (Apple Music, App Store va Apple TV kabi bizneslarni o'z ichiga oladi) ishlashi ham diqqatni tortdi. Kompaniya joriy chorakda daromadning 9% dan 11% gacha o'sishini prognoz qildi, bu tahlilchilar tomonidan belgilangan taxminiy 12% dan pastroq foizdir.

Investorlar kelajakdagi iPhone narxlarining qayta sozlanishi ehtimolini ham kuzatib borishmoqda. Biroq, ba'zi mutaxassislar Apple avvalroq sozlamalar kiritganini, ammo bu qurilmalarga bo'lgan talabda katta o'zgarishlarga sabab bo'lmaganini fikrlashadi.

Hozirgi muammo mahsulotlariga bo'lgan yuqori talabni, sektorning kelajagini inqilob qilishga va'da berayotgan shu texnologiya – sun'iy intellekt tufayli stress ostida turgan ta'minot zanjiri bilan uyg'unlashtirishdan iborat.