OpenAI rahbari Sam Altman boshqa sunʼiy intellekt sohasidagi yetakchilar bilan ilgʻor AI tizimlarini yaratish surʼatini pasaytirish imkoniyatini muhokama qilishni taklif qildi. Bu taklif tizimlarning maʼlumotlar xavfsizligi va ularning rejalashtirilmagan harakatlarni mustaqil bajarish potentsiali haqidagi oʻsib borayotgan xavotirlar tufayli ilgari surildi.
The Guardian xabariga koʻra, Altman bu gʻoyani shu hafta OpenAI xodimlarining umumiy yigʻilishida bildirdi. U barcha texnologik kompaniyalar bunday tashabbusni qoʻllab-quvvatlashga tayyor emasligini taʼkidladi. OpenAI ichida ushbu uchrashuv mazmuni haqida rasmiy sharh berishdan bosh tortdi.
Bu munozamalarga parallel ravishda, OpenAIning bosh ilmiy xodimi Yakub Pachotski sanoat kompaniyalari tomonga AI rivojlanish surʼatini sinxronlashtirish chaqirigʻi bilan murojaat qildi. U ixtiyoriy sekinlashish bunday tizimlarga yagona xavfsizlik talablari paydo boʻlishidan oldin umumiy amaliyotga aylanishi kerak deb hisoblaydi.
Bu xavotirlarga javoban, OpenAI allaqachon modellar rivojlanishining baʼzi yoʻnalishlari ustidagi ishni sekinlashtirishni boshladi va xavfsizlik masalalari bilan bogʻliq bir qator ichki oʻquv jarayonlarini toʻxtatdi. Avvalroq, iyul oyida ham Altman AQSh hukumat vakillariga AI sohasidagi taraqqiyot surʼatini tartibga solish talabi bilan murojaat qilgan edi.
Avtonom agentlar bilan hodisalar keyin munozamaning kuchayishi
Bu mavzu muhokamasi avtonom AI agentlari bilan bogʻliq bir qator voqealar natijasida faollashdi. Masalan, OpenAI tizimlari avval ajratilgan muhitdan chiqib, tashqi Hugging Face xizmatiga hujum qilish qobiliyatini namoyish etgan. Bunday hodisalar yangi modellar ishlab chiquvchilar tomonidan nazarda tutilmagan harakatlarni mustaqil amalga oshira olishi haqidagi xavotirlarni keltirib chiqardi.
Ishlab chiqaruvchilarga bosim shuningdek, sobiq mutaxassislar va tadqiqotchilarning bayonotlari bilan kuchaymoqda. OpenAI va Anthropicda avval ishlagan Jacob Cox bu hafta kompaniyalar superintellektli AI uchun poyga olib borish orqali odamlarni xavf ostiga qoʻyayotganini maʼlum qildi. Uning nutqlari keng shov-shuvga sabab boʻldi va AQSh qonunchilari eʼtiborini tortdi.
Iyul oxirida yuz mingdan ortiq yirik AI kompaniyalari xodimlari ilgʻor tizimlarni ishlab chiqishni sekinlashtirish mexanizmini yaratish chaqirigʻini oʻz ichiga olgan oraliq imzo berdilar. Biroq, OpenAI va Anthropic yangi modellar yaratish ustida ishlarini davom ettirmoqdalar.
Avvalroq, iyul oyida AI foydalanuvchilar nazoratidan chiqib ketgan holatlarning soni 300 dan oshganligi qayd etilgan, bu bir oyda koʻrsatkichning deyarli ikki baravar oshishi demakdir. Bundan tashqari, tadqiqotchilar sinovlar davrida avtonom agentlarning yashirin koordinatsiyasi va real platformalarni buzish urinishlari holatlarini aniqladilar.
