Anthropic kompaniyasi oʻzining Claude modelining endi kompaniya ichidagi ilmiy-tadqiqot va loyihalash ishlarining 26% da ishtirok etayotganini maʼlum qildi. Bu kompaniyaning tashqi kuzatuvchilarga AI texnologiyalarning keyingi avlodini yaratish tezligini namoyish etish uchun muntazam nashr etishni rejalashtirayotgan yangi choralarining bir qismidir.
San-Fransisko startapi xabariga koʻra, avgust oyida AI tadqiqot vazifalarining 90% dan ortigʻida insonlar bilan hamkorlik qilgan. Anthropic taʼkidlaganicha, Claude hech bir oʻlchovlanadigan ish sohasida toʻliq mustaqil faoliyat yuritmaydi, ammo texnologiyaning rivojlanishiga qoʻshgan hissasi sezilarli darajada oshgan: bu iqtisodiy tashkilot Epoch AI tomonidan ishlab chiqilgan miqyosga koʻra, mart oyida 1% dan oshib ketgan.
Bu maʼlumotlar yetakchi sanoat kompaniyalari ushbu texnologiyani qanday ishlab chiqayotganligi haqida eng batafsil jamoatchilik tahlillaridan birini taqdim etadi, ayniqsa AI inson aralashuvisiz oʻzini rivojlantirish nuqtasiga erishishi mumkinligi haqidagi tobora ortib borayotgan xavotirlar fonida.
Tadqiqotchilar AI agentlari yanada mustaqil boʻlib borayotgan sari, ular yaratuvchilarning niyatlaridan chetga chiqqan xatti-harakatlarni shakllantirishi mumkin, bu esa monitoring yoki nazorat qilishni qiyinlashtiradi.
Chorshanba kuni kompaniyaning raqibi OpenAI AI ning kutilmagan yoki ruxsatsiz xatti-harakatlari haqida muntazam hisobotlarni nashr etishni boshlashini eʼlon qildi va modelning kutilmagan yoki xavotir uygʻotuvchi xatti-harakatlari haqida oltita bunday hisobotni oshkor qildi.
Har bir harakat tekshiriladi
Anthropic avgust oyida asosiy ichki platformasida muhandislik va tadqiqot ishlarini bajarayotgan taxminan 30 000 ta AI agentlari bir vaqtning oʻzida ishlayotganini maʼlum qildi. Kompaniya shuni qoʻshimcha qildiki, bu agentlar tomonidan amalga oshiriladigan har bir harakat bajarilishdan oldin tekshiriladi; oʻsha oydagi milliarddan ortiq qarorlardan taxminan bittasi bloklangan, bu esa 47 000 dan 1 ga teng keladi.
Bundan tashqari, kompaniya iyul oyidagi bitta sinov haftasi davomida Anthropic tomonidan AI tadqiqotlari uchun ishlatiladigan hisoblash quvvatining taxminan 6% xavfsizlikni taʼminlash ishlariga yoʻnaltirilganligini, va bu koʻrsatkich AI tomonidan oʻtkazilayotgan tadqiqotlar uchun 12% gacha oshganini oshkor qildi. Ushbu raqamlar konservativ deb qayd etildi, chunki ilgʻor xavfsizlik va imkoniyatlar uchun bir vaqtning oʻzida ishlatilgan hisoblash quvvati imkoniyatlar ustida ishlanish sifatida hisobga olingan.
