Google Signal kodini xavfsizlik kamchiliklari uchun tahlil qilishda DeepMind AI dan foydalanmoqda

Anthropic kompaniyasi korxonalar tomonidan sunʼiy intellekt (AI) modeli natijasi yaratilganligini tekshirishga imkon beradigan FlashProve deb nomlangan texnologiyani ishlab chiqmoqda. Ushbu tizim maʼlum bir natija uchun javobgar modelning identifikatsiyasini tasdiqlovchi matematik dalil turini yaratish uchun kriptografiyadan foydalanadi.

Ushbu taklifning asosiy maqsadi foydalanuvchilarga provayder tomonidan eʼlon qilingan AI bilan oʻzaro aloqada ekanliklarini, kamroq yoki boshqa versiya bilan emas, tasdiqlash imkoniyatini berishdir. Anthropicning maʼlumotlariga koʻra, bu mexanizm kompaniyalarning oʻz modellarini sirli ravishda arzonroq variantlar bilan almashtirishini yoki amalda qoʻllanilayotgan haqiqiy texnologiyaga mos kelmaydigan ishlash koʻrsatkichlarini taqdim etishini ham qiyinlashtirishi mumkin.

Loyihaning tafsilotlari seshanba kuni (3-kun) kompaniya nashrida eʼlon qilingan. Bundan tashqari, kompaniya texnik spetsifikatsiyani va kodning bir qismlarini ochiq manba formatida mavjud qildi va boshqa tadqiqotchilarni tashabbusni tahlil qilishga va yaxshilashga taklif qildi.

FlashProve hal qilmoqchi boʻlgan asosiy muammolardan biri shundaki, provayder mijozlarga bitta modelni taqdim etadi, ammo xizmatdan foydalanish paytida boshqa model bilan ishlaydi. Masalan, tashkilot ilgʻor AI ga kirishni eʼlon qilishi mumkin, lekin xarajatlarni kamaytirish uchun uni arzonroq muqobil bilan almashtirishi mumkin. Bu mexanizm shuningdek, bir kompaniya natijani tasdiqlashda eʼlon qilganidan boshqa modeldan foydalangan holda boʻlgan holatlarni oldini olishga yordam beradi.

Bu tekshiruvning qoʻllanilish sohalari faqat AI kompaniyalari xizmatlaridan tashqarida ham keng tarqalgan. Tadqiqotchilar misol sifatida kibersavodxonlikning ilgʻor modelidan dasturiy taʼminot kutubxonasini xatolar topish uchun tekshirishni eʼlon qilgan ishlab chiquvchini keltirishadi. Boshqa potentsial qoʻllash sohasi esa kompaniyaning biznes-reja qismi ushbu vazifa uchun mos keladigan AI tomonidan tasdiqlanganini eʼlon qilishi boʻlishi mumkin.

FlashProve bilan eʼlon qilingan model aslida ushbu jarayonlarda ishlatilganligini tasdiqlash uchun kriptografik tekshiruv oʻtkazish mumkin boʻladi. Ommaviy eʼlon qilinganiga qaramay, FlashProve hali ham tadqiqot loyihasi sifatida qolmoqda. Anthropic batafsil texnik spetsifikatsiyani va turli komponentlarning funksional kodini ochiq manba litsenziyasi ostida chiqarib berdi, bu jamoatchilik uni koʻrib chiqishi va tizimni takomillashtirishga hissa qoʻshishi mumkinligini bildiradi.

Biroq, kompaniya ushbu texnologiyani oʻz xizmatlariga yoki boshqa AI platformalariga integratsiya qilish rejalari haqida maʼlumot bermadi. Tadqiqotchilar hozirgi nashrning butun tadqiqot rejasi yakunlanmagan, balki ishning oʻrta bosqichini ifodalashini tushuntirdilar. Maqsad boshqa jamoalarning taklifni baholashi, uning komponentlaridan foydalanishi va vositani takomillashtirishga yordam berishi imkonini yaratishdir.

Google sunʼiy intellekt (AI) modelini yoʻldoshda ishga tushirishda muvaffaqiyat qozondi va Yer tashqarisidan hosil boʻlgan javobni oldi. Ushbu sinov korporatsiyaning Yer orbitasiga AI maʼlumotlar markazlarini tashish imkoniyatini oʻrganishga qaratilgan Project Suncatcher tashabbusining eksperimental yutuqidir.

Kompaniya blogida eʼlon qilingan bayonotda Google kosmik uskunaga oʻrnatilgan Tensor Processing Units (TPU) protsessor birlikalaridan foydalanishni boshlaganini batafsil bayon etdi. Sinovlar davomida Gemma 4 modeli toʻgʻridan-toʻgʻri yoʻldoshda ishga tushirildi va kosmosdagi tajriba haqida haikai yaratish buyrugʻini oldi.

AI kosmosdan koʻrilgan Yer, maʼlumotlar oqimi va yulduzlarning yorugʻligi mavzularini qamrab oluvchi sheʼrlarni yaratdi. Bundan tashqari, kosmik mavzularli limericklar tuzish va telemetriya bilan bogʻliq buyruqlarga javob berish kabi boshqa eksperimentlar oʻtkazildi.

Bundan tashqari, Google orbitada ishlaydigan qurilmalar oʻrtasidagi aloqani yaxshilash ustida ishlamoqda. Dastlabki sinov bosqichlaridan soʻng, kompaniya 2027 yilga yangi maqsadga erishmoqchi: bir-biriga ulangan ikkita yoʻldoshni faol qilish.

Bu maqsadning maqsadi tizimlarning vazifalarni izchil bajarishi va kosmik muhitda maʼlumotlarni almashishi mumkinligini tasdiqlashdir. Bunday namoyish orbital kompyuter infratuzilmasini yaratish amaliyotini aniqlash uchun hal qiluvchi ahamiyatga ega boʻladi.

Hozirgi vaqtda Gemma 4 bilan oʻtkazilgan sinov faqatgina AI modeli yoʻldosh bordagi buyruqlarni qayta ishlashi va javoblar ishlab chiqara olishini tasdiqlaydi. Kosmik maʼlumotlar markazlarini amalga oshirish hali bir qator texnik bosqichlarni yakunlash va qoʻshimcha eksperimentlar oʻtkazishni talab qiladi.