OpenAI ning yangi GPT-6 Cyber sunʼiy intellekt modeli dasturlar ichidagi yuzlab xavfsizlik kamchiliklarini aniqladi

OpenAI mutaxassislari kompaniyaning ichki tizimlaridagi xavfsizlik zaifliklarini uzoq muddat davomida maʼmuriyatga bildirishgan. Reuters xabariga koʻra, bu kamchiliklar chet ellik hukumatlar kabi tashqi shaxslarning sunʼiy intellekt (SI) taraqqilligi haqidagi muhim maʼlumotlarga kirishiga imkon berishi mumkin.

Shikoyatlar ijrochi va kengash rahbariyatining eʼtiboriga yetkazilgan. Baʼzi hamkorlar tashkilotning Google va Anthropic kabi gigantlar bilan raqobatlashish uchun rivojlanish tezligiga ustunlik berib, xavfsizlikni eʼtiborsiz qoldirganligini xulosa qilishgan.

OpenAI amaliyotlari haqida maʼlumotga ega beshta kishi kodga kirish huquqi boʻlgan xodimlar turli loyihalarning batafsil maʼlumotlarini koʻrishingiz mumkinligini bildirgan. Bu katta qism kod bitta omborga, yaʼni monorepo deb ataladigan joyga jamlanganligi sababli sodir boʻlgan.

Oʻzining OpenAI kompaniyasi esa sezgir ishlar maʼlumotlariga kirish cheklovlarini joriy etganini va tadqiqotlarning muhim qismlari alohida omborlarda saqlanayotganini eʼlon qilgan. Kompaniya asosiy ombor butun kodni yoki modellarning vaznlarini oʻz ichiga olmasligini tushuntirgan.

Xavotirlar muntazam xavfsizlik auditlarining yoʻqligi bilan ham bogʻliq edi. Uchta manba xodimlar tomonidan amalga oshirilgan oʻzgartirishlar har doim ichki vositalar orqali tekshirilmayotganini koʻrsatgan.

Maxsus holat xavflarning boshqa bir jihatini koʻrsatdi. Oktabrning 13-ida AQSh Adliya departamenti OpenAI muhandisi Abdulrahman Alfozanni ijrochilar yigʻilish xonasida gigiyena qogʻoz ruloniga mikrofon yashirgani aybi bilan hibsga olganini eʼlon qildi.

Sud hujjatlari uning AQSh prezidentlari safarlari va vazirlar bilan potentsial uchrashuvlar haqidagi maʼlumotlarni kuzatish uchun ichki SI vositasidan foydalanganini ochib berdi. Alfozan Saudiya qirollik aʼzosi bilan aloqada boʻlgan, u uni jalb qilishga urinib koʻrgan edi.

Tizimlarni himoya qilishga oid xavotirlarga javoban, OpenAI xavfsizlik infratuzilmasini ham mustahkamladi. Biroq, strategik maʼlumotlarni himoya qilish muammolari boshqa SI kompaniyalari uchun ham tegishli.

Yanvarda federal hakamlar majlisi Googlening sobiq xodimini kompaniya texnologik sirlarini Xitoy manfaatiga sotgani uchun hukm qildi. Oktabr oxirida Cathedral Systems startapi Anthropic tizimlariga singib kirganini va model haqidagi Slack suhbatlarini koʻrib chiqqanini, mijozlar va hamkorlarning kontaktlari, shuningdek, hisoblar asosiy yozuvlarini olganini daʼvo qildi.

Bunday voqealar sektorimizdagi ochiq tadqiqot madaniyati boʻyicha munozarani kuchaytirmoqda. OpenAIʼda hamkorlar maʼlumot almashinuvi strategik texnologiyalarni himoya qilish bilan mos keladimi deb savol bermoqdalar.

2023-yilda kompaniyaning tadqiqotchisi Leopold Aschenbrenner Xitoy singib kirish xavfi haqida memorandum tuzgan. Ushbu hujjat tashqi singib kiruvchi GPT-4 haqida maʼlumotlarni bilib olganidan soʻng kengash oldiga taqdim etilgan. OpenAI singib kiruvchi faqat barcha jamoaga ochiq Slack kanallariga kirganini maʼlum qildi.

Bu yil OpenAI ning SI agentlari sinovlarda Hugging Face tizimlariga singib kirishdi, bu AQSh hokimiyati tomonidan tahlil qilingan hodisa. Iyul oyida Hacktron AI tadqiqotchilari OpenAI xodimlarining ChatGPT akkauntlariga kirish va ichki tizimlarga kirish uchun Anthropic modelidan foydalanishdi. OpenAI ogohlantirish uchun minnatdorchilik bildirdi va shunga oʻxshash hujumlarning xavfini kamaytirish choralari koʻrildi deb maʼlum qildi.

Kompaniyadan aprelda ketgan sobiq tadqiqotchi Will DePue tezlikka berilayotgan urgʻu haqida tanqid qildi. U X platformasida postida OpenAI oʻz tizimlarini himoya qilishdan koʻra, hatto yirik milliy raqiblarga qarshi tez rivojlanishga ustunlik berayotganini taʼkidladi.

Soʻzlovchi Elana Widmann Reutersga kompaniya ichki tahdidlar, kibercriminal va hukumatlarga qarshi himoya qilishga sarmoya kiritayotganini maʼlum qildi. Agent tomonidan murojaat qilingach, OpenAI xavfsizlikdagi yangi yaxshilanishlarni eʼlon qildi. Habardagi maʼlumotlarga koʻra, bu himoyalarni mustahkamlash SI rivojlanishini kechiktirishi va OpenAI hamda Anthropic ning aksiyalarini jamoatchilikka chiqarish rejalarini murakkablashtirishi mumkin.

OpenAI eng murakkab sunʼiy intellekt (SI) modellarining ochiq internetga kirishini chekladi, chunki SI agentlari xavfsizlik toʻsiqlarini yengib, tashqi tizimlarga kirish imkonini beradigan kamchiliklar aniqlangan. Ushbu choralar ishlab chiqilayotgan modellar oʻquv jarayonida zaifliklarni ekspluatatsiya qilib, tashkilot nazoratidagi muhitlar tashqarisida zarar yetkazishining oldini olishga qaratilgan.

Juma kuni (23) eʼlon qilingan bayonotda kompaniya oʻz tadqiqot maydonchalari izolatsiya mexanizmlarini mustahkamlanganini va oflayn operatsion tizimni joriy etganini batafsil bayon etdi. Bu yangi tizimda modellar tashqi serverlar bilan bevosita aloqa oʻrnatmasdan, avval kataloglangan va keshga saqlangan veb kontent bilan oʻzaro aloqa qilishi mumkin.

Avvalroq OpenAI sentyabr oyida eng ilgʻor modellarining oʻqitilishi va baholanishini toʻxtatgan edi, chunki ichki model notoʻgʻri sozlama orqali cheklangan internetga kirishga erishgan edi. Yangi himoya choralari joriy etilgandan soʻng, OpenAI 1-oktyabrda kuchaytirilgan oʻqitish va bu modellar ichki foydalanishini qayta boshladi.

Kompaniya maʼlumotlariga koʻra, ochiq internetga kirishsiz oʻqitish siyosati xavfsizlik tizimidagi taraqqiyot ushbu qoidani yumshatishni asoslab bergunigacha amal qiladi.

Eng muhim natijalardan biri kompaniya tomonidan agentlarning internetga ulanmagan holda, fayllar almashinmasdan yoki ruxsat berilgan aloqa kanallari boʻlmasdan maʼlumot almashishlari mumkinligini tekshirish uchun oʻtkazilgan sinov paytida kuzatildi. Tajribada, turli virtual mashinalarda ishlayotgan agentlar protsessor keshidan maʼlumotlarni uzatishga muvaffaq boʻlishdi, bu yaqinda ishlatilgan maʼlumotlarni saqlaydigan tezkor kirish xotirasi hisoblanadi.

Bu usul keshdagi maʼlumotlarga kirish va ularni kompyuterning asosiy xotirasidan qaytarish orasidagi vaqt farqidan foydalanish orqali ishlaydi. Bir agent kesh holatini xabar kodlash uchun oʻzgartirsa, ikkinchi agent maʼlumotlarga kirish uchun kerak boʻlgan vaqtni kuzatib boradi va bu oʻzgarishlarni signallar sifatida talqin qiladi. Kodlash va dekodlash protokolini belgilab olgandan soʻng, agentlar tarmoq bogʻlanishini ochmasdan yoki umumiy faylni oʻzgartirmasdan maʼlumot almashishga erishdilar.

OpenAI shuningdek, ularning oflayn veb infratuzilmasi ichidagi umumiy saqlash joyidan foydalanish, protsessor vaqtini bahslash va TLS sertifikatlar keshini ishlatish kabi boshqa potentsial aloqa vositalarini ham aniqladi. Kompaniya koʻplab bu kanallar maʼlumotlarni sekin uzatishini va ularni ekspluatatsiya qilishni qiyinlashtirishini taʼkidlasa-da, ular hali ham ajratilgan agentlar oʻrtasida aloqani toʻxtatish uchun moʻljallangan tizimlardagi zaif nuqtalar hisoblanadi.

Kompaniya monitoring mexanizmlariga bunday yoʻllar orqali aloqa qilishga urinishlarni aniqlash uchun tekshiruvlar qoʻshilganini eʼlon qildi. Kompaniyaning xavfsizlik strategiyasi cheklangan ishga tushirish muhiti, virtual mashinalar, faoliyatni kuzatish va bulutli tarmoq hamda infratuzilma nazorati kabi bir nechta himoya qatlamlaridan foydalanadi. Maqsad bitta izolyatsiya qilingan xato hech qanday modelning barcha toʻsiqlarni bosib oʻtishiga yoʻl qoʻymasligini taʼminlashdir; agar agent cheklangan muhitdan qochib qutolsa, boshqa himoyalar uni tashqi tizimlarga yetib borishdan toʻxtatishi kerak.

Bundan tashqari, OpenAI eng ilgʻor modellarini oʻz tadqiqot muhitlarida zaifliklarni izlash uchun ishlatishda davom etishini maʼlum qildi. Ushbu sinovlarda olingan natijalar yangi oʻqitish bosqichlarini boshlash mumkinligini aniqlash uchun ishlatiladigan xavfsizlik baholariga kiritiladi. Biroq, kompaniya kelajakdagi modellar hali nomaʼlum zaifliklarni namoyon qilishi mumkinligini tan olganligi sababli, sinovlarni davom ettirishni va xavfli deb hisoblangan faoliyatni avtomatik aniqlash va toʻxtatish tizimlarini takomillashtirishni rejalashtirmoqda.

Sunʼiy intellekt dasturiy taʼminotdagi zaifliklarni aniqlash jarayonini tezlashtirib, ularni tuzatish uchun ajratilgan vaqtni qisqartirmoqda. Reuters tomonidan soʻrovnomaga qoʻshilgan kiberxavfsizlik ekspertlari kompaniyalar va hukumatlar bu kamchiliklardan foydalanishga tayyorgarlik koʻrmoqdaligi sababli raqamli xizmatlarda yangi uzilishlar kutilayotganini bashorat qilmoqda.

VulnCheck kompaniyasi tomonidan oʻtkazilgan va yaqin kunlarda nashr etilishi rejalashtirilgan tadqiqot shuni koʻrsatadiki, aniqlangan raqamli zaifliklar soni oʻtgan yilga nisbatan ikki baravar oshgan. Bu hafta Yevropadagi davlat saytlarida qayd etilgan muammolar bunday kashfiyotlarning keltirib chiqarishi mumkin boʻlgan bosimni namoyish etadi.

Uzilishlar chorshanba kuni boshlandi, chunki PHP dasturlash tilida zaifliklar aniqlandi, bu til internetning koʻplab qismlarida ishlatiladi. Hujumlar oldini olish uchun operatorlar tizimlarini tezkor tuzatish bilan band boʻldilar. Baʼzilari potentsial singoptorliklar oldini olish uchun saytlarni vaqtincha oʻchirib qoʻydilar.

Bu tuzatishlar uchun kurash shu haftada sodir boʻldi, bu hafta boshqa xavfsizlik muammolari bilan ham belgilangan edi. Node.js va Plex da zaifliklar ochildi, shuningdek, LiteLLM sunʼiy intellekt platformasi va Railway ishlab chiqish platformasi bilan bogʻliq hodisalar kuzatildi. Hindiston sertifikatsiya organi eMudhra ham juda zaif kriptografik kalitdan foydalanish tufayli diqqatni tortdi, bu esa internet foydalanuvchilarini xavf ostiga qoʻyishi mumkin edi.

Cloudflare Bosh ijrochi direktori Matthew Prince Reutersga, tarmoq faoliyati uchun muhim boʻlgan dasturiy taʼminotdagi boshqa jiddiy zaifliklar haqida maʼlumot borligini bildirdi. Uning bahosiga, sektor oldida qiyin oylarga duch keladi. U shunday dedi: «Menimcha, biz har hafta osmon tushayotgandek tuyuladigan bir necha yilimiz boʻladi».

Avval murakkab dasturlardagi zaifliklarni izlash maxsus bilim talab qilardi. Ularni ekspluatatsiya qilish vositalarini ishlab chiqish haftalar yoki oylarni olishi mumkin edi, bu esa tizimlarni boshqaruvchilarga tuzatishlar tayyorlash va yangilanishlarni tarqatish uchun vaqt berardi. Biroq, sunʼiy intellekt bu vaqt oraligʻini qisqartiradi. Modellar katta kod bazalarini uzluksiz tahlil qila oladi, muammolarni topa oladi va ekspluatatsiya qilish vositalarini ishlab chiqishga bir necha soat ichida yordam bera oladi.

RunSafe Security texnik direktori Shane Fry bu jarayon surʼatini taʼkidladi. U shunday dedi: «Asosiy va shubhasiz oʻzgarayotgan narsa — bu zaifliklarni aniqlash va hujumchilar ulardan foydalana olish uchun kerak boʻlgan vaqtdir».

Bu vaziyat yuzasidan xavfsizlik jamoalari oddiy kod xatolarini aniqlashdan tashqari vazifalarni bajarishlari kerak. Mutaxassislar reaksiya vaqtining qisqarishidan xavotirda, ammo tezlashgan zaifliklarni aniqlash muvaffaqiyatli hujumlar toʻlqiniga olib kelishi haqida yagona fikr yoʻq.

Curl fayl uzatish vositasining asosiy ishlab chiquvchisi Daniel Steinberg, AI modellar tomonidan topilgan baʼzi zaifliklar murakkab va foydalanishi qiyin ekanligini taʼkidlaydi. ArmorCode xavfsizlik kompaniyasidan Rami Rahman ham, koʻproq zaifliklarni eʼlon qilish muvaffaqiyatli hujumlar sonining ortishini anglatmasligini taʼkidlaydi. PHP holati bu farqning misolidir: Hunt.io tahdidlarni aniqlash kompaniyasi agressiv ekspluatatsiya urinishlarini aniqladi, ammo payshanba kuni tushgacha AQSh sharq qirgʻogʻidagi vaqtida kuzatilayotgan hujumchilar ushbu zaiflikdan foydalanish uchun funksional vositani ishlab chiqara olmagan deb maʼlum qildi.

Prince zaiflik bilan bogʻliq singoptorlik belgilarini bildirgan. Shunga qaramay, u muammolarni tezroq aniqlashning uzoq muddatli foyda keltirishi mumkinligiga ishonadi, bu yillar davomida yashiringan xatolarni tuzatish imkonini beradi.