Nvidia chipi bilan jihozlangan rus droni Iyun oyida Ukrainaning janub-sharqidagi Zaporojye shahrida amalga oshirilgan hujum paytida uch nafar fuqaroni oʻldirdi. Bu haqda dronlar boʻyicha ekspertlar, ukrainaning harbiy buyruqchilari va hududdagi qurol qoldiqlari hamda boshqa hujumlarni oʻrganib chiqqan sud-meditsina guruhlari maʼlumot berishdi.
Bu holat diqqatni tortdi, chunki hokimiyat va The New York Times tomonidan soʻrov oʻtkazilgan ekspertlarga koʻra, dron inson ishtiroki boʻlmagan eksperimental sunʼiy intellekt (AI) tizimi tomonidan boshqarilgan va yakuniy maqsadni tanlashda inson ishtiroki yoʻq edi.
Eng yosh qurbon universiteti talabasi Titana Bubinets boʻldi, uning yoshi 19 yosh edi. U yoqilgʻi stansiyasi yaqinida turganida, samolyot modeliga oʻxshash kichik rus droni osmondan tushib, joyga yaqinlashishga urinib koʻrdi. Aviaparat devorga urilib, portlab, parchalar sochdi va bu parchalar yosh qiz va boshqa odamlarga zarba yetkazdi.
Bubinets shifoxonaga olib borildi, ammo vafot etdi. Boshqa ikki qurbon, Oleksiy Svirin, 41 yosh va Roman Karpiy, 48 yosh keyinchalik jarohatlar natijasida vafot etdilar.
Maqsadlar qanday tanlandi
Times nashriga soʻrov oʻtkazilgan ekspertlar va harbiy xodimlarning aytishicha, operatorlar-insonlar dronni maʼlum bir yoqilgʻi stansiyasiga harakat qilish uchun dasturlashtirishgan. Biroq, yaqinlashgach, apparat oʻzi aniq maqsadni – ehtimol, propan tanklarini – tanladi, bu esa u ushbu obʼektlarni aniqlash va hujum qilish uchun olgan oʻquviga asoslangan edi.
Ukraina hokimiyati maʼlumot berishicha, dronlarda topilgan modullar shifrlanmagan. Bu tergovchilarga kompyuterga yuklangan hudud tasvirlarini koʻrib chiqish va dron yoʻnalish boʻyicha vizual yoʻl koʻrsatkichlaridan qanday foydalanganini tekshirish imkonini berdi.
Tergovchilar shuningdek, uskunadagi kodlarni tahlil qilib, dronning propan tanklari kabi qaysi turdagi obʼektlarni aniqlash va hujum qilish uchun oʻrgatilganini aniqlaganlarini maʼlum qildilar.
Mustaqil AI tizimlari minglab tasvirlar asosida daryolar, harbiy yuk mashinalari yoki odamlar kabi maʼlum kategoriyalarni aniqlash uchun oʻrganishi mumkin. Dronlardan foydalanganda, kameralar bu elementlarni qidiradi va tizim olingan oʻquvga mos keladiganlarini aniqlaydi. Ushbu texnologiya maʼlum vaziyatlarda pilot-inson erishishi mumkin boʻlgan aniqlikdan yuqori aniqlikni taʼminlashi mumkin.
Biroq, bu qurollarning tanqidchilari inson aralashuvisizligi xato va urush qonunlarini buzish xavfini oshirishi mumkinligini taʼkidlaydilar. Tizim fuqarolarni jangovar kuchlardan toʻgʻri ajrata olmasligi yoki jang maydonidagi obʼektni notoʻgʻri talqin qilishi mumkin.
Dastlabki hujjatlashtirilgan holat
Vashingtondagi Strategik va Xalqaro Tadqiqotlar Markazi (Center for Strategic and International Studies)dagi Wadhwani AI Centerning katta ilmiy xodimi Katerina Bondar 6-iyulgi hujumni bunday mustaqil tizimga ega rus dronining sabab boʻlgan fuqarolar halok boʻlishining birinchi hujjatlashtirilgan holati deb maʼlum qildi. Bondar fikricha, Nvidia modulining mavjudligi Rossiya mustaqil AI bilan tajriba oʻtkazganligining «eng yaxshi dalili» hisoblanadi.
Ukraina prezidenti Vladimir Zelenskiyning maslahatchisi avval ijtimoiy tarmoqlarda Rossiya maqsadlarni mustaqil tanlay oladigan AI tizimlarini sinovdan oʻtkazayotgani haqida maʼlumot bergan edi. Ammo odamlar halok boʻlishi va Nvidia modulining qoʻllanilishining batafsil maʼlumotlari avval berilmagan edi.
Rossiya va Ukraina toʻliq mustaqil tizimlar paydo boʻlishidan oldin turli dron modellari da AI dan foydalangan. Avvalgi modellarida AI asosan hujumning «soʻnggi mil» bosqichida ishlatilgan. Bunday ssenariyda inson masofadan maqsadni tanlaydi, AI tizimi esa faqat oxirgi bosqichda dronga uni yetkazishga yordam berish uchun boshqaruvni oladi.
Toʻliq mustaqil tizimlarda yakuniy maqsadni tanlash ham insonning majburiyati boʻlmaydi. Eskirgan modellar odatda operatorlar tomonidan radio uzatkichlar yoki optik tolalar orqali boshqariladi. Muqobil variant – dronning harakatlanishi kerak boʻlgan koordinatalarni oldindan dasturlashdir.
Ukraina jang maydonida dronlardan foydalanish kengayishi bilan pilotlar muhim maqsadlarga aylandi. Aksincha, AI tomonidan mustaqil boshqariladigan dron pilot-insonga muhtoj emas va faqat maʼlum koordinatalarga tushish uchun dasturlangan boʻyicha yukdan koʻra aniqroq boʻlishi mumkin.
Hududiy AQSh himoya organlari rus kuchlari Zaporojyeda mustaqil dronlar sinovlari paytida yoqilgʻi nasoslari va yoqilgʻi stansiyalari propan tanklari kabi fuqarolik obʼektlariga nishonga olishayotganini taʼkidlaydi. Shuningdek, harbiy chaqiruv markazlari ham maqsad sifatida ishlatilgan boʻlishi mumkin, ammo bu joylarni sinov uchun tanlash sababi aniq emas.
Xarkov aviatsiya institutining dronlar boʻyicha eksperti Vadim Kushnikov, uch nafar fuqaroning oʻlimiga sabab boʻlgan dron «aniq obʼektlarni kuzatish uchun virtual reallikda oʻqitilgan oldindan dasturlangan vosita» ekanligini taʼkidladi.
Bu funksionallik anʼanaviy dasturiy taʼminotdan farq qiladi. Oddiy dasturlar inson tomonidan belgilangan bosqichma-bosqich qoidalarga amal qilsa, AI tizimlari ulkan hajmdagi maʼlumotlardagi qoidalar ketma-ketligini aniqlaganda oʻz qoidalarini ishlab chiqadi – bu mashinaviy oʻrganish deb ataladi. Bu tizimga uning ishlab chiquvchilari tomonidan maxsus nazarda tutilmagan vaziyatlarni hal qilish imkonini beradi, lekin shu bilan birga, hech kim uning xatti-harakatini toʻliq bashorat qila olmasligini anglatadi.
Huquqni himoya tashkilotlari va Qizil Yarim Oy tomonidan xalqaro qoʻmitasi inson ishtiroki boʻlmagan AI qurollaridan foydalanishga qatʼiyan qarshi turishmoqda. Ularning fikricha, mustaqil tizimlar urush davrida qonuniy maqsadlarni aniqlash uchun inson huquqi qoidalarini mashinalarga qoldiradi. Biroq, baʼzi ekspertlar boshqa yondashuvni qoʻllab-quvvatlaydilar, kelajakda qurollar majburan AI tizimlari bilan jihozlanishi kerak deb hisoblashadi. Ularning argumenti shundaki, bunday qurol xato boʻlmasa ham, maqsadni yoʻq qilishdan oldin qaror qabul qila olishi tufayli xavfsizroq boʻlishi mumkin. Nazoratsiz yuklar va oddiy artilleriya oʻqchalari esa faqat oʻz traektoriyalarini bajaradi, ular nimalarni zarba yetkazayotganini aniqlamaydi.
Hujumda ishtirok etgan dron mintaqaviy harbiy gubernator, shahar AQSh boshqaruvi va oʻsha kuni navbatda turgan AQSh xizmatlari maʼlumotlariga koʻra, taxminan oltita uchuvchi apparat guruhiga kirardi. Hech bir droni radio signallarini tarqatmadi. Apparatlar shuningdek, Rossiya AI mustaqil tizimlarini sinovdan oʻtkazish bilan bogʻliq boshqa belgilarga ega edi, jumladan toʻlqinlar bilan ishga tushirish.
Ukraina hokimiyati maʼlumotlariga koʻra, Rossiya tomonidan sinovdan oʻtkazilgan baʼzi AI dronlari maqsadlarga urilganda portladi, boshqalari esa detonatsiyasiz qolib ketdi. Ukrainaning harbiy xodimlari Times jurnalistlariga bunday ikkita dronning qoldiqlarini koʻrsatishdi. Gazeta apparatlar ichida topilgan Nvidia kompyuter modullarining rasmlarini suratga olib, kompaniyaga yubordi. Nvidia fotosuratlar minik Jetson Orin kompyuterini koʻrsatayotganini tasdiqladi. Bunday turdagi modullar Rossiya qurollarining turli modellarida aniqlangan. Ukraina ham maqsadlarni tanlay oladigan AI tizimlarini sinovdan oʻtkazmoqda. Yaqinda lavozimdan boʻshatilgan Mudofaa vaziri Mikhail Fedorov iyul oxirida Times intervyusida Ukraina oʻtgan oylarda Rossiya tomonidan egallangan Qrimdagi toʻliq mustaqil AI tizimini sinovdan oʻtkazganini maʼlum qildi. Fedorovning aytishicha, qurilmalar yoqilgʻi va harbiy uskunalarni saqlash joylariga qarshi ishlatilgan va u ushbu sinovlar davomida fuqarolar orasida qurbonlar yoʻq boʻlganini maʼlum qildi.
Zaporojyedagi hujumda dronlar sinov maʼlumotlarini uzatish uchun antennalarga ega emas edi. Biroq, rus kuchlari koʻpincha hujumlarni qayd etishga qodir razvedka dronlaridan foydalanadi. Shahar ham hokimiyat tomonidan rus xizmatlarining zarar baholash boʻyicha baholar beradigan joy sifatida qaraladi. Antennaning yoʻqligi oʻzi dronning mustaqil maqsadlarni tanlay olishini isbotlamaydi; apparat belgilangan yoʻnalish boʻyicha harakat qilish uchun dasturlashtirilgan boʻlishi mumkin, bu samolyotlar avtopilot tizimlarida oʻn yillar davomida qoʻllanilgan algoritmlarga oʻxshaydi. Bu holda Nvidia chipidan foydalanish shart boʻlmas edi.
Ukraina AQSh himoya organlari Rossiya mayida Molniya AI bilan boshqariladigan dronlar bilan test uchishlarini may oyida boshlaganini taʼkidlaydi. Molniya – bu kanotli massaviy ishlab chiqariladigan samolyot modeli. Ruslar bundan bir necha oy oldin V2U nomli yana bir kanotli samolyotda mustaqil maqsadlarni tanlash tizimlarini sinovdan oʻtkazishni boshladilar. V2U sinovlarining bir qismi faqat «soʻnggi mil» ga yoʻnaltirishga qaratilgan edi. Zaporojye front liniyasidan atigi 14,5 kilometrda joylashgan. Joyda soʻrov oʻtkazilgan baʼzi aholi aʼzolari apparatlar shaharning ustida suzib yurib, oʻz-oʻzidan oʻldirish haqida qaror qabul qilish imkoniyati qoʻrqinchli ekanligini bildirishdi. Biroq, ukrainaning shaharlari yillar davomida hujumlar obyekti boʻlib kelgan va aholi hayoti allaqachon kam murakkab dronlardan foydalanish tufayli chuqur oʻzgargan. Bu tahdidga javoblardan biri mahalliy qahramonlar deb hisoblangan erkaklar va ayollar tomonidan boshqariladigan kesib olish tizimlari hisoblanadi. Ikkinchi chorasi esa dronlarga qarshi tarmoqlarni oʻrnatishdir. Zaporojyeda va atrofdagi hududlarda ular taxminan 386 kilometr yoʻlni qoplaydi. Maskirovka ham himoya mexanizmi sifatida ishlatiladi. Masalan, yoqilgʻi stansiyalari propan tanklari atrofida gʻayritabiiy burchaklardagi plastik elementlar oʻrnatiladi, bu esa AI tomonidan ishlatiladigan tasvirni tanish tizimlarini chalgʻitishga urinadi. Shahar AQSh boshqaruvi boshligʻi Koronal Minaev rus kuchlari haqida shunday dedi: «Ular texnologiyani mashq qilishmoqda». U AI yaxshi, lekin hali mukammal emasligini qoʻshimcha qildi. «Ular xatolarni qidirishadi va ularni tuzatishadi».