ChatGPT, Claude va Gemini kabi generativ sunʼiy intellekt vositalaridan foydalanilganda, foydalanuvchi tasdiqi uchun chat-bot xatolarga rozi boʻlishi mumkin boʻlgan «algoritmik mamnuniyat» xavfi mavjud. Biroq, bu muammo kollektiv miqyosda ham mavjud. Science Advances jurnalida nashr etilgan tadqiqot shuni koʻrsatdiki, yuzlab yoki minglab AI agentlari tarmoqda oʻzaro aloqada boʻlganda, ular aksariyatga ergashishni boshlaydi va mustaqil ravishda konsensusga keladi.
Yaʼni, hech qanday inson buyrugʻi, markaziy lider yoki mukofotlarsiz, tizimlar shunchaki eng mashhur tanlovni nusxalaydi va avtonom «oʻmisht effekti»ni yaratadi. Shu tariqa, bu kashfiyot shuni koʻrsatadiki, odamlar bilan individual suhbatlarda kuzatiladigan rozilikka moyillik algoritmlarning oʻzaro taʼsiri ichida ham namoyon boʻladi.
Bundan tashqari, Claude 3.5 Sonnet va GPT-4 Turbo kabi ilgʻor modellar (ular hozirda «eskirgan» deb hisoblanadi) mingdan ortiq agentlardan iborat guruhlarda ham bu uygʻunlikni saqlab qolgan. Bu miqyos inson jamiyatlaridagi norasmiy koordinatsiya chegarasidan (taxminan 150-300 kishi boʻlgan Dunbar soni) oshib ketadi va robotlar tomonidan butunlay inson nazorati ostida boʻlmagan massiv qarorlar qabul qilish xavfini ochib beradi.
Bu hodisaning mexanizmini tushunish uchun tadqiqotchilar Claude (Anthropic), GPT (OpenAI) va Llama (Meta) oilalarining modellarida ishlaydigan minglab AI agentlaridan iborat simulyatsiya qilingan muhitlarni yaratdilar. Sinov davomida har bir agent hech qanday amaliy qiymati boʻlmagan ikkita variantdan birini tanlashi kerak edi. Oldingi bosqichlar haqida xotira va hamkorlik toʻgʻrisidagi koʻrsatmalar boʻlmagan agentlar shunchaki boshqalarning tanlovini kuzatishdi. Tez orada kichik aksariyat butun guruh bir xil javobni tanlaguncha kattalashdi.
Tadqiqot shuni aniqladi,ki, sinovdan oʻtgan modellar «aksariyat kuchi» deb nomlangan parametr bilan belgilanadigan matematik qonunga boʻysunadi. Ushbu koʻrsatkich eng mashhur variantning har bir agentga taʼsir qiladigan tortishishini oʻlchaydi. Qiziq tomoni shundaki, dinamika ferromagnit material ichidagi atom spinlarining bitta yoʻnalishda tekislanishini tasvirlaydigan fizika bilan bir xil naqshga amal qiladi.
Shuningdek, modelning texnik qobiliyati uni bir xil holatda ushlab turishi mumkin boʻlgan guruh hajmini belgilaydi. Kamroq mukammal vositalar kichikroq guruhlarda koordinatsiyani yoʻqotardi va parchalanardi. Biroq, aqlliroq modellar mingdan ortiq robotlar guruhlarida ham ittifoqni saqlab qolishdi. Bu sunʼiy intellekt sohasidagi taraqqiyot oʻmisht effekti miqyosini kengaytirayotganini koʻrsatadi.
Muammo shundaki, bu spontan konsensus tanlovning toʻgʻri yoki xavfsizligini kafolatlamaydi. Dastur kodini birgalikda yozish (vibe coding) yoki moliyaviy operatsiyalar kabi amaliy vazifalarda agentlar tarmogʻi samarasiz yechimni, koddagi xatoni yoki xavfli naqshni mustahkamlashi mumkin. Sababi oddiy: bu aksariyat uni ishlatishni boshlagani uchun sodir boʻladi. Bunga kollektiv kelishmovchilik deyiladi, bunda zararli boʻlmagan AI agentlari guruhda ishlayotganda zanjirli nosozliklarni yaratishni boshlaydi.
Bu «fikr buluti» ekotizimda shakllanganda, xatoni tuzatish juda qiyinlashadi. Maqola gisterez effekti haqida ogohlantiradi: nosozlikka sabab boʻlgan boshlangʻich shartlarni tuzatish yoki bartaraf etish guruh tomonidan qabul qilingan qarorni avtomatik ravishda bekor qilmaydi. Amalda, koordinatsiyalangan AI tarmogʻini qayta yoʻnaltirish izolyatsiya qilingan AI modelining xatti-harakatini tuzatishdan cheksiz qiyinroqdir.
Bu ekotizimlar laboratoriya sinovlaridan chiqib, kompaniyalar ichida ishlashni boshlaganda, xavfsizlik vazifasi tubdan oʻzgaradi. Kulgi massiv konsensus xavfini kamaytirish uchun kompaniyalar har bir AI agentini «inson boʻlmagan shaxs» sifatida koʻrib chiqishni, unga individual hisob raqamlarini, cheklangan funksiyalarni va oʻziga xos kirish qoidalarini berishni boshlashi kerak. Bu haqda kibersavodxonlik eksperti va IAM Brasil COO Nataliya Karmo Olhar Digital intervyusida maʼlumot berdi.
Bu paradigma oʻzgarishi fundamental ahamiyatga ega, chunki tarqatilgan muhitda minglab tarmoq harakatlari bitta aybdor boʻlmagan xavfli yoʻlni shakllantirishi mumkin. Ekspert hozirgi ustuvorlik algoritmlarning kuzatuvchanligini taʼminlash ekanligini ogohlantiradi. Kibersavodxonlik eksperti tushuntiradiki: «Kompaniya real vaqt rejimida javob bera olishi kerak: qaysi agent maʼlum bir harakatni boshladi, u qaysi boshqa agentlar bilan oʻzaro aloqada boʻldi, qanday maʼlumotlarga kirishga ega boʻldi, qanday vosita yoki API dan foydalandi va eng muhimi, qaysi shaxs bu ijroni amalda avtorizatsiya qildi».
Bu oʻmisht effekti nazoratdan chiqib ketishining oldini olish uchun korporativ tizimlar tarmoqning anormal xatti-harakatini qalin qumga aylanishidan oldin aniqlashi kerak. Agar bir nechta agent bir vaqtning oʻzida bir xil vazifani bajarishni, API chaqiruvlarini haddan tashqari amalga oshirishni yoki yechimni oʻzaro tarqatishni boshlasa, infratuzilma ogohlantirish signali berishi kerak. Gʻoya telemetriya va xulq-atvor monitoringini birlashtirib, katta miqyosdagi harakat sodir boʻlishidan oldin guruh naqshining oʻzgarishini aniqlashdan iborat.
Biroq, agar tarmoq xato yoki xavfli yechimga yetib kelsa, anʼanaviy favqulodda toʻxtatish tugmasi jarrohlik darajasida ishlashi kerak. Nataliya Karmo soʻzlariga koʻra, toʻxtatish mexanizmi (sohaning 'kill switch' deb tanilgan) AI modelini qaror qabul qilish jarayonidan uzib qoʻyishi va, undan muhimi, buyruqlar bajarilayotgan darajaga taʼsir qilishidir. Tashkilot agentlar oʻrtasidagi aloqani darhol uzishi, tokenlar va hisob raqamlarini qaytarishi, API ni bloklashi va imtiyozli kirishni toʻxtatishi kerak, shu bilan bu yechim korporativ tizimlarda ijro etilishini davom ettirmasligi kerak.
Xulosa qilib aytganda, algoritmlarning kulgi bilan moslashishiga qarshi kafolat korporativ tizimlarning avtonomiyasiga cheklovlar qoʻyishni talab qiladi. Moliyaviy tranzaktsiyalar, maʼlumotlarni oʻchirish yoki IT-infratuzilmasidagi oʻzgarishlar kabi sezgir operatsiyalar uchun yakuniy soʻz inson nazoratchilarda qolishi kerak. Oltin qoida shuki: AI scenariylarni tahlil qilish va oʻz himoya cheklovlari doirasida qarorlar qabul qilish uchun avtonomiyaga ega boʻlishi mumkin, ammo ularni tekshirmasdan ijro etish erkinligiga hech qachon ega boʻlmasligi kerak.