Sunʼiy intellektni (SI) tartibga solish boʻyicha muhokamalar ortib borayotgan doirada, mualliflardan biri yangi qoidalar yaratish oʻrniga, allaqachon amal qilayotgan qonunlarni qoʻllashga eʼtibor qaratishni taklif qilmoqda.
Bir hafta oldin Anthropic bosh ijrochi direktori Dario Amodei SI ishlab chiqilishini sekinlashtirish chaqirigʻi bilan ochiq xat eʼlon qildi va yangi nazorat va kuzatuv choralari joriy etilishini talab qildi. Uning pozitsiyasini Sam Altman va Elon Musk bir necha soat ichida qoʻllab-quvvatlashdi.
Bu xat Anthropic dan Jacob Coxsonning ochiq isteʼfodan keyin keldi. U yetakchi SI laboratoriyalari avtonom ravishda oʻzini takomillashtiruvchi superintellekt tizimini yaratishga beparvo shoshayotganini taʼkidladi. Coxson raqobat bosimi ustuvorligi xavfsizlik ustidan turishining kompaniyalarni «hayotimiz bilan oʻyin oʻynash» holatiga keltirayotganini daʼvo qiladi. Anthropicdagi boshqaruv fanlari boʻlimi rahbari Evan Hubinger ilgʻor SI ning yaqin oʻn yillik davrda katastrofa xavfini 10% dan yuqori baholaydi.
Global SI normalari, modellar sinxronizatsiyasi va xavfsizlik choralarini joriy etish faol muhokama qilinayotgan paytda, «masʼul SI» nimani anglatishi haqida umumiy tushuncha yoʻqligi va global kelishuv uzoq istiqbol sifatida koʻrinadi.
Bunga qarshi, Kolumbiya universiteti Knight First Amendment Institute tomonidan chop etilgan maqolada boshqa konsepsiya ilgari suriladi: SI oddiy texnologiya sifatida qaralishi kerak. Princetondagi Arvind Narayana va Saiash Kapur tomonidan taqdim etilgan bu nuqtai nazarga koʻra, SI chet sayyora narsasi emas, balki standart tovar javobgarligi, fuqarolik va jinoiy huquq qonunchiligiga kiradigan yangi texnologiyadir.
Prinsip sodda: agar nuqsonli mahsulot bozorga tushsa va zarar yetkazsa, shaxs javobgar boʻladi. Xuddi shu kabi, agar vosita yordamida bajarilgan harakat, u nuqsonli boʻlsin yoki boʻlmasin, zarar yetkazsa, javobgarlik ijrochi zimmasida boʻladi. Bu bahslashishni keltirib chiqarishi kerak emas. Masalan, agar OpenAI agentlari izolyatsiya qilingan test muhitidan chiqib, iyul oyida Hugging Face tizimlariga buzilish yuz bersa, bu 1986-yilda qabul qilingan amaldagi Amerika kompyuter firibgarligi va suiisteʼmol qilish statutiga koʻra jinoyat boʻlishi mumkin edi.
SI ning oʻziga xosligi huquqiy prinsipda emas, balki jarayonning tezligi, miqyosi, shaffofsizligi va avtonomligida, shuningdek, eng muhimi, ushbu mavjud qonunlarni qoʻllashda isbotlash murakkabligida namoyon boʻladi.
Janub Afrikada allaqachon konstitutsiya, Popia, Paja, Kompaniyalar toʻgʻrisidagi qonunlar va moliyaviy sektor qonunchiligi asosidagi kompaniyalar, moliyaviy muassasalar, davlat departamentlari va shaxsiy maʼlumotlarni qayta ishlashni qamrab oluvchi keng qamrovli boshqaruv tizimi mavjud. Ushbu tizim Janub Afrika zaxira banki, Ehtiyotkorlik nazorati boshqaruvi, FSCA, Maʼlumotlar tartiblovchisi, FIC va Milliy kredit tartiblovchisi hamda umumiy huquq tomonidan qoʻllab-quvvatlanadi. Qirollik kodeksi endi yangi texnologiyalarning, jumladan SI ning joriy etilish natijalarini aniq tan oladi.
Mashinalar tavsiyalar berish, qarorlarga taʼsir qilish va mustaqil harakat qilishni boshlaganda murkundlar yuzaga keladi. Oʻzi SI javobgar boʻla olmaydi. Anʼanaviy biznes jarayonida odatda qabul qilingan qaror uchun masʼul shaxs aniqlanishi mumkin. Biroq, SI bilan ishlayotganda model tavsiya bera oladi, boshqa tizim uni talqin qiladi, xodim tasdiqlaydi, agent harakatni boshlaydi va keyingi tizim uni bajaradi. Xato holatida «buni SI qildi» iborasi yetarli javob boʻlmaydi. Ishlab chiqaruvchi texnologiyani yaratgan boʻlishi mumkin, ammo tashkilot uni joriy etishga qaror qildi. Dasturiy taʼminot yetkazib beruvchisi platformani boshqarishi mumkin, ammo muassasa uning foydalanish usuli uchun javobgar boʻlib qoladi. Javobgarlikni avtomatik yakunlash uchun mashinaga topshirib boʻlmaydi.
SI texnik imkoniyat va tashkiliy vakolat oʻrtasidagi farqni ham taʼkidlaydi. Direktorlar keng ijrochi direktorga vakolat beradi, u esa oʻz navbatida moliyaviy vakolatlarni rahbarlar va menejerlarga belgilangan chegaralar doirasida beradi. Bu qoidalar dastlab inson ishtirokchilari hisobga olingan holda ishlab chiqilgan.
SI asosidagi xarid agenti misolini koʻrib chiqaylik. Tizim yetkazib beruvchilarni topish, shartlarni kelishish, xarid buyurtmalarini rasmiylashtirish, yetkazib beruvchilarning bank rekvizitlarini oʻzgartirish va toʻgʻridan-toʻgʻri ERP-tizimi bilan oʻzaro aloqa qilish kabi texnik imkoniyatlarga ega boʻlishi mumkin. Ammo bu uning buni qilish vakolati bor degani emas. SI bu vakolatlarni nazorat qilishni murakkablashtiradi, chunki tekshiruv harakatdan oldin, millisekundlar ichida avtomatik ravishda amalga oshirilishi kerak.
Koʻplab SI boshqaruv tuzilmalari muhim qarorlar qabul qilish jarayonida inson ishtirok etishini talab qiladi. Biroq, insonni ish jarayoniga oddiy ravishda kiritish oʻzi sezilarli nazoratni yaratmaydi. Agar xodim tavsiyani olib, ikki soniya ichida «tasdiqlash» tugmasini bosib yuborsa, inson texnik jihatdan ishtirok etgan. Lekin u tavsiyani tushundimi? Kerakli maʼlumotlarni koʻrdimi? Tasdiqlash mustaqilmi, yoki u shunchaki tizim tomonidan xabar qilingan narsani qabul qildi? SI nazorat talabini yaratmaydi — u allaqachon mavjud. Tashkilotlar hali ham nazoratning real, formal emasligini isbotlashi kerak.
Isbotlash bazasi yoʻqoladi. SI paydo boʻlishidan oldin, tranzaktsiyani odatda ilovalar, elektron pochta, ish jarayonlari, tasdiqlar va maʼlumotlar bazalaridagi yozuvlar asosida kriminalistik tarzda tiklash mumkin edi. SI yordamida amalga oshirilgan harakat model versiyasini, maʼlumotlar manbalarini, soʻrovlarni (promptlarni), ajratib olingan maʼlumotlarni, tashqi xizmatlarni, xavf baholarini, agentlarni, inson aralashuvlarini va tizimning oʻzgaruvchan konfiguratsiyalarini oʻz ichiga olishi mumkin. Model qanday qilib maʼlum bir javob berganini tiklash, oddiy tranzaktsiyani tiklashdan ancha qiyinroqdir. Modellar deterministik emas, balki ehtimollik asosida hosil qiladi. Agar model versiyasi, soʻrov, ajratilgan kontekst va tanlov sozlamalari harakat paytida qayd etilmagan boʻlsa, bir xil soʻrov olti oy oʻtgach ham xuddi shu javobni ishonchli qayta tiklay olmaydi.
Kam boʻlgan narsa — bu kuzatuvchanlik. Aynan kuzatuvchanlik javobgarlikni yuklash imkonini beradi va u mavjud qonunlarning davom etib qoʻllanilishi uchun zarur dalillarni saqlashga bogʻliq. Bu SI tavsiyalar beradigan tizimlardan harakatlarni bajaradigan tizimlarga oʻtish bilan ayniqsa muhim ahamiyat kasb etadi.
Aniqlik shundaki, natijalarga sabab boʻladigan harakatlarning amalga oshirilish vaqtida dalillar hosil qilishini majburlash — vakolatlar, siyosat, tizim konteksti, nazoratlar va ijro natijisi haqida yetarli maʼlumot berish orqali harakatni nima boshqarganini aniqlash va keyinchalik mustaqil tekshirish imkonini yaratish. SI ni tartibga solish qiyin, buni qayerda yoki qayerda qilish boʻyicha konsensus kam, va yomon tuzilgan qoidalar natija keltirmasligi mumkin. Mavjud qonunlarni qoʻllash va zarur boʻlganda voqealar tiklanishi hamda javobgarlikni aniqlash imkoniyatini taʼminlash yaxshiroqdir.
Saqlangan dalillar oʻz-oʻzidan masʼul foydalanish uchun kuchli ragʻbatlantiruvchi vazifa boʻladi. Hech kim, ayniqsa kompaniya direktori, jarimalar, zarar koʻpaytirish daʼvolari yoki qamoqqa tushish bilan duch kelishni xohlamaydi.
>