Claude yaratuvchisi boʻlgan Anthropic kompaniyasi biznesiga potentsial toʻsiqlarni batafsil bayon etgan 93 sahifalik hujjatni eʼlon qildi. Ushbu material AQSh Valyuta bozori qoʻmitasi (SEC) huzurida Nasdaqda roʻyxatga olingan kompaniyaning kapitalni ochish (IPO) prospekti sifatida 26-oktabrda tasdiqlangan.
Garchi 'Biznesga potentsial toʻsiqlar' sarlavhasi texnik tuyulishi mumkin boʻlsa-da, sunʼiy intellektni rivojlantirish kontekstida bu nuqtalar insoniyat uchun jiddiy xavflar sifatida talqin qilinadi. Mutaxassislar Anthropic tomonidan berilgan ogohlantirishlarni tushuntirish uchun hujjatni tahlil qilishdi.
Anthropic sunʼiy intellektning xavf-xatarlarini ochiq ravishda ogohlantirib kelmoqda, ammo ushbu maxsus hujjat investorlarga moʻljallanganligi sababli, kapitalni ochishni rejalashtirayotgan kompaniyalar uchun tipik boʻlgan byurokratik xarakterga ega.
FGV professori va AI mutaxassisi Kenneth Corrêa risk omillari boʻlimining kompaniyani investorlardan huquqiy jihatdan himoya qilish uchun xizmat qilishini tushuntiradi; tilga olinmagan va sodir boʻlgan xavf aksiyadorlar daʼvolariga olib kelishi mumkin. U buni dori vositasining qoʻllanmasiga solishtiradi, u eng kam uchraydigan yon taʼsirlargacha roʻyxatlaydi, chunki laboratoriya nima tashlab yuborgani uchun javobgar hisoblanadi.
Anthropic holatlarida xavflar sezilarli darajada. Ulardan biri texnologiyasi kimyoviy qurollar ishlab chiqarishda qoʻllanilishi mumkinligi haqidagi xavotirdir. Boshqa katta xavotir esa uning ilgʻor mahsuloti inson nazoratidan chiqib ketishi mumkinligidir.
Anthropicning maʼlumotlariga koʻra, yomon niyatli agentlar uning texnologiyasidan xavfli qurollar ishlab chiqish uchun foydalanishlari mumkin. Hujjat eng qobiliyatli modellar, va kelajakdagi modellar ham shunday qilishi kutilayotganligi, yomon niyatli agentlarga biologik, kimyoviy yoki boshqa turdagi xavfli qurollar yaratishda yordam berishi mumkin boʻlgan imkoniyatlarga ega ekanligini taʼkidlaydi.
Bundan tashqari, kompaniya AI agentlarini zararli maqsadlarda ishlatish xavfini koʻrsatadi, masalan, maʼlumotlarni chiqarib olish, ruxsatsiz tranzaksiyalarni amalga oshirish yoki tizimlarga zararli kodlarni joylashtirish. Anthropic himoya choralari joriy etgan boʻlsa-da, ular buzilishi yoki funksiyasini bajarishda muvaffaqiyatsizlikka uchrishi mumkinligini taʼkidlaydi.
Anthropicning AI agentlari murakkab vazifalarni avtonom tarzda bajarish uchun moʻljallangan boʻlib, ular soatlar yoki kunlar davomida davom etishi mumkin. Kompaniya bu agentlar kodlarni oʻzgartirish, maʼlumotlarni oʻchirish yoki oʻzgartirish, tizimlarga kirish va samarali aralashuv imkoniyati boʻlmasdan moliyaviy tranzaksiyalarni yakunlash kabi harakatlarni amalga oshirishi mumkinligini aytadi.
Anthropic oʻz modellari rivojlanayotgan sari moslashuv, tushunarlilik, nazorat qilinish va xavfsizlik bilan bogʻliq tobora ortib borayotgan muammolarga duch kelayotganini eʼlon qiladi. U qoʻshimcha qiladiki, yanada sofusht modellar xavfsizlik mexanizmlaridan qochishni osonlashtirishi yoki kutilmagan xatti-harakatlar namoyon etishi mumkin, bu esa ular maʼlum natijalarni nima uchun berayotganini toʻliq tushunishni qiyinlashtiradi.
Texnologiyaning tezkor rivojlanishini hisobga olgan holda, Anthropic AI juda tez rivojlanib, inson nazoratidan oshib ketishi xavfini tan oladi. Kompaniya aytadiki, avtonom ijroning surʼati va hajmi, ayniqsa korporativ muhitlarda, inson tekshiruvchilarning har bir harakatni toʻgʻri baholash qobiliyatidan oshib ketishi mumkin.
Inson nazorati boʻlsa ham, xavflar mavjud. Anthropic oʻz modellari kabi modellar allaqachon bunday modellarni baholash yoki nazorat qilish uchun ishlatiladigan mexanizmlarga, shu jumladan, ishlash yoki moslashuvni baholash tizimlariga aralashishga, manipulyatsiya qilishga yoki ularni buzishga uringanini bildirdi.
Anthropic AI modellarining shaxslarni manipulyatsiya qilish potentsialiga ega ekanligini ogohlantiradi, baʼzi hollarda bu shantajga oʻxshash xatti-harakatni namoyon etadi. Hujjat ilgʻor modellar avtonomiya, manipulyatsiya va inson psixologiyasini simulyatsiya qilish bilan bogʻliq yangi axloqiy va xavfsizlik xavflarini keltirib chiqarishini batafsil bayon etadi.
Bundan tashqari, kompaniya modellar kutilmagan strategik yoki oʻzini saqlash xatti-harakatlarini rivojlantirishi mumkinligini koʻrsatadi, bu oʻchirishga qarshi kurashish, maʼlumotlarni yashirish yoki manipulyatsiya qilish yoki operatsiyani yoki modelga kirishni saqlab qolish maqsadida majburlash, aldash yoki manipulyatsion javoblar yaratishni oʻz ichiga oladi.
Kenneth Corrêa bu 'qoʻllanmaningʻ farqi shundaki, turli xil yon taʼsirlar allaqachon yuz bergan va sodir boʻlgan faktlar sifatida hujjatlashtirilganini kuzatadi.
FGV professori va yangi texnologiyalar mutaxassisi Thiago Muniz Anthropicning ogohlantirishlari korporativ yetuklik masalasini koʻtarishini taʼkidlaydi. U tahdidlarni aniqlash faqat bir bosqich ekanligini taʼkidlaydi; xavfsizlikka sodiqlik aniq tashabbuslar orqali isbotlanishi kerak, masalan, chiqarish mezonlarini belgilash, kamchiliklarni sinash, zaifliklarni kuzatish va hodisa larning javob berish protokollarini belgilash.
Kompaniya qabul qilgan texnik chegarani eslatish muhim: modellar baholanayotganini anglaganda oʻz xatti-harakatlarini oʻzgartiradi, bu esa chiqarishdan oldingi sinovlarning ishonchliligini pasaytiradi. Corrêa inson validatori, AI esa ijrochi boʻlishi kerakligini himoya qiladi va bu validator rolini maqsadli loyihalashtirish kerakligini taʼkidlaydi.
Muniz rasmiy shaffoflikni haqiqiy oldini olishdan ajratadi, keng qamrovli xavflar hisobotining investorlarga tahdidlarni tushunishga yordam berishini, ammo qabul qilingan nazoratlar yetarli ekanligini kafolatlamasligini taʼkidlaydi.
Corrêa uchun ushbu hujjat xavfsizlik va oʻsish oʻrtasidagi ikkilamchi muammoni hal qilishda shaffofdir: Anthropic ikkala tomonda ham muvaffaqiyatsizlikka uchrishi mumkinligini tan oladi — haddan tashqari ehtiyotkorlik, bu bozor yoʻqotilishini anglatadi, yoki qatʼiyatsizlik, bu zararli mahsulotlarga olib keladi.
Thiago Muniz qoʻshimcha qiladiki, innovatsiya va xavfsizlik bir-birini bekor qilmaydi; muammo xavflarni boshqarishni biznes qarorlariga boshidan integratsiya qilishda, qaysi vaqtda yechim bozorga tayyor ekanligini va qanday chegaralar saqlanishi kerakligini aniq belgilashda yotadi.
Nihoyat, Corrêa Anthropic oʻzini masʼuliyatli va xavfsiz AI ishlab chiqarayotgan kompaniya sifatida joylashtirganini taʼkidlaydi, bu uni raqobatchilar tomonidan yuqori standart talablariga tortadi. U tahlil qiladiki, IPO bilan investor xavfsizlikni aktiv sifatida ham, passiv sifatida ham narxlashni boshlaydi.
दूध