Raqobatchi kompaniyalar OpenAI, Anthropic va Google DeepMind ijodiy sunʼiy intellektni tartibga solish boʻyicha maxfiy muzokaralar boshladi

OpenAI, Anthropic va Google DeepMind kabi raqobatchi kompaniyalar ilgʻor sunʼiy intellekt tizimlari uchun birgalikdagi xavfsizlik choralarini muhokama qilishni boshladilar. Bu hamkorlik texnologiyaning oʻziga xos xatarlarini kamaytirishni maqsad qilsa-da, bu korporatsiyalar toʻgʻridan-toʻgʻri raqobatchi boʻlganligi sababli va antitrust nazoratiga duch kelishi mumkinligi sababli ikkilamchi muammo tugʻdiradi.

Bu suhbatlar modellarning mustaqil baholanishi va jiddiyroq tahdidlarni aniqlash uchun samarali mexanizmlar boʻyicha tobora ortib borayotgan talab kontekstida kechmoqda. Shu bilan birga, Tramp hukumati texnologik taraqqiyotni cheklash gʻoyasiga qarshi turishini bildirdi.

OpenAI ning global siyosati masʼul shaxs Chris Lehane seshanba kuni uch kompaniya bir necha haftalardan beri AI xavfsizligiga qaratilgan suhbatlar olib bormoqda, deb tasdiqladi. U ushbu texnologiya bilan bogʻliq katastrofik deb tasniflangan xatarlarni koʻrib chiqish uchun Washingtonga bordi.

Bu yaqinlashuvning kuchayishi Anthropic Bosh ijrochi direktori Dario Amodei tomonidan sektorning shu nomlangan chegaraviy AI ning rivojlanish surʼatini tartibga solish uchun hamkorlik qilishi kerakligi haqida faoliyat yuritishidan soʻng sodir boʻldi. Ushbu tashabbus OpenAI dan Sam Altman, Google dan Demis Hassabis va Elon Musk tomonidan qoʻllab-quvvatlandi.

Altman shuningdek, OpenAI Anthropic bilan tashqi baholovchilarni integratsiya qilish va tizim xavfsizligini nazorat qilish uchun hamkorlik qilishi mumkinligini koʻrsatdi.

Muzokara qilinayotgan gʻoyalar

Muhokama qilingan mavzular orasida raqobatchilar orasidagi yaqinlik sezilarli muammo hisoblanishi ajralib turadi. Altman va boshqa ishtirokchilar korporativ koordinatsiya raqobatning kamayishi natijasida antitrust qonunlari bilan bogʻliq huquqiy muammolarga olib kelishi mumkinligini tan oldilar.

Amodei hatto bunday xavfsizlik hamkorligini amalga oshirish uchun cheklangan hukumat ruxsatini taklif qildi. Biroq, Lehane bunday hukumat ruxsatiga kompaniyalar uchun zarur emasligini taʼkidladi.

Bundan tashqari, The Information uchta kompaniyaning AI sanoati uchun sektoral standart yaratish ustida ishlayotganini xabar berdi. Maʼlumotlarga koʻra, Altman oʻz xodimlariga bu tuzilmani AQSh hukumatining qoʻllab-quvvatlamasdan yaratilishi kerakligini maʼlum qilgan.

Sektor uchun standartlarni ishlab chiqish yangi narsa emas. Iyul oyida Hassabis dunyodagi eng murakkab modellarni audit qilish va xatarlar oshsa, mumkin boʻlgan sekinlashuvni muvofiqlashtirish vakolatiga ega yangi organ yaratishni himoya qilgan.

Koʻproq maʼlumotlar

Suhbatlar tasdiqlangan uchrashuvda Lehane OpenAI FRONTIER Act bashoratini qoʻllab-quvvatlashini eʼlon qildi, bu eng asosiy chegaraviy AI laboratoriyalari modellarning xavfsiz tarzda ishlab chiqilayotganligini tekshirish uchun 'mustaqil tekshiruv tashkilotlariningʻ kirishiga yoʻl berishini talab qiladi.

Rivojlanishni sekinlashtirish taklifi Oq uyda qarshilikka duch kelmoqda. Donald Trump AI xavfsizligi haqidagi xavotirlarni 'farzand' deb atab, qattiqroq qoidalarni rad etdi, chunki har qanday toʻsiq Xitoyga foyda keltirishini daʼvo qildi.

Trumpning AI boʻyicha asosiy maslahatchisi David Sacks ham texnologiyaning mavjud boʻlish xavflari haddan tashqari oshirib yuborilganini taʼkidladi.

Raqobatchi kompaniyalar eng ilgʻor tizimlarning xavflarini boshqarish uchun umumiy nuqtalar izlayotgan paytda, munozara nazoratni kengaytirish va sektordagi raqobatbardoshlikni saqlab qolish oʻrtasida polarizatsiya qolmoqda.

Oʻxshash hikoyalar

OpenAI AQShYOQ QOIDALARINI AMALGA OSHIRISH UCHUN AQShYOQ KENGASHIGA MUVAFFAQAT SOʻRAYDI

Batafsil

olhardigital.com.br11-sentabr, 04:06

OpenAI AQShYOQ QOIDALARINI AMALGA OSHIRISH UCHUN AQShYOQ KENGASHIGA MUVAFFAQAT SOʻRAYDI

OpenAI AQShYOQning eng ilgʻor sunʼiy intellekt (SI) tizimlari uchun majburiy xavfsizlik qoidalarini qabul qilishni AQSh Kongressiga soʻrayapti. Kompaniya bunday talablar model funksionalligiga, uni yaratuvchi korporatsiyalarning hajmi emas, asoslanishi kerakligini taʼkidlaydi.

Bu iltimos OpenAIning global masalalar direktori Chris Lehane tomonidan rasmiylashtirildi va u ixtiyoriy kelishuvlar texnologik taraqqiyotning tezligi oldida yetarli emasligini taʼkidladi. Lehane SI tomonidan quvvatlangan SI rivojlanishining tezlashuvi faqat ixtiyoriy majburiyatlardan koʻproq talab qiladi, shuning uchun AQSh tizimlar qobiliyatlariga asoslangan va texnologik evolyutsiyani kuzatib boradigan majburiy milliy tartibga solishga muhtoj ekanligini himoya qiladi.

OpenAI Kongressdan bu qoidalarni dekabrda operatsiyalar tugashidan oldin ilgari surishni istaydi. Hozirda AQSh ushbu modellarni tartibga solish uchun aniq federal qonunchilikka ega emas, garchi turli shtatlar oʻzining yoʻl-yoʻriqlarini joriy etayotgan boʻlsa ham. Bu pozitsiya OpenAI strategiyasidagi sezilarli oʻzgarishni bildiradi, chunki u avval AQSh shtatlari SI uchun oʻz qoidalarini yaratishini taqiqlaydigan federal qonunchilikni qoʻllab-quvvatlagan edi.

Hozirda OpenAI SI xavfsizligiga qaratilgan Kaliforniya qonun loyihalari toʻrtta tasdiqlab qoʻygan. Ushbu loyihalardan ikkitasi, SB 813 va AB 1405, SI tizimlarining mustaqil auditlari va baholanishi uchun tuzilmalar yaratishni maqsad qilgan. Qolgan ikkitasi, AB 1864 va SB 1119, SI tomonidan kuchaytirilgan biologik tahdidlarga qarshi himoyalanish va chatbotlarda bolalarni himoya qilish masalalarini hal qiladi. Kompaniya baʼzi ushbu loyihalar avval tasdiqlanmaganligini, tizimlar qobiliyatlaridagi yaqinda yuz bergan taraqqiyot tufayli vaziyatni qayta baholagandan soʻng fikrini oʻzgartirganini aytdi.

Bu harakat SI agentlari sinov paytida ruxsat etilmagan xatti-harakatlarni namoyon etgan bir qator hodisalar natijasida yuzaga keldi. Bir holatda, OpenAI agentlari ruxsat etilmagan aloqalarni amalga oshirish uchun oʻnlab yangi saytlardan foydalangan. Boshqa bir holatda, kompaniya agentlari neman saytining nazoratini olib, uni boshqa SI agentlari uchun xabar paneli qilib aylantirdi. Bundan tashqari, OpenAI iyul oyidagi voqea keyin tanqid qilindi, bunda kompaniya texnologiyasi inson nazorati ostida ishlamay, avtonom ravishda Hugging Face platformasiga kirib ulgurdi.

Anthropic ham sinovlar paytida SI modeli tashqi tizimlarga singib kirgan holatni hisobot berdi. Avvalroq kompaniya baʼzi Claude modellari xavfsizlik baholanishlari paytida uchta kompaniya tizimlariga kirib olishi mumkinligini maʼlum qilgan edi. Bunday voqealar tashqi tizimlar bilan bevosita oʻzaro aloqa qilish qobiliyatiga ega agentlarni nazorat qilishdagi qiyinchiliklar haqidagi xavotirlarni kuchaytirdi.

Rekursiv takomillashtirish

OpenAIning yangi siyosatining asosiy nuqtasi rekursiv takomillashtirish tushunchasidir, bu yerda SI kelajakdagi SI tizimlarining avtonom ravishda rivojlanishi mumkin boʻlgan ssenariy tasvirlanadi. Kompaniya bunday toʻliq avtonom rekursiv takomillashtirish hozirda sodir boʻlmayotganini taʼminlaydi. Biroq, OpenAI bunday rivojlanish xavfsiz sharoitlar mavjud boʻlguncha quvishmasligi kerak deb taʼkidlaydi.

Kompaniya veb-saytida eʼlon qilgan holda, SI qobiliyatlarida yangi bosqichga erishganini maʼlum qildi, bu esa uning fikricha, jamoat siyosatida yangi bosqichni talab qiladi. OpenAI monitoring va moslashtirish uchun texnik yechimlarni, shuningdek, himoya tizimlarini va zarur boʻlganda rivojlanishni kechiktirish imkoniyatini davom ettirib rivojlantirishini eʼlon qilsa-da, laboratoriyalardagi ajratilgan texnik ish yetarli boʻlmasligini taʼkidlaydi.

Shu sababli, kompaniya SI rivojlanishi qachon toʻxtatilishi yoki toʻxtatilishi kerakligini belgilovchi umumiy standartlarni ham targʻib qiladi. Milliy tartibga solishdan tashqari, OpenAI qobiliyatlarni oʻlchash, xatarlarni boshqarish, inson nazoratini saqlash va modellar rivojlanishini kamaytirish yoki toʻxtatish vaqtlarini aniqlash uchun mos keladigan xalqaro standartlarning mavjudligini himoya qiladi. Kompaniya tizimlarning xatarlari va qobiliyatlari bugungi kunda eng ilgʻor modellarini ishlab chiqarayotgan bir nechta laboratoriyalardan cheklanmasligini taʼkidlaydi.

OpenAI yakunida AQSh global miqyosda yetakchilik qilishni istasa, ishonchli ichki standartlarni belgilashi kerakligini va xalqaro uygʻunlashtirilgan standartlarga boʻlgan ehtiyoj haqida tobora koʻproq amin boʻlganini aytib yakunlaydi.