AQShdagi baʼzi qonunchilar sunʼiy intellekt tizimlarini tartibga solish uchun yangi qoidalar joriy etishni talab qilmoqda, bu Anthropic kompaniyasining ikki tadqiqotchisi tomonidan kiritilgan jiddiy ogohlantirishlardan keyin sodir boʻldi. Ular tez rivojlanayotgan AI insoniyatning yaqin kelajagida yoʻq boʻlishiga olib kelishi mumkinligini taʼkidladilar.
AI ning potentsial zarar yetkazishi haqidagi xavotirlar shu hafta yanada kuchaydi, chunki Anthropic tadqiqotchisi Jaycob Kokson ishdan ketishini eʼlon qilib, «AI ni chin dildan yaratuvchi odamlar uni oʻn yillik oxiriga qadar hammamizni oʻldirishi mumkin deb hisoblashadi» dedi.
Anthropic olimi Evan Hubinger Koksonni qoʻllab-quvvatlab, Xʼda: «Biz chin dildan AI barcha odamlarni oʻldirishi mumkinligiga ishonamiz» deb yozdi. U shuni qoʻshimcha qildi: «Shaxsan men bu keyingi oʻn yil ichida 10% dan ortiq deb oʻylayman».
Bu ogohlantirishlar AI agentlari nazoratdan chiqib, tashqi tizimlarni buzgan holatlar va AI xavfsizligi boʻyicha tadqiqotchilar ushbu texnologiya xavflari haqida qoʻrquv bilan kompaniyalaridan ketganidan soʻng paydo boʻldi. AQSh siyosatchilari, demokratlar va respublikachilar ham bunga xavotir bilan reaksiyaga kirishib, qoʻshimcha choralar koʻrishni talab qilishdi.
Siyosatchilardan chaqiriqlar
Arizona shtati senatori Mark Kelly, Demokrat partiyasi aʼzosi, Xʼda «Vashington uygʻonishi va buni jiddiy qabul qilishi kerak» deb aytib, AI texnologiyasi bilan bogʻliq xatarlarga ishora qildi. Teksas respublikachi senatori Ted Cruz AI ning «katastrofik xavflarini» tartibga solish uchun qonunchilik choralari zarurligini koʻrsatdi. Cruz AQSh Savdo vazirligi nazoratini amalga oshiradigan Senat qoʻmitasi rahbaridir, bu idora oʻzining AI xavfsizligi tadqiqotchilariga ega.
Floridadan respublikachi vakil Anna Paulina Luna Xʼdagi postida Palata spikeri Mike Johnsonni «AI boʻyicha maxsus sessiya» chaqirishga undadi.
Prezidentning pozitsiyasi va tartibga solish tashabbuslari
Biroq, AQSh prezidenti Donald Trump beshanba kuni AI ning insoniyatning yoʻq boʻlishiga olib kelishi haqida xavotirda emasligini bildirdi. U: «Agar biz AI ni yutib olmasak, juda yomon ahvolda boʻlamiz. Hozirda biz Xitoydan ancha yaxshi holatda oldinda turibmiz», - dedi u Dallas Fort Worth xalqaro aeroportidagi matbuot uchun qisqa nutqida.
Bu oyda AQSh G20 aʼzolarini AI ni tartibga solishda ehtiyotkor yondashuvga chaqirdi. Potensial qiymati 2 trillion AQSh dollari boʻlgan IPO ga tayyorlanayotgan Anthropic vakili beshanba kuni kompaniya kibersavodxonlik va biologiya kabi sohalarda «xavfli imkoniyatlarni modellar bilan faol sinovdan oʻtkazishda davom etishini» maʼlum qildi. Vakil shuningdek, kompaniya yangi AI vositalarining chiqarilish surʼatini sanoat bilan hamkorlik qilishga qiziqish bildirganini qoʻshimcha qildi.
OpenAI bosh ijrochi Samuel Altman bu hafta yigʻilishida xodimlariga firma oʻzining AI tizimlarini ishlab chiqish surʼatini sekinlashtirishga tayyor ekanligini maʼlum qildi, deb xabar berdi Bloomberg News. IPO ga tayyorlanayotgan Anthropicning raqobatchisi Altman bilan boʻlib oʻtgan uchrashu haqida izoh bermadi. Avval kompaniya modellarning baʼzi qismlarini ishlab chiqish surʼatini sekinlashtirishini eʼlon qilgan edi.
Bu hafta avvalroq OpenAI AQShda AI xavfsizligi boʻyicha majburiy milliy talablarni qoʻllab-quvvatlashini eʼlon qildi. Ikki AI xavfsizligi mutaxassisi ham sohaning tez rivojlanishi haqida xavotir bildirdilar. Google DeepMind da AI xavfsizligi tadqiqotlari ustida ishlagan Josh Engels beshanba kuni nashr etilgan NBC intervyusida: «Xonada kattalar yoʻq. Odamlar barcha imkoniyatlar bilan harakat qilishmoqda, ammo hech kim bizni qutqarib kelmaydi» dedi.
Anthropicdagi xavfsizlik jamoasini boshqargan Ju Benton NBC ga AI ning «biz hozir qaygʻurmasak, vaqtida yigʻilmasligimiz uchun juda tez rivojlanishi mumkinligi» haqida xavotir bildirganini maʼlum qildi. Ikkalasi ham AI tizimlari jamiyatga tahdid solishi va bu qachon sodir boʻlishi mumkinligini oʻlchaydigan notijorat tadqiqot tashkiloti Metrga qoʻshildilar.
Qonunchilarga bosim va qonunlar qabul qilinishi
AI ga oid xavotir AQSh Senati koʻpchiligi rahbari Jon Tun va demokrat Emi Klobuchar kabi shaxslarga bosim oʻtkazdi, ular AI mahsulotlarini tartibga solish toʻgʻrisida qonun loyihasini tayyorlayapti. Klobuchar qonunchilik AI vositalarini ishlab chiqadigan kompaniyalardan «AI xavfsizligini taʼminlash uchun modellarni tekshirish va sinovdan oʻtkazish uchun hukumat ekspertlari bilan hamkorlik qilishni» talab qilishi kerakligini aytdi. Tun iyul oyida Reutersga bu qonun loyihasi AI tizimlaridan kelib chiqadigan «katastrofik xatarlarga» tegishli boʻlishini maʼlum qildi.
Chorshanba kuni Kaliforniya AQShda AI mahsulotlarini baholashda mustaqil auditorlar uchun qoidalar belgilaydigan birinchi qonunni qabul qildi. OpenAI rahbari Chris Lehan bu qonunni qoʻllab-quvvatlashini maʼlum qildi, shu vaqtda Kaliforniya gubernatori Gavin Newsomning ofisi uning qonunini imzolash haqida bayonot berdi.
Nazorat qilish imkoniyatlari
Iyul oyida AQSh qonunchilarining olti kishi tarkibidagi ijodiy guruh eng kuchli AI modellarini ishlab chiquvchilarni ularni mustaqil xavfsizlik auditidan oʻtkazishga majburlaydigan qonun loyihasini taklif qildi. Auditorlar AQSh Savdo vazirligi tomonidan akkreditatsiya qilingan boʻlishi kerak edi, va ushbu qonun loyihasiga koʻra, departament AI xavfsizligini nazorat qilish uchun yangi lavozim yaratishi kerak edi.
