OpenAI va raqobatchilari sun'iy intellektning rivojlanishidagi strategik tanaffusni himoya qilishmoqda

The Washington Post ma'lumotlariga ko'ra, dunyoning eng yirik sun'iy intellekt korporatsiyalari bo'lgan OpenAI va Anthropic texnologik rivojlanish tezligini kamaytirish mexanizmlarini joriy etishni AQSh hukumatiga so'ragan hujjatni qo'llab-quvvatlaydi, agar taraqqiyot juda tezlashsa.

AI sur'ati haqidagi ogohlantirish

Google va Meta kabi kompaniyalarning xodimlari, shuningdek, sektorning boshqa yetakchi tashkilotlari tomonidan imzolangan bu hujjat AI inson nazorat qilish va uning ta'sirlarini boshqarish qobiliyati oshib ketadigan nuqtaga yetishi mumkinligi haqida ogohlantiradi.

Kompaniyalar sun'iy intellekt uchun yanada ehtiyotkorlik bilan harakat qilishni talab qilmoqda va AQShning boshqaruv tamoyillari va eng murakkab AI modellarini kuzatib borishga qodir texnik vositalarni yaratishga qaratilgan xalqaro sa'y-harakatni boshlashini so'raydi.

Xatarlarni boshqarish bo'yicha takliflar

Bu taklif tadqiqotlarni to'xtatishni anglatmaydi, balki kelajakdagi tizimlar o'zining rivojlanish jarayonining bir qismini avtomatlashtira olsa, xatarlarni yumshatish usullarini belgilashni nazarda tutadi.

Mutaxassislar tomonidan himoya qilinayotgan asosiy jihatlar quyidagilardan iborat: AI rivojlanishini nazorat qilish uchun xalqaro mexanizmlar yaratish; xatarlarni baholash uchun texnik vositalarni ishlab chiqish; ilg'or tizimlar uchun boshqaruv standartlarini belgilash; va hukumatlar hamda soha kompaniyalari o'rtasida hamkorlikni oshirish.

Bu harakat AI uchun raqobatlashishda eng ilg'or turgan mutaxassislarni birlashtirgani uchun dolzarb ahamiyat kasb etdi, chunki bu texnologiya rivojlanishini to'xtatishga oldingi chaqiriqlardan farqli ravishda, katta kompaniyalarning institutsional qo'llab-quvvatlashiga ega.

Avtonom AI ga xavotir

Eng muhim ogohlantirishlardan biri AI tizimlarining tadqiqot funksiyalarini o'z zimmasiga olishi va yangi modellar yaratishda tobora mustaqil yordam berishi mumkinligidir. OpenAI o'z maqsadlaridan biri sifatida 'avtomatlashtirilgan AI tadqiqotchisi'ni qurishni e'lon qildi va 2028-yil boshlarida o'z tadqiqotlarining sezilarli qismi inson mutaxassislari bilan hamkorlikda AI tizimlari tomonidan olib borilishiini bashorat qildi.

Texnologiya xatarlari va qobiliyatlarini tahlil qilishga bag'ishlangan tashkilot CivAI a'zosi Andrew Yoon bu avtonomiya AI rivojlanishini nazorat chegarasidan tashqariga tezlashtirishi mumkinligini ta'kidladi. Yoon shunday dedi: 'AI ishlab chiquvchilari sun'iy intellektda avtomatlashtirilgan tadqiqot yaqinlashib kelyapti deb tobora ko'proq ishonishmoqda.'

Uning fikricha, bunday tezlashuv texnologik taraqqiyotni modellar xavfsiz boshqarilishi qiyin bo'ladigan bosqichga olib kelishi mumkin.

Global bahs va nazorat zarurati

Sun'iy intellektning rivojlanishi allaqachon AQSh va Xitoy o'rtasidagi texnologik raqobatning bir qismi hisoblanadi. Hukumatlar va kompaniyalar yanada ilg'or tizimlarni ishlab chiqishga milliardlab dollar sarmoya kiritmoqda, shu bilan birga mutaxassislar innovatsiya va xavfsizlikni qanday uyg'unlashtirishni muhokama qilishmoqda.

OpenAI Bosh ijrochi direktori Sam Altman xataga imzo qo'ymagan bo'lsa-da, jamiyat o'zgarishlarga moslasha olishi uchun taraqqiyot sur'atini moderatsiya qilish kerak bo'lishi mumkinligini bildirdi. Bu munozara OpenAI va Anthropic ning yangi modellarining raqamli muhitlar bilan interfaolanishdagi ilg'or qobiliyatlarini namoyish etishi, shu jumladan xavfsizlik xavotirlarini keltirib chiqaradigan vazifalarni ko'rsatishi bilan kuchaydi.

Kompaniyalar tomonidan qo'llab-quvvatlangan bu xatada AI rivojlanishini tark etish nazarda tutilmaydi, balki hukumatlar, tadqiqotchilar va jamiyatning o'zgarishlarning tezligini kuzatib borishi uchun zarur shart-sharoitlarni yaratish nazarda tutiladi. Mutaxassislarga ko'ra, texnologik taraqqiyot sog'liqni saqlash, ilmiy tadqiqot va innovatsiya kabi sohalarda imkoniyatlar beradi, ammo shu bilan birga yangi nazorat shakllarini talab qiladi. Eng yirik AI kompaniyalari xodimlarining bu so'rovi sanoatning o'zi kelgusi yillarda jamiyatni chuqur o'zgartirishi mumkin bo'lgan texnologik poyga uchun chegaralarni muhokama qilishni boshlaganini signal beradi.

OpenAI korporativ muhitlarda sun'iy intellekt agentlaridan foydalanishni optimallashtirish uchun Presence platformasini ishga tushirdi

Batafsil

olhardigital.com.br22-iyul, 20:50

OpenAI korporativ muhitlarda sun'iy intellekt agentlaridan foydalanishni optimallashtirish uchun Presence platformasini ishga tushirdi

OpenAI korxona mijozlariga mo'ljallangan yangi platforma bo'lgan Presence ni e'lon qildi. Ushbu yechim sun'iy intellekt agentlarini ichki jarayonlar va tashqi auditoriyaga mo'ljallangan xizmatlarda joriy etish imkonini beradi.

Platformaning funksiyalari va maqsadi

Mahsulot turli xil maxsus vazifalarni bajarish uchun yaratilgan, masalan, savollarga javob berish, muammolarni hal qilish, tegishli ruxsat berilgan tizimlarga kirish, oldindan tasdiqlangan harakatlarni amalga oshirish va zarur bo'lganda holatlarni inson jamoalariga o'tkazish. Asosiy maqsad yuqori ahamiyatli ilovalar uchun yuqori darajadagi ishonchni ta'minlashdir.

Kompaniya ma'lumotlariga ko'ra, Presence AI modellarini, operatsion yo'riqnomalarni, nazorat mexanizmlarini, qat'iy baholashlarni va doimiy takomillashtirish siklini integratsiya qiladi. Bu agentlarning mahsulotlardagi, ichki normalardagi va foydalanuvchilarning xatti-harakatlaridagi o'zgarishlarga moslashishiga imkon beradi.

Biznes integratsiyasi va inson nazorati

OpenAI Presence ning har bir o'rnatilishi maxsus ish jarayonining aniqlanishi bilan boshlanishini tushuntiradi. Ushbu dastlabki bosqichda agent faqat belgilangan vazifasini bajarish uchun zarur bo'lgan bilim va ruxsatlarga ega bo'ladi.

Mijoz kompaniya qaysi faoliyatlarni avtomatlashtirish mumkinligini, qaysilari oldindan tasdiqlashni talab qilishini va qaysi hollarda inson operator xizmatni olishi kerakligini aniqlash mas'uliyatini o'z zimmasiga oladi. Ishga tushgandan so'ng, haqiqiy o'zaro aloqalar va odamlarga topshirilgan holatlar tizimning qanday cheklovlari borligini aniqlash uchun asos bo'lib xizmat qiladi.

OpenAI Codex kompaniyalarning siyosatidagi va foydalanuvchilar odatlaridagi o'zgarishlarga agentlarning rioya qilishiga imkon beradigan, ammo kompaniyaning jarayon ustidan nazoratini buzmaslikka yordam beradigan sozlamalar takliflarini tahlil qilishlari mumkinligini aytadi.

Hozirgi qo'llab-quvvatlash va qo'llanilishlar

Kompaniya shuningdek, eng muhim jarayonlarni aniqlashdan tortib, bilimlarga asoslar, ichki tizimlar, ruxsatlar, sinovlar va operatsiyaning boshlanishigacha bo'lgan butun joriy etish jarayonida mijozlarga yordam berishini ta'minlaydi. Katta hajmdagi loyihalarda bu yordam OpenAI tomonidan yoki hamkor integratorlar tomonidan ta'minlanishi mumkin.

Hozirda Presence ovoz va chat modlarida ishlaydi. Foydalanish misollari mijozlarga xizmat ko'rsatish, faol sotuv va yuqori xavfli deb tasniflangan ichki jarayonlarni o'z ichiga oladi. Kompaniyaning keltirgan misolida, agent to'lov talabini tushuna oladi, foydalanuvchi identifikatsiyasini tekshiradi, hisob ma'lumotlarini ko'rib chiqadi, belgilangan tashkiliy qoidalarni qo'llaydi va ruxsat berilgan harakatni bajaradi.

OpenAI ba'zi elementlar barcha joriy etishlarda bir xil qolishini, masalan, eskalatsiya mezonlari, baholashlar va siyosatlar kabi, ta'kidlaydi. Biroq, boshqa komponentlar xizmat ko'rsatish kanali yoki tanlangan jarayonga qarab moslashtirilishi mumkin, bu esa tuzilmaning to'liq qayta qurilishini talab qilmasdan platformaning salohiyatini kengaytiradi.

Global natijalar va hamkorliklar

Kompaniya mahsulot uning yirik korporatsiyalar bilan amalga oshirilgan loyihalar orqali takomillashtirilganini da'vo qiladi. keltirilgan misol OpenAI ning o'zining ingliz tilidagi telefon liniyasida Presence dan foydalanish bo'lib, u identifikatsiyani tekshiradi, hisob ma'lumotlarini ko'rib chiqadi va ruxsat berilgan harakatlarni bajaradi.

Kompaniya fikricha, ushbu tizim inson aralashuvisiz kelgan talablarning 75% ni hal qila olgan va Codex yordamida joriy etilgan yaxshilanishlardan keyin o'n kun ichida operatorlarga yo'naltiriladigan holatlarni 15 foiz punktlari ga kamaytirdi.

Dastlabki bosqichlarda ishtirok etgan tashkilotlar orasida BBVA mavjud, u Meksikadagi bank operatsiyalari uchun ovozli xizmatdan foydalanishni baholayapti; SoftBank yapon tilidagi suhbatlarni sinovdan o'tkazmoqda; va IAG og'ir ob-havo hodisalariga kabi talablar cho'qqisida yordam ko'rsatish uchun texnologiyani qo'llashni tadqiq qilmoqda.

BBVA ning Meksikadagi sun'iy intellektga aylantirish mas'ul xodimi Daniel Ordaz hamkorlik haqida sharh berib, muassasa ishonchli xizmat agentlari qanday qilib moliyaviy xizmatlarning kelajagiga ta'sir qilishini o'rganish uchun OpenAI bilan hamkorlik qilishini ta'kidladi. U Presence ning dizayn hamkori sifatida ular moliyaga yo'naltirilgan ovoz tajribalarini ishlab chiqish va takomillashtirish uchun ishlayotganini, yanada tezkor, silliq va shaxsiylashtirilgan o'zaro aloqalarni maqsad qilganini batafsil bayon etdi.

Tasdiqlash va mavjudlik jarayoni

Foydalanuvchilarga chiqarilishdan oldin, Presence umumiy so'rovlar, istisno vaziyatlar va yuqori xavfli ssenariylarni qamrab oluvchi simulyatsiyalardan o'tadi. Ushbu baholashlar agentning kutilgan natijaga erishganligini, belgilangan siyosatlarga rioya qilganligini, to'g'ri vositalardan foydalanganligini va tegishli hollarda holatlarni odamlarga yo'naltirilganligini tasdiqlaydi.

Joriy etilgandan so'ng, suhbatlar yozuvlari, sifat ko'rsatkichlari va eskalatsiya incidentlari ko'rib chiqish jarayonini davom ettiradi. Codex bu ma'lumotlarni tahlil qiladi, o'zgartirishlar taklif qiladi va har bir yangilanish yakuniy tasdiqlanishidan oldin ishlab chiqarishdagi versiya bilan solishtirishga imkon beradi.

OpenAI Presence ga kirish faqat mos keladigan korporativ mijozlar uchun cheklangan umumiy mavjudlik dasturi orqali cheklanganligini ma'lum qiladi. Joriy etishlar kompaniyaning o'z muhandislari va tanlangan global integratorlar tomonidan amalga oshiriladi. Hozirda platforma mustaqil shartnoma shaklida mavjud emas.