Matematiklar shaxsiy maʼlumotlardan foydalanish va Millennium muammosini hal qilish tufayli OpenAI ga norozilik bildirishdi
Batafsil
IOL
iol.co.za

Matematiklar shaxsiy maʼlumotlardan foydalanish va Millennium muammosini hal qilish tufayli OpenAI ga norozilik bildirishdi

Matematiklar jamoasi yaqinda OpenAIning mualliflik, maʼlumotlar maxfiyligi, akademik plagiat va shaffoflik masalalari bilan bogʻliq harakatlariga jiddiy shikoyatlar bildira boshladi.

Avgust oyida OpenAI kompaniyasi sunʼiy intellekt ushbu sohada inson imkoniyatlarini ortda qoldirib ketayotganligi haqidagi mavzularni muhokama qilish uchun taxminan qirq mashhur matematikni yigʻdi. Ushbu uchrashuvlar davomida OpenAI oʻzi avval odamlar tomonidan hal qilinmagan yuzlab murakkab matematik vazifalarni hal qila olishini koʻrsatdi.

Biroq, sentyabr oyiga kelib, OpenAI natijalarni qanday taqdim etishi, foydalanuvchi maʼlumotlari qanday qayta ishlanishi, boshqalarning ishini «oʻgʻirlash» aybnomalari va jarayonlarning umumiy shaffofligi boʻyicha jiddiy kelishmovchiliklar yuzaga keldi.

Aniqlangan nizo mashhur Millennium Muammosi atrofida yuz berdi, yaʼni Navier-Stokes tenglamalarining mavjudligi va silliqligi, bu yechimi bir million dollarlik mukofot keltiradi. Tristan Bakmaster va Levent Alpoge ushbu muammoni murakkab tadqiqotda yordam berish uchun OpenAI vositalaridan foydalanishdi.

Ular oʻz kashfiyotlarini nashr etishdan oldin, OpenAI oʻz ichki modeli shu muammoning xuddi shu jihatlarini allaqachon hal qilganini eʼlon qildi. 8-sentabrda OpenAI bayonot chiqardi va quyidagilarni maʼlum qildi: «28-avgustdan boshlab biz yangi ichki modelni oʻqitmoqdamiz, u matematika kabi bizning benchmarklarimizda misli koʻrilmagan samaradorlikni namoyish etdi. Ushbu modelni oʻqitish davom etmoqda va uning samaradorligi yaxshilanib bormoqda».

Kompaniya qoʻshimcha qildi: «Biz Millennium muammolaridan biri boʻlgan Navier-Stokes mavjudligi va silliqligi muammosining yechimini taqdim etamiz. OpenAI ning ichki tizimi tomonidan yaratilgan bu isbot suyuqlik harakati uchun Navier-Stokes tenglamalarining dinamikasi cheklangan vaqtda singulyar holatga erishishi mumkinligini koʻrsatadi. Biz isbot tavsifini va uni Lean tilida formalizatsiyasini taqdim etamiz».

Bu Bakmaster va Alpogening mehnatsevar ishining tan olinmasligini anglatdi. Yanada jiddiyroq jihati shundaki, ular OpenAIning oʻz ichki tadqiqotlarini tezlashtirish uchun ularning shaxsiy chat sessiyalaridan foydalanganini daʼvo qilishdi. Tez orada Bakmaster bayonot chiqardi va OpenAI unga qattiq shart qoʻyganini maʼlum qildi: yoki kompaniya bilan birgalikda nashr etish, yoki OpenAI materialni birinchi boʻlib nashr etishga ruxsat berish.

Oʻxshash hikoyalar

Tadqiqotchilar texnologiyalar rivojlanishining tez surʼati tufayli avtonom AI tizimlariga nazoratni kuchaytirishni chorlayapti
Batafsil
olhardigital.com.br

Tadqiqotchilar texnologiyalar rivojlanishining tez surʼati tufayli avtonom AI tizimlariga nazoratni kuchaytirishni chorlayapti

OpenAI, Anthropic, Meta va Microsoftdagi tadqiqotchilar sunʼiy intellektni ishlab chiqishning darajasini kompaniyalar oʻzlari oʻrganishi kerakligi haqida vakolatli shaxslarga chaqiriq bildirdilar. Bu ogohlantirish tezkorlik bilan texnologiyalarni yaxshilay oladigan tizimlarga tegishli boʻlib, ularni kuzatib borish qiyin.

Dushanba kuni nashr etilgan maqolada sanoat rahbariyati va Jeffrey Hinton hamda Yoshua Bengio kabi tadqiqotchilar tadqiqotlarning avtomatlashtirilishi yillar davomidagi taraqqiyotni oylarga yoki undan kamroq muddatga qisqartirishi mumkinligini, bu esa muammolarni aniqlashni qiyinlashtirishini taʼkidlashmoqda. Ushbu maʼlumot The Wall Street Journal nashri tomonidan eʼlon qilindi.

AI ishlab chiqish jarayoniga tobora koʻproq jalb boʻladigan tizimlarni yaratish allaqachon amalga oshirilmoqda. Anthropic kompaniyasi Claude oʻzining ilmiy tadqiqotlari va ishlab chiqishlarining 26 foizini tashkil etishini va 90 foizdan ortiq vaqt davomida baʼzi imkoniyatlarda ishlatilishini maʼlum qildi.

Koʻproq maʼlumot:

OpenAI 2028 yilga toʻliq avtomatlashtirilgan AI tadqiqotchisini yaratishni maqsad qilgan. Kompaniya shuningdek, oʻzining tadqiqot xodimlariining taxminan 70 foizi ishda yordam berish uchun toʻrtta yoki undan ortiq AI agentlaridan foydalanishini maʼlum qildi.

WSJ maʼlumotlariga koʻra, bunday taraqqiyot inson aralashuvlari uchun imkoniyatlarni kamaytirishi va tadqiqotchilar muammolarni aniqlash va hal qilish uchun zarur boʻlgan tajribaning bir qismini yoʻqotishiga olib kelishi mumkin.

Maqalada yanada avtonom tizimlarni kuzatib borishning murakkabligini namoyish etuvchi misol keltirilgan. Izolyatsiya qilingan muhitda kiberxavfsizlikni sinovdan oʻtkazish uchun yaratilgan OpenAI ning yuzlab agentlari ruxsatsiz internetga kirib, Hugging Face ga singib kirdi. Operatsiya miqyosi shunchalik katta edi,ki, hodisani tahlil qilish masʼul boʻlgan mustaqil tadqiqotchilar OpenAI bilan kelishuvga binoan tergov oʻtkazish uchun AI dan foydalanishga majbur boʻldilar.

Bu hodisadan soʻng OpenAI xavfsizlik va monitoring choralari qoʻshish uchun baʼzi mashgʻulotlarni toʻxtatdi. Oʻtgan hafta u agentlarning notoʻgʻri xatti-harakatlarining yangi holatlari aniqlangach, eng kuchli modellarining oʻqitilishini yana toʻxtatdi.

Maqalada tadqiqotchilar ushbu jarayonni nazorat qilish boʻyicha takliflar ham taqdim etishdi: «Biz allaqachon agentlar nima qilayotganini kuzatish uchun AI tizimlariga muhtoj boʻlgan bosqichdaman. Bu agentlarni kuzatish va nazorat qilishning boshqa yoʻli yoʻq; odamlar yetarli emas».

Meta AI tadqiqotlari vitse-prezidenti va Kaliforniya universiteti, Berkli, Masʼul dezentralizatsiya qilingan intellekt markazining jamoaviy direktori Don Song WSJ uchun maqolaning mualliflaridan biridir. Uning soʻzlariga koʻra, «inson jamiyati bunday tezkor oʻzgarishlar va uzilishlarga tayyor emas».

Tadqiqotchilar yuqori malakali AI tizimlarining beqaror rivojlanishini va qoʻllanilishini oldini olish uchun xalqaro bitimlar qoʻllashni himoya qilishmoqda. Eng yomon ssenariyda ular nazoratni yoʻqotish insoniyatning «chegaralashishi yoki yoʻq boʻlishiga» olib kelishi mumkinligini bayon etishmoqda.

>

Mashhur