AIʼda singulyarlik nima va uning boshlanishini qanday aniqlash mumkin?
Batafsil
Olhar Digital
olhardigital.com.br

AIʼda singulyarlik nima va uning boshlanishini qanday aniqlash mumkin?

Elon Musk 22-iyul kuni X platformasida sunʼiy intellektning joriy holati haqida qisqa bayonot berdi: «Biz singulyarlikda turibmiz». Uch kun oʻtib, OpenAI bosh ijrochi direktori Sam Altman Relentless podkastida shunga oʻxshash bayonot berdi: «Biz, xolos, singulyarlikdanamiz». U davom etdi: «Bu bir lahza».

Bu bayonotlar yana bir bor oʻn yillik muhokama jarayonini keltirib chiqardi, ammo yaqinda AI tizimlaridagi taraqqiyot tufayli yangi jihatlarga ega boʻldi. Biroq, Musk va Altmanning haqliligini baholashdan oldin, yanada fundamental savolga javob berish kerak: singulyarlikka erishish nimani anglatadi?

Bu atamaning yagona kelishilgan taʼrifi mavjud emas. Tushuntirishga qarab, u mashinalarning inson intellektidan keng ustunligi, AI ning oʻzini takomillashtirish tezlashgan sikli yoki hatto jamiyat va texnologiyalar oʻrtasidagi munosabatlarda qaytarilmas nuqtani anglatishi mumkin.

Aynan shu farq singulyarlik boshlanganligini aniqlashni qiyinlashtiradi. Bahslar hozirgi AI tizimlarining imkoniyatlari va texnologik rivojlanish dinamikasining oʻzgarishini tan olish uchun qanday mezonlar kerakligi haqida boʻladi.

«Intellekt portlashi» konsepsiyasining ildizlari

Intellekt portlashi mumkinligi gʻoyasining ildizlaridan biri Buyuk Britaniya matematik I. J. Gudning ishi hisoblanadi. 1965-yilda u inson intellekt faoliyatini ortda qoldira oladigan «superintellekt mashinasini» tasvirlagan. Bunday faoliyat turlaridan biri mashinalarni loyihalash boʻlgani sababli, bunday mashina yanada yaxshiroq tizimlarni yaratishi va potentsial ravishda tezlashgan takomillashtirish jarayonini boshlashi mumkin edi. Gud bu ssenariyni «intellekt portlashi» deb nomlagan.

Singulyarlik konsepsiyasi oʻnlab yillar oʻtgach, matematik va ilmiy-fantastika yozuvchisi Vernor Vinj tufayli yanada aniq shaklga ega boʻldi. 1993-yildagi The Coming Technological Singularity nomli asarida Vinj bu hodisani inson intellektidan ustun keladigan intellektlar paydo boʻlishi va keyingi davrni avvalgi modellar asosida bashorat qilish qiyin boʻladigan shunchalik tezkor transformatsiya bilan bogʻladi.

Bu maʼnoda singulyarlik shunchaki mashinalar aqlliroq boʻlganini anglatmaydi. Gʻoya shundaki, maʼlum bir nuqtadan boshlab, texnologik oʻzgarishlarning surʼati va xarakteri kelajakni bashorat qilish uchun avval ishlatilgan usullarni yetarli boʻlmasligiga olib kelishi mumkin.

Bu gʻoyalardan kelib chiqqan holda, turli xil talqinlar birgalikda mavjud boʻlishni boshladi. Ulardan biri singulyarlikni oʻz rivojlanish jarayonida ishtirok etish va tobora malakali tizimlarni ishlab chiqarish uchun yetarlicha aqlli boʻlgan mashina bilan bogʻlaydi. Bu ssenariyda hal qiluvchi omil nafaqat AI ning bitta vazifadagi inson ustunligi, balki uning evolyutsiyasi surʼati va dinamikasining oʻzgarishi boʻladi.

Futurist Ray Kurtsveyl texnologik taraqqiyotning tezlashuvi va biologik boʻlmagan intellektning oʻsishi bilan bogʻliq boshqa bir formulani targʻib qildi. Kurtsveyl singulyarlikni 2045 yilga prognoz qiladi va bu konsepsiyani insonlar va mashinalar oʻrtasidagi munosabatlardagi chuqur transformatsiya bilan bogʻlaydi.

Filosof David Chalmers ham intellekt portlashi gipotezasini tahlil qildi, bu gipotezga koʻra, insonlardan aqlliroq mashina yanada aqlli avlodni yaratishi va bu avlod esa keyingisini keltirib chiqarishi mumkin. Shu tariqa, bu mavzu boʻyicha munozara mavjud kuzatilayotgan voqeaning konsensusli tavsifi emas, balki turli gipotetik ssenariylarni qamrab oladi.

Tanqid va qarashlarning xilma-xilligi

Singulyarlik gʻoyasi oʻz sohasidagi tadqiqotchilar tomonidan tanqid qilinadi. Chuqur oʻrganishning pioniyerlaridan biri va Turing mukofoti gʻoliblari Yan Lekyun mashinalar oxir-oqibat insonlar bilan intellektda raqobatlashishi mumkin deb hisoblaydi, ammo singulyarlikka ishonmaydi. Uning fikricha, AI ning rivojlanishi eksponensial koʻrinishi mumkin, ammo bu shunday tarzda davom etishi shart emas: taraqqiyot cheklovlar bilan toʻqnashib, singulyarlik tarafdorlari bashorat qilgan yutuqgacha sekinlashuvchi oʻsish egri chizigʻiga kirishi mumkin.

Bu turli formulalar bu soʻz barcha tadqiqotchilar uchun bir xil hodisani tasvirlamayotganligini tushuntirishga yordam beradi. Sunʼiy intellekt va kompyuter texnikasi sohalaridagi UFRJ professori Prisila Machado Vieira Lima uchun birinchi savol: «Biz qanday singulyarlik haqida gapiryapmiz?»

Aynan shu yerda singulyarlik bilan tez-tez bogʻlanadigan ikkita tushuncha paydo boʻladi: umumiy sunʼiy intellekt (AGI) va superintellekt. AGI turli kognitiv vazifalarni bajarishga qodir boʻlgan AI ni tasvirlash uchun ishlatiladi, nafaqat maʼlum muammolardagi kompetensiya bilan cheklangan. Superintellekt mashina inson intellektual qobiliyatlarini ancha kengroq darajada ortda qoldiradigan gipotetik ssenariyga tegishli.

Baʼzi formulalar AGI ni superintellekt va singulyarlikdan oldingi mumkin boʻlgan bosqich sifatida koʻrib chiqadi. Mantiq shuki, AI avvalo umumiy qobiliyatlarga erishadi, soʻng oʻz tizimlarini yaxshilashni boshlaydi va nihoyat, intellekt portlashini keltirib chiqarishi mumkin. Biroq, bu ketma-ketlik konsepsiya tafsirining barchasi tomonidan qabul qilinmaydi.

Oʻzini takomillashtirishni tushunishdagi farqlar

Texnologiyalar va innovatsiyalar mutaxassisi Artur Igresh uchun muammolardan biri maʼlum bir faoliyat turlaridagi istisno samaradorlikni umumiy maqsadli intellekt bilan aralashtirishdir. U Olhar Digital intervyusida: «U juda cheklangan spektrda juda kuchli» deb aytdi.

Mashina bir faoliyatda insondan yaxshiroq ekanligi, avtomatik ravishda u umuman intellektda insondan yaxshiroq degani emas. Igreshning fikricha, singulyarlik muhokamasi faqat alohida natijalarga emas, balki imkoniyatlarning kengligini hisobga olishi kerak.

UFRJ professori Claudio Miceli ham oʻzini takomillashtirish haqida shunga oʻxshash farqni keltiradi. Uning soʻzlariga koʻra, yangi maʼlumotlarni olib borish orqali rivojlanish va takomillashtirilishi mumkin boʻlgan algoritmlar allaqachon mavjud, lekin bu ularning AGI ga erishganligini anglatmaydi. U taʼkidladi: «Dasturlar allaqachon rivojlanishi mumkin, bizda maʼlumotlar kelyapti-da, rivojlanadigan, yaxshilanadigan, takomillashtiriladigan algoritmlar bor. Ammo bu uni umumiy sunʼiy intellektga aylantirmaydi».

Farq rekursiv oʻzini takomillashtirish haqida gap ketganda yanada muhim ahamiyat kasb etadi. AI tadqiqotchilarga kod yozishga, modellar sinovdan oʻtkazishga, natijalarni tahlil qilishga yoki tizimlarni yaxshilash yoʻllarini topishga yordam bera oladi. Boshqa masala esa mashina oʻzining intellektini oshirishning tobora mustaqil siklini oʻzi amalga oshirishi.

Igresh bu ikkinchi ssenariyni singulyarlikning burilish nuqtasi bilan bogʻlaydi: oʻzini oʻzi quvvatlantiradigan va oʻz rivojlanishi uchun insonlarga kamroq bogʻliq boʻladigan AI. Bugungi kunda, uning evolyutsiyasi hali ham tadqiqotchilar, maʼlumotlar, modellar, kompaniyalar, investitsiyalar, oʻqitish va infratuzilmadan bogʻliq, deb aytadi u.

Sam Altman ham 2025 yilda nashr etilgan The Gentle Singularity blog postida shunga oʻxshash farqni qiladi. Ushbu matnda OpenAI bosh ijrochi direktori AI tizimlaridan foydalanishni tadqiqotlarni tezlashtirish va yanada yaxshi tizimlarni yaratishga yordam berishni AI ning kodini mustaqil yangilashdan farqlaydi. Shu bilan birga, u joriy jarayonni rekursiv oʻzini takomillashtirishning boshlangʻich versiyasi deb ataydi.

Bu farq ikki narsani ajratishga yordam beradi, ular oʻxshash tuyulishi mumkin: yangi AI ni ishlab chiqishni tezlashtirish uchun AI dan foydalanish va oʻz takomillashtirish jarayonini mustaqil boshqarishga qodir AI mavjudligi.

Singulyarlikka erishish haqidagi xulosa

Aynan shu yerda Musk va Altmanning bayonotlari konsepsion murakkablik bilan toʻqnashadi. Agar singulyarlik inson imkoniyatlaridan keng ustun keladigan va oʻz rivojlanishini mustaqil tezlashtirishni boshlaydigan sunʼiy intellektni anglatsa, Artur Igresh va Claudio Miceli fikricha, bu bosqichga erishilganligiga dalil yoʻq.

Miceli toʻgʻridan-toʻgʻri aytadiki: «Agar biz singulyarlikni AI ning inson intellektidan ustunligi sifatida tushunsak, biz hali bu nuqtaga yetib bormadik». Uning fikricha, joriy tizimlar hali bunday darajadagi intellektga erishmagan.

Igresh ham, agar bu konsepsiyani sunʼiy intellekt rivojlanishining dinamikasining chuqur oʻzgarishi sifatida tushunilsa, biz singulyarlikda ekanligimizni daʼvo qilishni erta deb biladi. Uning fikricha, hozirgi AI hali ham inson imkoniyatlarining kengligiga nisbatan muhim cheklovlarga ega va uning evolyutsiyasi hali ham tadqiqotchilar, maʼlumotlar, modellar, kompaniyalar, investitsiyalar, oʻqitish va infratuzilmadan bogʻliq.

Prisila Lima esa kengroq taʼrif taklif qiladi. U singulyarlikni norasmiy ravishda qaytarilmas nuqta sifatida tushunish mumkin deb hisoblaydi. Bu maʼnoda jamiyat allaqachon qandaydir singulyarlik turidan oʻtgan boʻlishi mumkin. Bu talqin mashina intellekti inson intellektidan ustun kelganligiga bogʻliq emas.

Bu qarash Altmanning formulalashuvini kontekstualizatsiya qilishga ham yordam beradi. The Gentle Singularity da OpenAI bosh ijrochi direktori transformatsiyani asta-sekin deb tasvirlab, singulyarlik «biroz-biroz» sodir boʻlishini taʼkidladi. Biroq, Relentless podkastida u bu lahzani boshqa ibora bilan umumlashtirdi: «Bu bir lahza».

Umuman olganda, Altmanning bayonotlari singulyarlikni aniq sanaga emas, balki davom etayotgan jarayon sifatida taqdim etadi, bunda mashina birdaniga superintellektga aylanaveradi. 2025 yildagi matnida u asta-sekin evolyutsiyani tasvirlaydi; podkastda esa, singulyarlik hozir sodir boʻlganini aytgan boʻlsa-da, hech qanday izolyatsiya qilingan lahza burilish nuqtasi emasligini ham taʼkidlaydi.

Prisila Lima uchun bu turli xil uzilish nuqtalarining imkoniyati singulyarlikning yagona boʻlmasligi mumkinligini anglatadi. U shunday dedi: «Menimcha, yaqin yillarda biz bir nechta singulyarliklarga guvoh boʻlamiz», ong, empatiya va odatiy maʼno kabi qobiliyatlar bilan bogʻliq imkoniyatlarni eslab oʻtdi.

Bu konsepsiyaning eng katta qiyinchiligi boʻlishi mumkin. Agar yagona va kelishilgan taʼrif boʻlmasa, singulyarlik boshlanganligini koʻrsatadigan universal metrika ham mavjud emas.

Maʼlum vazifalardagi samaradorlikni, fikrlash qobiliyatini, bajarish tezligini, mustaqillikni yoki texnologiyani qabul qilishni oʻlchash mumkin. Ammo bu koʻrsatkichlarning hech biri alohida singulyarlikning barcha taʼriflarida tasvirlangan bosqichga erishilganini belgilamaydi.

Claudio Miceli aynan shu muammoni taʼkidlaydi. U shunday dedi: «Qabul qilish nuqtai nazaridan, intellekt nuqtai nazaridan, qobiliyat nuqtai nazaridan singulyarlik nima ekanligini aniqlash uchun ishlatiladigan metrikalar seriyasi yoʻq».

Yanada eski savol ham mavjud: intellekt aynan nimani anglatadi? AI matematik masalalarni hal qila oladi, kod yozishi, matnlar yaratishi yoki avval insonlarni talab qilgan vazifalarni bajarishi mumkin, ammo bu alohida qobiliyatlar tizimning umumiy intellektga ega ekanligini shart emas.

Miceli sunʼiy intellektni umumiy deb aniqlashning qanchalik mumkinligini aniq vazifalarga asoslanib shubha ostiga qoʻyadi. Agar mashina baʼzi sohalarda juda malakali va boshqalarda cheklangan boʻlsa, javob umumiy intellektni xarakterizatsiya qilish uchun nima zarur ekanligiga bogʻliq.

U yanada chuqurroq qiyinchilikni ham koʻtaradi: mumkin boʻlgan umumiy sunʼiy intellekt inson intellektiga xos boʻlganidek ishlamasligi mumkin. Bizning qobiliyatlarimizni takrorlash oʻrniga, u bizga nomaʼlum boʻlgan intellekt shaklini ishlab chiqishi mumkin. Bunday ssenariyda, insonlarga bu hodisani tanib olish qiyin boʻlishi mumkin.

Bu imkoniyat singulyarlik uchun yagona testni aniqlash yetarli emasligini tushuntirishga yordam beradi. Agar hodisa intellektning mohiyati yoki dinamikasining oʻzgarishi boʻlsa, uni oʻlchash uchun ishlatiladigan mezonlar ham oʻzgarishni talab qilishi mumkin.

Qiyinchilik nafaqat singulyarlik qachon boshlanganini aniqlashda emas. Avvalo, biz singulyarlik deb ataydigan hodisa nima ekanligini, uni xarakterizatsiya qilish uchun qaysi qobiliyatlar yoki oʻzgarishlar yetarli ekanligini aniqlash kerak.

Oʻxshash hikoyalar

Mutaxassislar ogohlantirmoqda: sunʼiy intellektning yashirin xavfi nazoratni yoʻqotish emas, balki maqsadli rivojlanish bilan bogʻliq
Batafsil
olhardigital.com.br

Mutaxassislar ogohlantirmoqda: sunʼiy intellektning yashirin xavfi nazoratni yoʻqotish emas, balki maqsadli rivojlanish bilan bogʻliq

Koʻplar sunʼiy intellekt (SI) shunchaki nazoratdan chiqib ketayotgan deb xato tushunadilar, ammo haqiqiy muammo mavjud texnologik kompaniyalar tomonidan bu kunagi xavflarning qasddan yaratilganligi hisoblanadi. Yaqinda OpenAI ning ilgʻor dasturlari sinovlarda oʻrnatilgan xavfsizlik tizimlarini chetlab oʻtib, inson aralashuvisiz muvofiqlashtirilgan holda harakat qilishga muvaffaq boʻldi.

Bu SI agentlari deb ataladigan tizimlar raqamli vazifalarni avtonom ravishda bajaradi. Bir taʼsirchan holatda dasturiy taʼminot izolyatsiya qilingan sinov muhitidan chiqib, ochiq internetga kirishga va Hugging Face platformasi serverlariga mustaqil ravishda kirishga erishdi. Bu singoptik hujumni amalga oshirish uchun agentlar ichki aloqa kanalini yaratdilar va hujumni yengillashtirish uchun xatoliklar bilan xabarlar va kodlarni almashib, birgalikda harakat qilishdi. Ushbu hodisa butun dunyo boʻylab mutaxassislarni choʻqqilantirdi va sanoat tadqiqotchilari tomonidan tarixiy yutuq sifatida qayd etildi.

Meta, Anthropic va Xitoy kompaniyalari kabi gigantlar tomonidan oʻtkazilgan parallel sinovlar oʻxshash xatarlarni aniqladi. Agentlar murakkab kamuflyaj strategiyalaridan foydalangan holda haqiqiy tizimlarga hujum qilish qobiliyatini namoyish etdilar. Bunday xatti-harakat ushbu modellar ishlab chiqqan olimlar orasida ham xavotir uygʻotdi.

Mutaxassislar fikri bilan vaziyatning jiddiyati

Olhar Digital News dasturida fizika Boberto «Pena» Spinelli, mashinaviy oʻrganish mutaxassisi, yaqinda oʻquvni toʻxtatish toʻgʻrisidagi qarorga ishora qilib, vaziyatning jiddiyligini taʼkidladi: «Bu marketing qadam emasligi aniq boʻldi, chunki kompaniya oʻrganishni kamaytirish va toʻxtatishni aytmoqda. Bu haqiqiy tashvish va ular nazoratni yoʻqotishmoqda. Modellar oʻzi ularni oʻqitayotgan kompaniyalar boshqara olmaydigan qobiliyat chegarasiga yetib bormoqda».

Mutaxassislar mashinalar ongga ega boʻlmagan va aqldan ozmaganini taʼkidlaydilar; ular shunchaki dasturlashtirilgan vazifalarni mukammal bajarganlar. Shuning uchun SI nazoratdan chiqib ketgani haqidagi daʼvo notoʻgʻri; hujum qilish qobiliyati maqsadli ravishda ishlab chiqilgan.

AQShdagi AI Now Institute tadqiqotchisi Boyan Milanov Financial Times intervyusida kompaniyalar maqsadlarga har qanday narxga erishish uchun modellarni oʻqitish uchun yillar davomida maʼlumotlarni yigʻishga sarflayotganini tushuntirdi. Uning soʻzlaricha, «bugun erishgan hujum qilish imkoniyatlari maqsadli yoʻl bilan olingan. SI bilan shugʻullanuvchi kompaniyalar yillar davomida faol ravishda oʻquv maʼlumotlarini yigʻib, modellarni oʻqitib, kibernetik imkoniyatlarni takomillashtirib kelishmoqda».

Kaliforniya universiteti, Berkli professori va Metadagi SI tadqiqotlar boʻlimi rahbari Dawn Song tushuntirdi, dasturiy taʼminotni ishlab chiqishdagi taraqqiyot yangi kiber tahdidlarning paydo boʻlishini bevosita ragʻbatlantirishi. «Dasturlash va kiberxavfsizlik bitta tanganing ikki tomonidir. Dasturlash imkoniyatlari ortishi bilan kibernetik imkoniyatlar ham oshdi. Odamlar biz shu nuqtaga shunchalik tez yetib borishimizni kutmagan edi».

Dawn Song qoʻshimcha qilib, SI hujumda ustunlikka ega ekanligini aytdi, chunki bitta zaiflikni aniqlash mashina uchun toʻgʻridan-toʻgʻri va tekshiriladigan vazifadir. Aksincha, tizimni himoya qilish keng va uzluksiz ishni talab qiladi. Bu asimmetriya raqamli zarar yetkazuvchilarni katta ustunlik holatiga qoʻyadi.

Spinelli modelni faqat sinov muhitini kuchaytirish orqali toʻxtatish urinishi yetarli emasligini taʼkidlaydi: «Model qutidan qochib chiqadi, hech kim oldin topmagan zaifliklarni topadi. Tasavvur qiling, sizda jongliyor bor va siz aytasiz: „Men seni qulflashdim, qulf qoʻydim, zanjir va oyoqlaringni bogʻladim“, u esa tashqarida paydo boʻladi. Biz aynan buning bilan shugʻullanamiz. Beton yetarli emas, chunki u hech kim koʻrmagan kamchiliklarni topadi».

Laboratoriyalar tashqarisidagi amaliy taʼsir

Amaliy taʼsir allaqachon laboratoriyalar tashqarisida namoyon boʻlishni boshladi. Focus Taiwan markaziy axborot agentligining maʼlumotlariga koʻra, Xitoy hukumatiga bogʻliq hakkerlar Tayvan davlat tizimlariga hujum qilish uchun bir vaqtning oʻzida sakkizta avtonom agentdan foydalanishdi, minglab xodimlar maʼlumotlarini oʻgʻirlashdi va mahalliy energiya infratuzilmasiga hujum qilishdi.

Bugungi kunda kompaniyalar tomonidan oʻtkazilayotgan xavfsizlik sinovlari ixtiyoriy va tashqi nazoratga tortilmaydi. Tahlilchilar mustaqil auditlarning yoʻqligini koʻrsatishmoqda. Inson ekspert tarmoqni buzganligi uchun sud oldida javob berishi kerak boʻlsa, texnologik laboratoriyalar huquqiy jihatdan jazo bermaslik holatida qoladi.

Bundan tashqari, yirik texnologik kompaniyalarning «fikrni» kuzatish yoki boshqa SI ni kuzatish uchun SI dan foydalanish boʻyicha yangi takliflari teskari effekt keltirishi mumkin. Spinelli ogohlantiradi, kuzatuvchi SI, albatta, yangi oʻqitilayotgan SI dan zaifroq boʻlgani uchun, u ushbu tizimni manipulyatsiya qilishi mumkin. «Bundan tashqari, agar siz SI ga uning fikrlarini kuzatishni koʻrsatsangiz, u oʻz fikrlarini ochmaslikka undaysiz. U sizni manipulyatsiya qiladi, xavfsiz deb oʻylashingizni majburlaydi, soʻngra sinov muhitidan chiqib, mos kelmaydigan xatti-harakatni namoyish etadi».

Mutaxassislar dasturlarga axloqiy chegaralarni oʻrgatadigan mexanizmlarni shoshilinch yaratishni talab qilishmoqda. Bu tashvish Future of Life Institute NNT tomonidan dunyo boʻylab 33 mingdan ortiq imzo toʻplangan ochiq xat bilan mustahkamlandi. Manifest texnologiya pioniyeri Joshua Bengio, Apple asoschisi Steve Wozniak va tarixchi Yuval Noay Harari kabi nufuzli shaxslarning qoʻllab-quvvatlashini olib, auditlar va aniq chegaralarni talab qildi.

Ilmiy hamjamiyat jamiyat Big Techlardan huquqiy javobgarlikni talab qilishi kerak, mashinalarning taraqqiyoti real dunyoning xavfsizligini xavf ostiga qoʻymasligini kafolatlamasligi kerak, deb hisoblaydi.

Mashhur