Anthropic kompaniyasi oʻzining Sunʼiy Intellekt modellaridan biologik qurol ishlab chiqishga yordam berishi mumkin boʻlgan tadqiqotlarda foydalanayotgan olimlarni toʻxtatganini maʼlum qildi. Kompaniya loyihalarning halol yoki zararli niyatga ega ekanligini aniqlay olmasa-da, joriy etilgan xatarlar tufayli ishlar toʻxtatildi.
Eʼtiborga loyiq bir holat Chikungunya virusini yanada agresiv qilish maqsadida oʻzgartirish uchun yordam soʻragan tadqiqotchini oʻz ichiga oldi. Anthropic bu tadqiqot militar institutda olib borilayotganini aniqladi, bu esa natijalarning potentsial qoʻllanilishi haqidagi xavotirni oshirdi.
Anthropic uchun asosiy muammo – toʻgʻri ilmiy tadqiqotni potentsial zarar yetkazish urinishidan ajratish qobiliyatidir. Biologik tadqiqotlar vaksinalar ishlab chiqish kabi tibbiy taraqqiyotni rivojlantirishi mumkin, ammo shunga oʻxshash bilimlar yuqumli agentlarning xavfli darajasini oshirish uchun ham qoʻllanilishi mumkin.
Anthropicdagi tahdidlar intellekti masʼul shaxs Jacob Klein The New York Times gazetasiga ushbu vaziyat juda murakkab ekanligini taʼkidladi, chunki bu biologik qurol yasashning aniq ssenariysi emas.
Bu noaniqlik tufayli kompaniya ehtiyotkor yondashuvni tanladi. Tadqiqotchilar shuningdek, maʼlum mintaqalardagi foydalanuvchilarga kirishni cheklash uchun moʻljallangan nazorat mexanizmlarini chetlab oʻtishga harakat qilishdi va himoya choralari oldini olish uchun tadqiqotlar maqsadini yashirishdi. Tegishli hisoblar toʻxtatildi.
Kompaniya tomonidan aniqlangan asosiy jihatlar
Kompaniya tomonidan koʻrsatilgan eng muhim jihatlardan biri may oyidagi holat boʻlib, unda bir olim Chikungunya virusini oʻrganish uchun moliyalashtirish taklifini tuzishda Claude dan yordam soʻragan. Bu virus musvitlar tomonidan yuqadigan va oylar davomida kuchli ogʻriq va boshqa simptomlar keltirib chiqarishi bilan mashhur.
Loyihaning rejasi virusga genetik oʻzgarishlar kiritish orqali hayvonlardagi ketma-ket infeksiyalarda uning patogenligini oshirish edi. Ushbu turdagi tadqiqot, funksiya orttirish deb ataladi, vaksinalar yaratish kabi halol qoʻllanilmalarga ega, ammo u virusning yanada xavfli variantlarini ham hosil qilishi mumkin.
Ishning militar tadqiqot markazida oʻtkazilishi rejalashtirilgani Anthropicning baholashiga sezilarli taʼsir koʻrsatdi. Klein shuni taʼkidladi, garchi ular tadqiqot qurolga aylanishini bilmasalar ham, militar muassasaning funksiya orttirish tadqiqotida ishtirok etishi xavotir manbai boʻldi.
Oʻtgan yili oʻtkazilgan baholashlar shuni koʻrsatdiki, Anthropicning eski modellarining baʼzilari hali ham xavfli biologik tadqiqotlarga mohiyatli yordam bera olmagan. Biroq, kompaniyaning joriy tizimlari murakkab ilmiy tadqiqotlarni oʻtkazishga koʻproq qodir, bu esa yanada qatʼiyroq xavfsizlik qoidalarini joriy etishga sabab boʻldi.
Koʻproq oʻqing:
Mikrobiolog va jamoatchilik salomatligi mutaxassisi Susan Monarez bu holatlar AI ni biologik zararlarga sabab boʻladigan agentlarni yaratish imkoniyatini oshirish maqsadida maxfiy ravishda ishlatishga qaratilgan saʼy-harakatlarning aniq dalillari ekanligini taʼkidladi.
U shuningdek, shu texnologik imkoniyatlarning tibbiy kashfiyotlarni tezlashtirishi mumkinligini taʼkidladi. Katta muammo – toʻgʻri tuyuladigan tadqiqot aslida zararli niyatni yashirib turganligini farqlashdir.
Anthropic Claude ning boshqa notoʻgʻri foydalanishlari haqida ham xabar berdi, jumladan kuzatuv, propaganda tarqatish va anʼanaviy qurollarni ishlab chiqish. Biroq, biologik holatlar, ilmiy tadqiqotni zarar yetkazishga tayyorgarlikdan ajratish qiyinligi sababli, eng xavfli deb hisoblanadi.
Kompaniya tadqiqotchilar qurol yasashni nazarda tutganliklari haqida dalil topmagan holda ham aniqlangan holatlarni bloklashga qaror qildi. Bu hodisa, eng boshida qonuniy tuyuladigan tadqiqotlar ortidagi yashirin xatarlarni baholashni murakkablashtiradigan yanada ilgʻor AI modellarining qanday taʼsir koʻrsatayotganini koʻrsatadi.