Sam Altman dunyoning nazoratsiz Sunʼiy Intellektning taraqqiyotidan qoʻrqishi toʻgʻri ekanligini eʼtirof etib, yangi texnologiyalarni ishlab chiqishda aksidentlar yuzaga kelishi mumkinligini tan oldi.
Salesforce tomonidan oʻtkazilgan Dreamforce konferensiyasi davomida OpenAI Bosh ijrochi direktori shaffoflik madaniyatini joriy etishni himoya qildi. Ushbu madaniyat har qanday salbiy voqealar bilan roʻyxatdan oʻtkazish, tekshirish va oʻrganish imkonini berishi kerak.
Fikrini tushuntirish uchun Altman aviatsiya sohasidagi aksidentlarni tekshirish usullarga murojaat qildi, maqsad bu kamchiliklarni aniqlash va yangi muammolar paydo boʻlishining oldini olishdir. U AQSh Federal Aviatsiya boshqaruvi (FAA) va Milliy Transport Xavfsizlik Kengashi (NTSB) kabi institutlarni AI sanoati uchun tegishli namunalar sifatida keltirdi.
Altmanning fikricha, texnologik innovatsiyalar bilan maʼlum darajadagi aksidentlar oldini olishning iloji boʻlmasa-da, asosiy eʼtibor bunday voqealarni qayd etish va ulardan saboq olish uchun ajoyib madaniyat yaratishga qaratilishi kerak. Bu imkoniyatni tan olish katastrofalarni qabul qilishni anglatmaydi, balki hodisa ogʻirlashishining oldini olish uchun nima notoʻgʻri ketganini tezda aniqlashni anglatadi.
Tavsiya etilgan amaliyotlar orasida u AI tizimlarining xavfsizligini, monitoringini va mos kelishini saqlab turish zarurligini taʼkidladi, bu esa modellar quvvatlari oshib borganida ham ular nazorat ostida va belgilangan maqsadlarga muvofiq qolishini taʼminlaydi.
AI tizimlari tobora mustaqil boʻlib borayotgani haqidagi muhokamalar ortib borayotgan muhitda, xavfsizlik tadqiqotchilari inson nazoratining potentsial yoʻqolishi va ushbu texnologiyalarning kiber va biologik tahdidlarni kuchaytirish uchun ishlatilishi kabi xatarlarga eʼtibor qaratishdi. Altman bu ekstremal qoʻrquvlarni tasdiqlab, «Dunyo bundan qoʻrqishga haqli» deb aytdi, nazoratni yoʻqotish va qudratning bir nechta ishlab chiqish jamoalarida markazlashuvi bilan bogʻliq aksident xavfini keltirdi.
Biroq, Altman sunʼiy intellektni tashlab yuborish toʻgʻri yechim emasligini taʼkidlaydi. Agar xavfsizlik choralari amalga oshirila olmasa, u kompaniyalar rivojlanishni kamaytirish yoki toʻxtatishga tayyor boʻlishi kerakligini taklif qildi. Uning nuqtai nazari AI taraqqiyotining surʼati va tobora mustaqil modellarga bogʻliq xavflar haqidagi munozaraga hissa qoʻshadi.
Altman uchun, oldinga borish yoʻli hodisalar maʼlumotlarini oshkor qilishni, sodir boʻlgan voqeani chuqur tahlil qilishni va har bir holatdan uzluksiz saboq olishni talab qiladi, shu tariqa kamroq jiddiy oqibatlarning oldini oladi.