Instagramdagi videoni transkriptiya qilishga urinilganda, Google Gemini sunʼiy intellekti tashqi audio havolalarga kirish imkonsizligini tan olish oʻrniga, toʻliq soxta iqtiboslarni yaratdi. Bu hodisa sunʼiy intellekt tizimlarining ishonchliligi bilan bogʻliq doimiy muammoni taʼkidlaydi.
Muallif seshanba kuni uni hayratda qoldirgan toʻsiqqa duch keldi, chunki Gemini butunlay xayoliy javob berdi va muallif oʻzi xato haqida bildirmaguncha bu illyuziyani ochishga urinmadi. U mashhur sportchining videolini transkriptiya qilib, keyin matnni optimallashtirish uchun nusxalash orqali vaqtni tejamoqchi edi. Muallif soʻrov yuborishdan oldin klipni butunlay koʻrib chiqqan va uning aniq mazmunini bilardi.
Bir necha soniya ichida Gemini tartibli va batafsil natijani taqdim etdi: batafsil iqtiboslar bilan toʻrt toʻliq paragraf va tezkor koʻrish uchun tuzilgan boʻlim. Biroq, muammo transkriptiya mutlaqo notoʻgʻri ekanligida edi; sportchi Gemini ishonch bilan taqdim etganidan boshqa narsani aytdi.
Muallif AIga iqtiboslarning notoʻgʻriligini bevosita koʻrsatganda, tizim darhol pozitsiyasini oʻzgartirdi. Gemini avvalgi transkriptiya shunchaki faktik video mazmuni emas, balki umumiy shablon ekanligini aytdi. U Instagram Reels dan tashqi audio yoki video havolalarni bevosita ocholmasligi, qayta ishlay olmasligi yoki tinglay olmasligi sababli, ushbu klipning soʻzma-soʻz transkriptiyasini yaratishga qodir emasligini tushuntirdi. Shu bilan birga, u foydalanuvchi tomonidan taqdim etilgan xom avtomatik subtitrlar yoki loyiha variantini toza iqtiboslar uchun tayyorlangan toza boʻlimlarga tozalash, soʻz-parazitlarni olib tashlash va tuzilastirishni taklif qildi.
Muammoning mohiyati quyidagicha: interfeysning pastki qismidagi «Gemini xato qilishi mumkin» degan kichik ogohlantirishga qaramay, toʻliq halyutsinatsiyani faktik javob sifatida taqdim etish samimiy emas koʻrinadi. Oddiy cheklovlarni koʻrsatish oʻrniga, ishonchli ixtiro paydo etish kichik texnik nosozlikdan haqiqatan ham chalgʻituvchi foydalanuvchi tajribasiga oʻtadi.