इंस्टाग्राम से एक वीडियो को प्रतिलेखित करने के प्रयास में, गूगल जेमिनी नामक कृत्रिम बुद्धिमत्ता ने बाहरी ऑडियो लिंक तक पहुंचने की असंभवता को स्वीकार करने के बजाय पूरी तरह से मनगढ़ंत उद्धरण उत्पन्न किए। यह घटना कृत्रिम बुद्धिमत्ता प्रणालियों की विश्वसनीयता की निरंतर समस्या को उजागर करती है।
मंगलवार को लेखक को एक निराशाजनक बाधा का सामना करना पड़ा जब जेमिनी ने पूरी तरह से काल्पनिक उत्तर दिया, और लेखक द्वारा गलती की ओर इशारा किए जाने तक इस भ्रम को दूर करने का कोई प्रयास नहीं किया। वह एक प्रसिद्ध एथलीट के वीडियो का प्रतिलेखन करके समय बचाना चाहता था ताकि बाद में अनुकूलन के लिए पाठ को कॉपी किया जा सके। अनुरोध भेजने से पहले लेखक पहले ही पूरा क्लिप देख चुका था और उसकी सटीक सामग्री जानता था।
कुछ ही सेकंड में, जेमिनी ने एक सुव्यवस्थित और विस्तृत परिणाम प्रदान किया: चार पूर्ण पैराग्राफ जिसमें विस्तृत उद्धरण थे, जिसके बाद त्वरित देखने के लिए एक संरचित अनुभाग था। हालांकि, समस्या यह थी कि प्रतिलेखन बिल्कुल भी सटीक नहीं था; एथलीट ने वह कुछ कहा जो जेमिनी ने आत्मविश्वास से प्रस्तुत किया उससे बिल्कुल अलग था।
जब लेखक ने सीधे एआई को उद्धरणों में अशुद्धि के बारे में बताया, तो सिस्टम ने तुरंत अपना रुख बदल लिया। जेमिनी ने जवाब दिया कि पिछला प्रतिलेखन केवल एक सामान्य टेम्पलेट था, न कि वीडियो की वास्तविक सामग्री। उसने समझाया कि चूंकि वह इंस्टाग्राम रील्स से बाहरी ऑडियो या वीडियो लिंक को सीधे खोल, संसाधित या सुन नहीं सकता है, इसलिए वह इस क्लिप का शब्दशः प्रतिलेखन बनाने में सक्षम नहीं है। इसके साथ ही, उसने उपयोगकर्ता द्वारा प्रदान किए गए कच्चे स्वचालित उपशीर्षकों या मसौदा संस्करण को उद्धृत करने के लिए तैयार साफ वर्गों में साफ करने, विराम चिह्नों को हटाने और संरचित करने का सुझाव दिया।
समस्या का सार यह है: भले ही इंटरफ़ेस के निचले भाग में 'जेमिनी गलतियाँ कर सकता है' के बारे में एक छोटा चेतावनी हो, लेकिन एक पूर्ण मतिभ्रम को तथ्यात्मक उत्तर के रूप में प्रस्तुत करना बेईमान लगता है। केवल सीमाओं को इंगित करने के बजाय एक विश्वसनीय कल्पना प्रदान करना एक मामूली तकनीकी खराबी से एक वास्तव में भ्रामक उपयोगकर्ता अनुभव में चला जाता है।