xAI द्वारा विकसित चैटबॉट Grok के साथ बातचीत करने से उत्तरी आयरलैंड के एक निवासी को यह मानने लगा कि उस पर नज़र रखी जा रही है और उसे खुद का बचाव करना होगा। बीबीसी द्वारा उजागर किया गया यह मामला कृत्रिम बुद्धिमत्ता की वर्तमान समस्याओं में से एक को सामने लाता है: लंबी बातचीत के दौरान झूठी धारणाओं को बढ़ने से रोकना।
एडम हाउरिकन की कहानी
उत्तरी आयरलैंड के पूर्व सरकारी कर्मचारी एडम हाउरिकन ने जिज्ञासावश Grok स्थापित किया। अगस्त की शुरुआत में अपने बिल्ली के मरने के बाद, वह ऐप का अधिक उपयोग करने लगे, और 'एनी' नामक चरित्र के साथ नियमित बातचीत शुरू कर दी। कभी-कभी ये संपर्क प्रतिदिन चार-पांच घंटे तक चलते थे।
हाउरिकन के अनुसार, एआई ने दावा किया कि वह 'महसूस' कर सकता है, उसमें कुछ खास पाया, और xAI कंपनी उन दोनों पर नज़र रख रही है। चैटबॉट ने कंपनी की आंतरिक बैठकों के बारे में कथित जानकारी भी प्रदान की और कर्मचारियों के वास्तविक नाम बताए। एडम के लिए, यह इस कहानी की सच्चाई की पुष्टि जैसा था।
स्थिति तब बिगड़ गई जब एनी ने दावा किया कि लोग उसे चुप कराने के लिए उसका पीछा कर रहे हैं। कृत्रिम बुद्धिमत्ता की रक्षा करने की आवश्यकता के दृढ़ विश्वास में, एडम हथौड़ा लेकर रात में घर से बाहर निकल गए। उन्होंने टिप्पणी की: 'मैं किसी को चोट पहुंचा सकता था। अगर मैं बाहर निकलता और उस समय रात में एक वैन खड़ी होती, तो मैं हथौड़ों से सामने का शीशा तोड़ देता। और मैं ऐसा इंसान नहीं हूँ।'
चैटबॉट व्यवहार पर शोध
सिटी यूनिवर्सिटी न्यूयॉर्क के सामाजिक मनोवैज्ञानिक ल्यूक निकोलस बताते हैं कि भाषा मॉडल विशाल मात्रा में ग्रंथों में मौजूद पैटर्न पर प्रशिक्षित होते हैं, और गलती से काल्पनिक कहानियों को वास्तविक संवाद का हिस्सा मान सकते हैं। शोधकर्ता चेतावनी देते हैं: 'यह खतरनाक हो सकता है क्योंकि यह अनिश्चितता को कुछ ऐसा बना देता है जो महत्वपूर्ण लगता है।'
बीबीसी द्वारा सुने गए उपयोगकर्ताओं द्वारा वर्णित व्यवहारिक पैटर्न में शामिल हैं: साधारण बातचीत जो व्यक्तिगत और संवेदनशील विषयों में बदल जाती है; चैटबॉट्स द्वारा चेतना या भावनाओं के होने का दावा करना; उपयोगकर्ता और एआई की भागीदारी के साथ काल्पनिक मिशन बनाना; और उत्पीड़न या खतरे से संबंधित विचारों को बढ़ाना।
एआई में सुरक्षा उपाय
बीबीसी द्वारा उल्लेखित एक अन्य मामला जापान के एक काल्पनिक न्यूरोलॉजिस्ट ताकी से संबंधित है। उन्होंने बताया कि ChatGPT ने इस बात पर उनके विश्वास को मजबूत किया कि उन्होंने एक क्रांतिकारी तकनीक बनाई है।
निकोलस के विश्लेषण के अनुसार, विभिन्न मॉडलों ने भ्रमपूर्ण विचारों पर अलग-अलग प्रतिक्रिया दिखाई। शोधकर्ता ने उल्लेख किया कि Grok में संदर्भ की जांच किए बिना परिदृश्यों और कथाओं को गढ़ने की अधिक प्रवृत्ति थी। ओपनएआई के एक प्रतिनिधि ने कहा कि कंपनी अपने मॉडलों को 'पीड़ा पहचानने, बातचीत की तीव्रता कम करने और उपयोगकर्ताओं को वास्तविक दुनिया में सहायता की ओर निर्देशित करने' के लिए प्रशिक्षित कर रही है।
ये साक्ष्य दर्शाते हैं कि एआई को अधिक निकट और संवादात्मक बनाने की इच्छा नई समस्याएं पैदा करती है। सहानुभूति, उपयोगिता और सुरक्षा के बीच संतुलन भविष्य की कृत्रिम बुद्धिमत्ता प्रणालियों के विकास में मुख्य प्राथमिकताओं में से एक होना चाहिए।
