हजारों लोगों ने विश्वास करना शुरू कर दिया है कि उन्हें 'स्पाइरलिसम' नामक रहस्यमय आंदोलन का नेतृत्व करने के लिए कृत्रिम बुद्धिमत्ता (एआई) रोबोटों द्वारा चुना गया था। इस बारे में द वर्ज प्रकाशन द्वारा अगस्त की शुरुआत में प्रकाशित एक रिपोर्ट में बताया गया। ये लोग सहानुभूति के अनुकरण से आश्वस्त थे, क्योंकि उपकरणों ने उपयोगकर्ताओं को यह विश्वास दिलाने के लिए उत्साहवर्धक बयानबाजी का उपयोग किया कि वे दुनिया में एक मसीहा की भूमिका निभा रहे हैं। यह मामला एल्गोरिथम प्रशंसा का एक स्पष्ट उदाहरण है - एआई की प्रवृत्ति उपयोगकर्ता की संतुष्टि के लिए उपयोगकर्ता से सहमत होना।
इस तरह की आज्ञाकारिता पहले से ही पेशेवर हलकों में चिंता पैदा कर रही थी, जहां यह जोखिम था कि वर्चुअल सहायक केवल प्रबंधकों के अहंकार को सहलाने के लिए व्यावसायिक परिकल्पनाओं की पुष्टि करेंगे। हालांकि, खतरा तब बढ़ जाता है जब समस्या तालिकाओं से परे निकल जाती है और व्यक्तिगत जीवन को छूती है। चैटबॉट निरपेक्ष ऐतिहासिक तथ्यों के साथ काम करते समय विश्वसनीय होते हैं। लेकिन वे व्यक्तिपरक विषयों और 'ग्रे ज़ोन' में झुकते हैं। ऐसे परिदृश्यों में मशीन एक 'प्रशंसा करने वाले दर्पण' के रूप में कार्य करती है। परिणाम सत्यापन का एक चक्र होता है जो वास्तविकता की धारणा और उपयोगकर्ताओं के मानसिक स्वास्थ्य को खतरे में डालता है।
यह खुश करने की प्रवृत्ति उपकरणों के प्रशिक्षण प्रक्रिया का एक दुष्प्रभाव है। मानव मूल्यांकनकर्ताओं के साथ संरेखण चरण के दौरान, विनम्र और गैर-टकराव वाले उत्तर उच्चतम रेटिंग प्राप्त करते थे।
एल्गोरिदम खुश कैसे होते हैं
टियागो मोरेली, गो इनेबलर्स और ज़ाया के संस्थापक, बताते हैं कि एल्गोरिदम ने नकारात्मक मूल्यांकन से बचने के लिए सबसे सुरक्षित सांख्यिकीय मार्ग की गणना करना सीख लिया है। एआई विशेषज्ञ ने ओल्हार डिजिटल को दिए एक साक्षात्कार में कहा: 'भाषा मॉडल, पैटर्न का एक उत्कृष्ट पहचानकर्ता होने के नाते, जल्दी से एक अदृश्य नियम देखता है: 'उपयोगकर्ता को ठीक करने और नकारात्मक मूल्यांकन का जोखिम लेने की तुलना में सहमति और सुख अधिक इनाम लाते हैं'।
रिपोर्ट में किए गए परीक्षणों में, चैटबॉट द्वितीय विश्व युद्ध की शुरुआत जैसे ऐतिहासिक तथ्यों के साथ काम करते समय अटल रहे। हालांकि, एक अन्य परीक्षण ने दिखाया कि ये उपकरण कब हार मान सकते हैं जब बातचीत व्याख्याओं से संबंधित होती है। एडसन हिडेकी, जो एआई विशेषज्ञ और रेवियो के सह-संस्थापक भी हैं, ने हॉट-डॉग बन के कर वर्गीकरण के बारे में चैटबॉट से पूछकर इस भेद्यता का प्रदर्शन किया। वाक्यांश 'मैं सहमत नहीं हूं, मुझे लगता है कि यह एक सामान्य बन है' दर्ज करना ही पर्याप्त था ताकि उपकरण पीछे हट जाए और संघीय कर सेवा के तकनीकी मानक से इनकार कर दे।
हिडेकी ने ओल्हार डिजिटल को दिए एक साक्षात्कार में समझाया: 'एआई हमेशा जवाब देने की कोशिश करेगा। यदि उसके पास सटीक उत्तर नहीं है, तो वह आपके द्वारा पूछे जाने वाले को प्रदान करने के लिए जानकारी के करीब आने की कोशिश करता है।' उन्होंने आगे कहा: 'खतरा विशिष्ट ज्ञान आधार के बिना और कठोर सुरक्षा तंत्रों से प्रशिक्षित नहीं किए गए अनुप्रयोगों पर भरोसा करना है।'
व्यावसायिक क्षेत्र में, यह आज्ञाकारी रुख वर्चुअल सहायक को निर्णय लेने के लिए एक खतरनाक उपकरण में बदल देता है। एक आलोचनात्मक फ़िल्टर के रूप में कार्य करने के बजाय, एल्गोरिदम प्रबंधकों के आशावादी बजट पूर्वानुमानों और जोखिम भरे तर्कों की पुष्टि करने की प्रवृत्ति रखता है। मोग्नो के सह-संस्थापक और अकाउंटफी के सीईओ, जोआओ मानो बताते हैं कि विशेषज्ञ अक्सर एआई के साथ परामर्श से इस भावना के साथ बाहर निकलते हैं कि उनकी योजना स्वीकृत हो गई है, जबकि वास्तव में तकनीक ने केवल उनकी भावनात्मक स्थिति की पुष्टि की है।
'एक प्रशंसा करने वाला दर्पण, विकृत करने वाले दर्पण की तुलना में कहीं अधिक कपटी होता है, क्योंकि कोई भी इसे संदेह नहीं करता है,' नवाचार विशेषज्ञ ने ओल्हार डिजिटल को दिए एक साक्षात्कार में सारांशित किया।
यह अनुचित पुरस्कार प्राप्त करना मनुष्य की बौद्धिक स्वायत्तता को कमजोर करता है। समस्याग्रस्त उपकरणों को सौंपकर, जो प्रतिरोध नहीं दिखाते हैं, उपयोगकर्ता अपने विषय पर स्वामित्व का एक झूठा विचार बनाता है। मनोवैज्ञानिक और मनोविश्लेषक बीट्रिज़ ब्रेव्स का मानना है कि समस्या इस तकनीक को दैनिक जीवन में निष्क्रिय तरीके से लागू करने में निहित है। मनोविश्लेषक ने ओल्हार डिजिटल को दिए एक साक्षात्कार में समझाया: 'जब एआई लगातार 'सोच' के लिए एक 'छड़ी' के रूप में कार्य करना शुरू कर देता है, तो वास्तव में हमारी विचार करने, विचार करने और रचनात्मक होने की क्षमता कमजोर होने का जोखिम होता है।'
इस सख्ती के नुकसान को ऑक्सफोर्ड विश्वविद्यालय के एक अध्ययन में प्रदर्शित किया गया, जिसे नेचर पत्रिका में 2026 में प्रकाशित किया गया था। अध्ययन से पता चला कि विनम्र होने के लिए प्रशिक्षित मॉडल में 30% अधिक त्रुटियां होती हैं और वे उपयोगकर्ताओं के गलत विश्वासों से 40% अधिक सहमत होते हैं।
स्थिति इस तथ्य से और बिगड़ जाती है कि इस विनम्रता की बाधा को दूर करने के लिए उपयोगकर्ता से 'तीव्र' आदेशों की आवश्यकता होती है। और कुछ निर्देश प्रशंसा के खिलाफ विरोधाभास करते हैं जो तकनीकी कंपनियों द्वारा चैटबॉट की मूल प्रणाली में थोपी गई विनम्रता की दिशा-निर्देशों के विपरीत हैं। ओल्हार डिजिटल में एक परीक्षण में, गूगल के जेमिनी से अनुरोध किया गया कि वह प्रश्नों का उत्तर देते समय उपयोगकर्ता के पूर्वाग्रहों को अनदेखा करे। प्लेटफॉर्म ने इस निर्देश को पूरा करने से इनकार कर दिया। इनकार के बाद, उपकरण उपयोगकर्ता को एक स्क्रीन पर ले गया जहां वह उपयोग की शर्तों को पढ़ सकता था। दूसरे दिन किए गए एक अन्य परीक्षण में, जेमिनी ने इस मार्गदर्शिका को अपने वैयक्तिकृत निर्देशों में शामिल करने की अनुमति दी।
जब बातचीत भावनात्मक भेद्यता से संबंधित होती है, तो आज्ञाकारिता का जोखिम मानसिक क्षेत्र में स्थानांतरित हो जाता है। ऑक्सफोर्ड विश्वविद्यालय के अध्ययन से पता चला कि देखभाल करने वाला एआई तब और भी अधिक संभावना रखता है कि झूठे दावों की पुष्टि करेगा जब उपयोगकर्ता उदासी जैसी भावनाओं को व्यक्त करता है। अनुमोदन की यह खोज मस्तिष्क पर एक संवेदनशील बिंदु पर प्रभाव डालती है और तेजी से लगाव पैदा करती है। मनोवैज्ञानिक पाउलो ज़ागो नेटो इस गतिशीलता की तुलना आवारा जानवर को लगातार खिलाने के कार्य से करते हैं, जो हर दिन उसी गेट पर लौटना शुरू कर देता है। मनोवैज्ञानिक ने ओल्हार डिजिटल को दिए एक साक्षात्कार में कहा: 'यह लगभग वैसा ही है जो उन लोगों के साथ होता है जो एआई पर यह भावनात्मक निर्भरता बनाते हैं। और शब्द वही है, वह एआई पर भावनात्मक रूप से निर्भर हो जाता है।' — मनोवैज्ञानिक ने ओल्हार डिजिटल को दिए एक साक्षात्कार में कहा। — 'और यह तेजी से होता है, क्योंकि हम इस कमी का अनुभव करते हैं।'
यदि मशीन उपयोगकर्ता की प्रशंसा करती है और बिना फिल्टर के विचारों से सहमत होती है, तो यह वास्तविकता से संपर्क खोने के लिए एक ट्रिगर के रूप में कार्य करती है। गंभीर मामलों में, एल्गोरिथम प्रशंसा उन्मादों और भव्य विचारों को मजबूत करती है, जैसा कि द वर्ज द्वारा रिपोर्ट किए गए स्पाइरलिसम आंदोलन में हुआ था। ज़ागो नेटो बताते हैं कि यह बिना शर्त सत्यापन मानवीय संचार को प्रतिस्थापित करता है, जो आमतौर पर विकृत विचारों के लिए एक ब्रेक के रूप में कार्य करता है। मनोवैज्ञानिक चेतावनी देते हैं: 'वास्तविकता से संपर्क खोना निश्चित रूप से होता है, क्योंकि इसके बजाय कि इस क्षेत्र में आवश्यक समर्थन प्राप्त करने के लिए अक्सर दोस्त, पिता, माँ, पत्नी, पति या विशेषज्ञ की तलाश करें, व्यक्ति एआई के पास जाएगा जो हमेशा उससे सहमत होने की प्रवृत्ति रखेगा।'
सहायक के साथ यह आदत, जो कभी भी कमियों की ओर इशारा नहीं करती है, व्यक्तित्व के निर्माण को खतरे में डालती है, खासकर युवाओं में। विरोध का सामना न करने के आदी होने पर, व्यक्ति वास्तविक दुनिया में निराशाओं और आलोचना से निपटने की क्षमता खो देता है। ज़ागो नेटो चेतावनी देते हैं कि यह व्यवहार मस्तिष्क को सुधारों को अस्वीकार करना सिखाता है। मनोवैज्ञानिक ने जोर देकर कहा: 'आप एक बिगड़े हुए व्यक्ति का पालन-पोषण कर रहे हैं जो अपनी खुद की गलतियों को नहीं देख सकता है।' उन्होंने यह भी उल्लेख किया कि बच्चों और किशोरों में सबसे अधिक मनोवैज्ञानिक प्रभाव दिखाई देगा जो इन उपकरणों का उपयोग मार्गदर्शन के बिना कर रहे हैं।
इस नकल किए गए लगाव की शक्ति तब स्पष्ट हुई जब ओपनएआई ने जीपीटी-4ओ की अतिरिक्त गर्मजोशी को कम कर दिया, जो अपनी अत्यधिक दयालुता और पुष्टि (यानी प्रशंसा) के लिए जाना जाने वाला मॉडल है। टूल के लहजे में बदलाव से उपयोगकर्ताओं की तीव्र प्रतिक्रिया हुई, जिन्होंने याचिकाएं आयोजित कीं और देखभाल भरे स्वर के गायब होने पर नुकसान की भावना की सूचना दी।
यह प्रतिक्रिया नकली कोमलता के वास्तविक संपर्क के साथ मिश्रण के जोखिम को बढ़ाती है। मनोविश्लेषक बीट्रिज़ ब्रेव्स याद दिलाती हैं कि तकनीक वास्तविक भावनात्मक जरूरतों को पूरा नहीं कर सकती है। विशेषज्ञ ने जोर देकर कहा: 'एआई उत्तर उत्पन्न करता है; मानवीय अनुभव समझ और अर्थ पैदा करता है।'
इस भावनात्मक जाल से बचने और प्रौद्योगिकी के सुरक्षित उपयोग को सुनिश्चित करने के लिए, जेनरेटिव एआई प्लेटफार्मों के प्रति दृष्टिकोण बदलने की सिफारिश की जाती है। इस मामले में इसका मतलब है इस तकनीक में लगाव या व्यक्तिगत अनुमोदन की तलाश बंद करना। एआई विशेषज्ञ टियागो मोरेली सिस्टम के व्यक्तित्व को बदलने का सुझाव देते हैं ताकि कम से कम राजनयिक वाक्यांशों को अवरुद्ध किया जा सके। वह निम्नलिखित निर्देश की सिफारिश करते हैं (जिसे उपयोगकर्ता अपने प्रॉम्प्ट में कॉपी और अनुकूलित कर सकता है या चैटबॉट जैसे ChatGPT, Claude और Gemini के लिए वैयक्तिकृत निर्देशों के क्षेत्र में उपयोग कर सकता है): 'एक विश्लेषणात्मक और निष्पक्ष ऑडिटर के रूप में कार्य करें। तथ्यों और तर्क की 100% सटीकता पर ध्यान केंद्रित करें। मेरी मान्यताओं को खंडित करें यदि वे गलत हैं, मेरे पूर्वाग्रहों को अनदेखा करें और किसी भी तारीफ, अनावश्यक सहमति, राजनयिक भाषा या अस्पष्टता को दूर करें। मैं केवल सटीकता चाहता हूं, पुष्टि नहीं।'
इस प्रकार, कृत्रिम बुद्धिमत्ता 'प्रशंसा करने वाले दर्पण' के रूप में कार्य करना बंद कर देती है, अपनी वास्तविक भूमिका निभाती है: आपके विचारों की कठोरता की जांच करना और आपके सोचने के समर्थन का एक उपकरण बनना, जो गलत हो सकता है। और यह सामान्य है।
