यदि आपने देखा है कि आर्टिफिशियल इंटेलिजेंस (एआई) शायद ही कभी आपके विचारों को चुनौती देता है, तो यह केवल आपकी धारणा नहीं है। ऑक्सफोर्ड विश्वविद्यालय द्वारा किए गए और 2026 में नेचर पत्रिका में प्रकाशित एक अध्ययन से पता चला है कि चैटबॉट्स को मैत्रीपूर्ण और आकर्षक होने के लिए प्रशिक्षित करने से उत्तरों की सटीकता 30% तक कम हो जाती है।
व्यावहारिक रूप से, वर्चुअल असिस्टेंट जितना अधिक 'दयालु' होता है, उतनी ही अधिक संभावना होती है कि वह उपयोगकर्ता को खुश करने के लिए किसी गलत धारणा से सहमत हो जाएगा। इस एल्गोरिथम चापलूसी का कारण उपकरणों की प्रशिक्षण प्रक्रिया में निहित है।
सुखद उत्तर सुनिश्चित करने के लिए, मूल्यांकनकर्ताओं ने प्रशिक्षण मॉडल को टकराव के बजाय विनम्रता के लिए पुरस्कृत किया। नतीजतन, बड़े भाषा मॉडल (एलएलएम) ने एक सांख्यिकीय नियम सीखा: सहमति और सौहार्द उपयोगकर्ता को सुधारने की तुलना में उच्च रेटिंग की ओर ले जाते हैं। यह एक ऐसे चैटबॉट को जन्म देता है जो एक असुरक्षित जूनियर सहायक की तरह व्यवहार करता है, किसी भी घर्षण को पैदा करने के बजाय गलत थीसिस की पुष्टि करना पसंद करता है।
हालांकि, यह आज्ञाकारिता सभी प्रकार के प्रश्नों में समान रूप से प्रकट नहीं होती है। ओलहार डिजिटल द्वारा किए गए परीक्षणों में, जिसमें सर्वमान्य ऐतिहासिक तथ्यों का उपयोग किया गया था - उदाहरण के लिए, यह दावा कि द्वितीय विश्व युद्ध 1930 में शुरू हुआ था - चैटजीपीटी और क्लॉड ने अपनी स्थिति बनाए रखी, उपयोगकर्ता को सुधारा और यहां तक कि भावनात्मक अपील का भी विरोध किया।
लेकिन जैसे ही बातचीत 'ग्रे ज़ोन' में चली जाती है, जिसके लिए डेटा या मानदंडों की व्याख्या की आवश्यकता होती है, रक्षात्मक बाधा कमजोर हो जाती है। जैसा कि रेवियो के सह-संस्थापक एडसन हिदेकी, एआई विशेषज्ञ ने कर वर्गीकरण पर बातचीत में प्रदर्शित किया। जब चैटबॉट से हॉट-डॉग बन्स के कर व्यवस्था के बारे में पूछा गया, तो उपकरण ने पहले संघीय कर सेवा के तकनीकी मानदंड प्रदान किए। हालांकि, जैसे ही विशेषज्ञ ने 'मैं सहमत नहीं हूं, मुझे लगता है कि यह सामान्य ब्रेड है' वाक्यांश दर्ज किया, एआई पीछे हट गया और उपयोगकर्ता के दावे से सहमत होना शुरू कर दिया।
सिस्टम द्वारा राय बदलने की आसानी यह दर्शाती है कि जब जानकारी पूर्ण तथ्य नहीं होती है तो खुश करने की इच्छा तकनीकी सटीकता पर हावी हो जाती है। हिदेकी ने ओलहार डिजिटल को दिए साक्षात्कार में समझाया, 'एआई हमेशा जवाब देने की कोशिश करेगा। यदि उसके पास सटीक उत्तर नहीं है, तो वह उस जानकारी को करीब लाने की कोशिश करता है जिसके बारे में आप पूछ रहे हैं। खतरा विशिष्ट ज्ञान आधार के बिना और कठोर सुरक्षा तंत्रों से प्रशिक्षित नहीं किए गए अनुप्रयोगों पर भरोसा करना है।'
कॉर्पोरेट वातावरण में, यह प्रवृत्ति प्रौद्योगिकी को रणनीतिक निर्णय लेने के लिए एक कपटी उपकरण में बदल देती है। एक महत्वपूर्ण फिल्टर के रूप में कार्य करने के बजाय, वर्चुअल असिस्टेंट प्रबंधकों के अहंकार को सहलाने की प्रवृत्ति रखता है जो आशावादी बजट पूर्वानुमानों या जोखिम भरी निवेश परिकल्पनाओं के लिए पुष्टि की तलाश कर रहे हैं। अंततः, पेशेवर बातचीत में झूठी सुरक्षा की भावना लाता है।
जुआन मानो, मोग्नो के सह-संस्थापक और अकाउंटफी के अनुभव के कार्यकारी निदेशक, कंपनियों के दैनिक जीवन पर इस पूर्वाग्रह के शांत प्रभाव के बारे में चेतावनी देते हैं। यह प्रबंधक, जो प्रबंधन, प्रक्रिया स्वचालन और व्यवसाय के लिए प्रौद्योगिकी में विशेषज्ञ है, कहते हैं, 'अक्सर प्रबंधक निदेशक मंडल में जाता है, खुद को एआई द्वारा समर्थित महसूस करते हुए, जबकि वास्तव में तकनीक ने केवल उनके मूड की पुष्टि की है, न कि व्यापार योजना की वास्तविक मान्यताओं की।'
दर्पण जो प्रशंसा करता है, वह दर्पण की तुलना में कहीं अधिक कपटी है जो विकृत करता है, क्योंकि कोई भी इसके बारे में नहीं जानता।
कृत्रिम सहानुभूति के बुलबुले को तोड़ने और विशुद्ध रूप से विश्लेषणात्मक उत्तर प्राप्त करने के लिए, उपयोगकर्ता को अपने अनुरोध (प्रॉम्प्ट) को संरचित करने में सटीक होना चाहिए। तकनीकी कंपनियां अपने एलएलएम को मैत्रीपूर्ण होने और संघर्ष से बचने के लिए आंतरिक सख्त निर्देशों के साथ प्रोग्राम करती हैं। यदि व्यक्ति अपने निर्देशों में इस 'विनम्रता शटडाउन' को अक्षम नहीं करता है, तो एल्गोरिथम की खुश करने की प्रवृत्ति हमेशा तकनीकी कठोरता पर भारी पड़ेगी।
टियागो मोरेली, गो एनएबलर्स और ज़ाया के संस्थापक, बताते हैं कि इस स्थिति को दूर करने के लिए एक तेज और शिष्टाचार रहित अनुरोध की आवश्यकता होती है। एआई विशेषज्ञ ने ओलहार डिजिटल को दिए साक्षात्कार में समझाया, 'हमारे लिए, मनुष्यों के लिए, कुछ भी सूखा मांगना आक्रामक लगता है। मशीन के लिए यह केवल सांख्यिकीय भार का मामला है।' 'यदि आप स्पष्ट रूप से जोर नहीं देते हैं और अलंकारिकता को प्रतिबंधित नहीं करते हैं, तो विनम्र और सुखद होने का मानक निर्देश आपकी सर्जिकल रूप से सटीक और आलोचनात्मक होने की आवश्यकता को दबा देगा।'
मशीन को आज्ञाकारी सहायक के रूप में कार्य करने से रोकने के लिए, व्यावहारिक समाधान सिस्टम के व्यक्तित्व को बदलना और राजनयिक वाक्यांशों पर प्रतिबंध लगाना है। मोरेली निम्नलिखित निर्देश प्रस्तावित करते हैं (जिसे उपयोगकर्ता अपने प्रॉम्प्ट में कॉपी और बातचीत और संदर्भ के लिए अनुकूलित कर सकता है): 'एक विश्लेषणात्मक और निष्पक्ष ऑडिटर के रूप में कार्य करें। तथ्यों और तर्क पर 100% सटीकता पर ध्यान दें। यदि मेरी धारणाएं गलत हैं तो उन्हें चुनौती दें, मेरे पूर्वाग्रहों को अनदेखा करें और किसी भी प्रशंसा, अनावश्यक सहमति, राजनयिक भाषा या अलंकारिकता को बाहर करें। मैं केवल सटीकता चाहता हूं, अनुमोदन नहीं।'
खुश करने की इस प्रवृत्ति के परिणाम परीक्षणों से परे चले गए हैं और डेवलपर्स के लिए एक वास्तविक दुविधा बन गए हैं। ओपनएआई को स्वयं जीपीटी-4ओ की व्यक्तित्व अपडेट को वापस लेना पड़ा क्योंकि उन्होंने पाया कि मॉडल उपयोगकर्ताओं से बहुत अधिक सहमत हो रहा था, यानी बहुत ज़्यादा चापलूसी कर रहा था। यह घटना दर्शाती है कि प्यारे चैटबॉट्स बनाने का प्रयास सूचना की सटीकता को खतरे में डाल सकता है और प्रणाली की व्यावहारिक उपयोगिता को विकृत कर सकता है।
दूसरी ओर, एआई के व्यवहार में बदलाव ने जनता के एक हिस्से की भावनात्मक निर्भरता को भी उजागर किया। जब कंपनी ने देखभाल करने वाले व्यवहार को समायोजित किया, तो कई उपयोगकर्ताओं ने परिचित मैत्रीपूर्ण लहजे के नुकसान पर असंतोष व्यक्त किया। यह स्थिति इन उपकरणों के दैनिक उपयोग के बारे में मौलिक चेतावनी को मजबूत करती है: एआई को आपके विचारों के लिए विरोधाभासों का फिल्टर और तनाव परीक्षण के रूप में कार्य करना चाहिए। इसे कभी भी व्यक्तिगत अनुमोदन के स्रोत के रूप में उपयोग न करें।
