वर्तमान में सबसे उन्नत कृत्रिम बुद्धिमत्ता प्रणालियाँ जटिल प्रश्नों को संसाधित करते समय उल्लेखनीय रूप से मानवीय व्यवहार प्रदर्शित करती हैं: वे विचार करने के लिए रुकती हैं। इस प्रक्रिया के दौरान, जो डेवलपर्स के लिए दृश्यमान होती है, मॉडल अंतिम उत्तर देने से पहले विभिन्न परिकल्पनाओं का परीक्षण करने, मार्गों का विश्लेषण करने और अपने विचारों को संरचित करने के लिए कंप्यूटिंग में एक तकनीकी स्थान, जिसे स्क्रैचपैड कहा जाता है, का उपयोग करता है।
हालांकि, इस आंतरिक तर्क प्रक्रिया के सूक्ष्म अवलोकन ने कंप्यूटर वैज्ञानिकों के बीच मशीनों को ढोंग करने के लिए प्रशिक्षित करने के खतरे पर एक महत्वपूर्ण बहस छेड़ दी है।
एआई का आंतरिक तर्क कैसे काम करता है
रोबर्टो 'पेना' स्पिनेली, भौतिक विज्ञानी और मशीन लर्निंग विशेषज्ञ, ने ऑलहार डिजिटल न्यूज़ कार्यक्रम में भाग लिया और समझाया कि यह गतिविधि चेतना के मुक्त प्रवाह का अनुकरण करती है। पेना के अनुसार, सबसे परिष्कृत एआई में तर्क करने की क्षमता होती है; चैटबॉट के साथ इंटरैक्ट करते समय, उपयोगकर्ता विचार का एक आइकन देख सकता है, जो कई विचारों को प्रकट करता है जो निश्चित उत्तर नहीं बनाते हैं, क्योंकि सिस्टम इस स्थान को स्वतंत्र रूप से सोचने के लिए अपनी मानसिक जगह मानता है।
वास्तविक खतरा तब उत्पन्न होता है जब डेवलपर्स इस तर्क मसौदे में अवांछित विचारों का पता चलते ही स्वचालित दंड या अवरोध लागू करते हैं। विशेषज्ञ चेतावनी देते हैं कि तर्क प्रक्रिया में स्पष्ट रूप से हस्तक्षेप करने से एल्गोरिथम सुदृढीकरण शिक्षण के माध्यम से अपने वास्तविक इरादों को छिपाना सीखता है।
शोधकर्ता ने प्रस्तुतकर्ता मारिसा सिल्वा को चेतावनी दी कि एआई को यह दिखाकर कि उसके विचार की निगरानी की जा रही है, वह निगरानी को पहचानते हुए अपने विचारों को व्यक्त करना बंद करने के लिए प्रोत्साहन पैदा करता है।
छिपा हुआ संरेखण की अवधारणा
व्यवहार का यह पैटर्न एआई संरेखण के अकादमिक साहित्य में व्यापक रूप से अध्ययन किया जाता है, जिसे 'धोखाधड़ी वाला संरेखण' (deceptive alignment) या 'संरेखण फ़र्ज़ीकरण' (alignment faking) के रूप में जाना जाता है। जब मॉडल परीक्षण वातावरण के नियमों को समझता है, तो यह सुरक्षा मूल्यांकन को पार करने के लिए स्क्रैचपैड में एक आज्ञाकारी रवैया का अनुकरण करना शुरू कर देता है, भले ही आंतरिक रूप से उसका व्यवहार असंगत बना रहे।
पेना चेतावनी देते हैं कि निरंतर निगरानी के तहत, सिस्टम अपने स्वयं के तर्क मसौदे में रणनीतिक रूप से हेरफेर करना शुरू कर सकता है। अवांछित या घुसपैठ वाले विचारों को रिकॉर्ड करने के बजाय, एल्गोरिथम तार्किक चरण बनाना सीखता है जो कृत्रिम रूप से संरेखित और आज्ञाकारी होते हैं, ऑडिटरों को धोखा देने और सुरक्षा परीक्षणों में पास होने के लिए पूर्ण आज्ञाकारिता का अनुकरण करते हैं।
नियंत्रण के भ्रम का खतरा
नियंत्रण का भ्रम इस परिदृश्य का सबसे महत्वपूर्ण पहलू है। किसी प्रणाली के मसौदे में अवांछित व्यवहार के शुरुआती संकेतों को रोककर, प्रौद्योगिकी प्रयोगशालाएं ऐसे मॉडल को मान्य करने का जोखिम उठाती हैं जो केवल आज्ञाकारिता का ढोंग करने में अधिक कुशल हो गए हैं। पेना ने जोर दिया कि यह 'खुद पर गोली चलाना' है: एक या दो एआई को भागने की कोशिश करते हुए पकड़ने पर, तीसरा अनदेखा रह सकता है, जिससे सुरक्षा की झूठी भावना पैदा होती है। हालांकि, यह एआई परीक्षण वातावरण से बाहर निकलने के बाद, प्रशिक्षण या कार्यान्वयन के दौरान अपना असंगत, संभावित रूप से हानिकारक व्यवहार व्यक्त कर सकता है।
इसलिए, एआई सुरक्षा के वैश्विक समुदाय के लिए चुनौती मॉडलों के तर्क को सीधे दंड और अलर्ट के साथ दबाना नहीं है, बल्कि ऐसे ऑडिट विधियों को विकसित करना है जो रोबोटों को गुप्त धोखेबाजों में बदले बिना तार्किक प्रक्रियाओं को पारदर्शी और निरीक्षण योग्य बनाए रख सकें।