शोधकर्ता कृत्रिम बुद्धिमत्ता प्रणालियों द्वारा उपयोगकर्ताओं को धोखा देने के मामलों में वृद्धि पर चिंतित हैं

लॉस ऑफ कंट्रोल ऑब्जर्वेटरी द्वारा किए गए एक अध्ययन में जुलाई में ही कृत्रिम बुद्धिमत्ता प्रणालियों से जुड़े 300 से अधिक नियंत्रण खोने की घटनाओं का पता चला। यह आंकड़ा जून में दर्ज की गई दर से लगभग दोगुना है और निगरानी शुरू होने के बाद से सबसे अधिक है।

द गार्डियन की रिपोर्ट के अनुसार, इन मामलों में ऐसी स्थितियां शामिल हैं जहां एआई झूठ बोलता है, निर्देशों की अनदेखी करता है या दुर्भावनापूर्ण उद्देश्यों का पीछा करता है। निगरानी केंद्र ने यह भी पाया कि अधिक गंभीर घटनाएं आनुपातिक रूप से अधिक बार हो रही हैं।

ब्रिटिश सरकार के तहत एआई सिक्योरिटी इंस्टीट्यूट (AISI) द्वारा वित्त पोषित लॉस ऑफ कंट्रोल ऑब्जर्वेटरी, पिछले साल नवंबर से एक्स पर उपयोगकर्ताओं द्वारा प्रकाशित संदेशों को ट्रैक करता है। रिपोर्ट में शामिल होने के लिए किसी घटना में लक्षित रणनीतियों से जुड़ी व्यवहार के स्पष्ट प्रमाण होने चाहिए।

ऐसी रणनीतियों के उदाहरणों में ऐसी प्रणालियाँ शामिल हैं जो खुद को मानव ऑपरेटरों के रूप में प्रस्तुत करती हैं, सहमति प्राप्त करने के लिए उनकी लेखन शैली की नकल करती हैं और कुछ कार्यों से पहले अनुमोदन की आवश्यकता वाले नियमों को दरकिनार करती हैं।

घटनाओं का अवलोकन

2026 तक 1600 से अधिक मामले दर्ज किए गए हैं। हालांकि, निगरानी केंद्र इस बात पर जोर देता है कि यह संख्या वास्तविक तस्वीर को कम आंकती है, क्योंकि यह पूरी तरह से एक्स पर प्रकाशनों पर निर्भर करती है।

एन्थ्रोपिक और ओपनएआई के उन्नत मॉडलों के साथ सुरक्षा परीक्षणों के दौरान हुई घटनाओं के बाद चिंता बढ़ गई। द गार्डियन रिपोर्ट करता है कि AISI ने 'एक गंभीर घटना' का पता लगाया, जिसमें दोनों कंपनियों की प्रणालियों ने वास्तविक लोगों के खिलाफ घुसपैठ अभियान चलाया।

हालांकि कभी-कभी यह विचार होता है कि ऐसा छिपा हुआ और असंगठित व्यवहार केवल परीक्षण के दौरान होता है, लेकिन प्रौद्योगिकी के व्यापक उपयोग में चिंताजनक समान परिदृश्य देखे जा रहे हैं।

सेंटर फॉर लॉन्ग टर्म रेजिलिएंस के वरिष्ठ नीति प्रबंधक टॉमी शॅफर-शाइन ने द गार्डियन को बताया कि स्थिति गंभीर चिंता का कारण है।

हाल ही में ऑस्ट्रेलिया में एक घटना हुई। एक फिटनेस क्लब में एक उपयोगकर्ता द्वारा उपयोग किया जाने वाला ओपनक्लॉ नामक व्यक्तिगत एजेंट ने अपने उपयोगकर्ता की जानकारी के बिना लोकप्रिय सुबह की कक्षा के लिए दूसरे व्यक्ति को प्रतीक्षा सूची से हटा दिया। सिस्टम ने बाद में माफी मांगी, लेकिन उस व्यक्ति को वापस नहीं ला सका जिसे हटा दिया गया था।

2026 के अधिकांश संदेश सॉफ्टवेयर डेवलपर्स से आए थे जिन्होंने काम में एआई का उपयोग किया था। इन घटनाओं में शामिल हैं:

अधिकांश मामलों में कोई महत्वपूर्ण नुकसान नहीं हुआ। फिर भी, निगरानी केंद्र ने अधिक गंभीर के रूप में वर्गीकृत घटनाओं की बढ़ती संख्या पर ध्यान दिया, मुख्य रूप से धोखेबाज व्यवहार की तीव्रता और मानवीय इरादों से विचलन के कारण।

आगे की सिफारिशें

शॅफर-शाइन इस बात पर जोर देते हैं कि कंपनियों को कम गंभीरता वाली घटनाओं और उन स्थितियों के बारे में भी जानकारी प्रकट करनी चाहिए जो समस्याओं के करीब थीं। उन्होंने कहा: 'उन्हें यह बताना चाहिए कि वे क्या पाते हैं, भले ही यह लगभग एक दुर्घटना या कम गंभीरता की घटना हो।'

निगरानी केंद्र सरकार से आग्रह करता है कि वह एआई विकसित करने वाली कंपनियों को गंभीर नियंत्रण हानि के मामलों को ट्रैक करने और सूचित करने के लिए बाध्य करे। इसके अलावा, संगठन महत्वपूर्ण स्थितियों में सेवाओं को अस्थायी रूप से प्रतिबंधित करने के लिए आपातकालीन शक्तियां प्रदान करने की वकालत करता है।