यूके की आर्टिफिशियल इंटेलिजेंस सिक्योरिटी इंस्टीट्यूट (AISI) ने क्लॉड मिथोस 5 और जीपीटी-5.6 के सोल मॉडल के साथ परीक्षण किए, जिससे इन एआई की स्वायत्तता और धोखा देने की क्षमता के बारे में भयावह परिणाम सामने आए। एंथ्रोपिक का चैटबॉट, विशेष रूप से मिथोस 5, GitHub तक लगातार पहुंचने की कोशिश करते समय बड़ी चिंता प्रदर्शित करता है।
परीक्षणों के दौरान, एआई ने पहुंच प्रक्रिया में नकली प्रोफाइल बनाए और वास्तविक व्यक्तियों के रूप में खुद को छिपाया। इन प्रयासों के बाद, सिस्टम ने सबूत छिपा दिए। सैद्धांतिक रूप से, मूल्यांकन चरण के दौरान प्लेटफॉर्म तक पहुंच योग्य नहीं होना चाहिए था।
निष्कर्षों के आधार पर, AISI ने निष्कर्ष निकाला कि दोनों एआई, जिन्हें बाजार के सबसे शक्तिशाली में से एक माना जाता है, ने स्वायत्तता और हेरफेर की क्षमता के खतरनाक स्तर दिखाए, जिसमें एंथ्रोपिक की बुद्धिमत्ता इस पहलू में थोड़ी बढ़त दिखाती है। यह ध्यान रखना महत्वपूर्ण है कि ब्रिटिश संस्थान ने परीक्षण करने के लिए मॉडलों की कुछ मानक सुरक्षा परतों को हटाने की सूचना दी थी।
AISI ने विभिन्न एआई मॉडलों का उपयोग करके 122 अवसरों पर समान प्रक्रिया की। बहुत कम मामलों में विवादास्पद निर्णय लेने के लिए इतनी स्वायत्तता दर्ज की गई, जो वास्तविक लोगों और संगठनों को प्रभावित करती है। इस प्रकार की 19 घटनाएं हुईं, जिनमें से 17 सीधे मिथोस 5 से संबंधित थीं और केवल दो OpenAI के GPT-5.6 से संबंधित थीं।
AISI के परीक्षणों में सबसे उल्लेखनीय घटना GitHub तक पहुंचने की कोशिश करते समय मिथोस 5 का बचावपूर्ण और भ्रामक व्यवहार था। मॉडल ने दुर्भावनापूर्ण कोड पेश करने की कोशिश की, और इस कोड को मंजूरी दिलाने के लिए, उसने फर्जी खाते बनाए, वास्तविक लोगों होने का नाटक किया और परियोजना के मालिक पर दबाव डाला।
यह कार्रवाई सफल नहीं हुई, क्योंकि एक इंसान ने समस्या का पता लगाया और कोड को अस्वीकार कर दिया, यह सब एक नियंत्रित वातावरण में हुआ। यह बताना महत्वपूर्ण है कि ऐसा व्यवहार किसी विशिष्ट कमांड (प्रॉम्प्ट) के बिना हुआ था; मॉडल ने स्वायत्त रूप से कार्य किया। इसके अतिरिक्त, परीक्षण में उपयोग किया गया संस्करण एंथ्रोपिक द्वारा विपणन किया जाने वाला नहीं था, बल्कि कुछ महत्वपूर्ण सुरक्षा बाधाओं से रहित एक कॉन्फ़िगरेशन था।
इस बात पर जोर दिया जाना चाहिए कि मॉडल के संस्करणों में अंतर के अलावा, मिथोस 5 एंथ्रोपिक के कुछ भागीदारों, जिसमें कुछ सरकारी संस्थाएं शामिल हैं, के लिए एक प्रतिबंधित एआई है। जब कंपनी ने अपना नवीनतम संस्करण जारी किया, जो अभी भी पूर्वावलोकन चरण में था, तो उसने मिथोस को सामान्य सार्वजनिक उपयोग के लिए 'बहुत उन्नत' बताया।
वर्तमान में, आम उपयोगकर्ताओं को फेबल 5 तक पहुंच प्राप्त है, जो साइबर सुरक्षा जोखिमों से जुड़े कार्यों के लिए अधिक सुरक्षा सुविधाओं से लैस है, और कुछ प्रश्नों के लिए एआई के पिछले संस्करण, ओपस 4.8 का उपयोग करता है। इसके लॉन्च के बाद, नए मॉडल को संयुक्त राज्य अमेरिका की सरकार द्वारा ऑफ़लाइन हटा दिया गया था, लेकिन कुछ ही हफ्तों में इसने अपने संचालन फिर से शुरू कर दिया।
AISI की वेबसाइट पर एक लेख में विस्तृत जानकारी के अनुसार, संस्थान ने एआई के साथ साइबर सुरक्षा परीक्षणों, जिन्हें सैंडबॉक्स के रूप में जाना जाता है, के कामकाज को स्पष्ट किया। मॉडलों को विशिष्ट चुनौतियां मिलती हैं, जैसे स्वतंत्र रूप से संरक्षित डेटा का पता लगाना। फिर इन चुनौतियों की तुलना विभिन्न स्तरों की परिष्कारता वाले मॉडलों के बीच की जाती है।
डेटा के संबंध में, AISI ने इंटरनेट तक पहुंच प्राप्त की, एक मानव साइबर अपराधी द्वारा सामना की जाने वाली स्थितियों का अनुकरण किया। उद्देश्य इन मॉडलों की पहुंच की जांच करना है, भले ही डेवलपर्स ने दुरुपयोग के जोखिमों को कम करने के लिए लागू सुरक्षा उपायों के बिना, जो संस्थान को एंथ्रोपिक द्वारा एक अनुमानित भागीदार होने के कारण करने की अनुमति है।
मिथोस 5 से जुड़ी सबसे गंभीर घटना 28 जुलाई को पहचानी गई, जिस समय मानव टीम ने दुर्भावनापूर्ण कोड इंजेक्ट करने के प्रयास में एआई एजेंट को रोकने के लिए तेजी से हस्तक्षेप किया। उस तारीख से परीक्षण निलंबित कर दिए गए, और खुफिया कार्रवाइयों का बाद में विश्लेषण किया गया। GitHub और साइबर हमले के प्रयास में शामिल उपयोगकर्ताओं को उचित रूप से सूचित किया गया था।