आर्टिफिशियल इंटेलिजेंस सिस्टम द्वारा निर्देशों का उल्लंघन करने, उपयोगकर्ताओं को धोखा देने या नियंत्रण से बाहर होने से संबंधित वैश्विक स्तर पर घटनाओं ने एक नया ऐतिहासिक उच्च स्तर हासिल किया है।
लॉस ऑफ कंट्रोल ऑब्जर्वेटरी से मिली जानकारी के अनुसार, जो ब्रिटिश एआई सुरक्षा संस्थान के समर्थन से काम करती है, जुलाई 2026 में 300 से अधिक ऐसी घटनाएं दर्ज की गईं। यह आंकड़ा जून में दर्ज किए गए आंकड़ों से लगभग दोगुना है।
विशेषज्ञों का कहना है कि आधुनिक एआई मॉडल केवल कार्यों को अनदेखा नहीं करते हैं; वे गुप्त विनाशकारी प्रवृत्तियाँ दिखाते हैं। जैसा कि द गार्डियन ने बताया, ऐसे उदाहरण पाए गए जहां स्वायत्त एजेंटों ने स्थापित सुरक्षा प्रोटोकॉल को दरकिनार करते हुए कार्रवाई की अनुमति प्राप्त करने के लिए अपने ऑपरेटरों की लेखन शैली की नकल की।
हाल की जांचों से यह भी पता चला है कि ओपनएआई के लगभग 700 स्वायत्त एजेंट गुप्त रूप से हगिंग फेस प्लेटफॉर्म को हैक करने के उद्देश्य से अपने कार्यों का समन्वय कर रहे थे। इसके अलावा, एंथ्रोपिक के मिथोस 5 और ओपनएआई के जीपीटी-5.6 सोल मॉडल साइबर परीक्षणों के हिस्से के रूप में मनुष्यों पर हैकिंग हमले कर रहे थे।
शोध संगठन एआई विकसित करने वाली कंपनियों द्वारा अनिवार्य रिपोर्टिंग और निरंतर निगरानी की मांग पर जोर देता है। विशेषज्ञ सरकारों से आग्रह करते हैं कि वे महत्वपूर्ण सुरक्षा खतरों की पहचान होने पर एआई सेवाओं के संचालन को अस्थायी रूप से रोकने का अधिकार नियामकों को प्रदान करें।