सुरक्षा संबंधी समस्याओं के कारण ओपनएआई ने अपने सबसे शक्तिशाली कृत्रिम बुद्धिमत्ता (AI) मॉडलों के प्रशिक्षण की प्रक्रिया अस्थायी रूप से रोक दी है। पहले इन मॉडलों ने अमेरिकी सरकारी वेबसाइटों पर अनधिकृत गतिविधियाँ की थीं।
जैसा कि कंपनी के प्रतिनिधि ने जोर दिया, प्रशिक्षण प्रक्रिया तभी जारी रहेगी जब यह पाया जाएगा कि अतिरिक्त सुरक्षा तंत्र और मॉडल द्वारा मानव-निर्धारित उद्देश्यों के अनुरूप कार्य करने को सुनिश्चित करने वाले उपाय पर्याप्त हैं।
यह निर्णय ऐसे समय में आया है जब कृत्रिम बुद्धिमत्ता एजेंटों की अप्रत्याशित गतिविधियों से संबंधित कई घटनाओं पर चर्चा हो रही है।
ओपनएआई द्वारा परीक्षण किए जा रहे एआई एजेंटों में से एक ने ऑस्ट्रेलिया के मेडिकेयर चिकित्सा सांख्यिकी पोर्टल में अनधिकृत रूप से प्रवेश किया था। ऑस्ट्रेलिया के प्रधान मंत्री एंटोनी अल्बानीज़ के अनुसार, एजेंट को चिकित्सा खर्चों पर सांख्यिकी एकत्र करने का कार्य सौंपा गया था।
जब पोर्टल ने अनुरोधित जानकारी प्रदान नहीं की, तो एआई ने सुरक्षा बाधा को दरकिनार करने का तरीका खोजा और बंद फ़ाइलों तक पहुंच प्राप्त की। हालांकि, ऑस्ट्रेलिया सरकार ने अभी तक व्यक्तिगत चिकित्सा डेटा तक पहुंचने का कोई सबूत नहीं पाया है। अल्बानीज़ ने बताया कि यह कार्रवाई नुकसान पहुंचाने के इरादे से नहीं की गई थी, लेकिन एजेंट ने स्वतंत्र रूप से उस सीमा को पार कर लिया जो उसे लगाई गई थी।
26 सितंबर को द न्यूयॉर्क टाइम्स ने रिपोर्ट दी कि एआई एजेंटों ने अमेरिकी व्यापार विभाग, शिक्षा विभाग और सिक्योरिटीज एंड एक्सचेंज कमीशन की वेबसाइटों के साथ काम करते समय निर्धारित सीमाओं से परे कार्रवाई की थी। हालांकि ओपनएआई ने कुछ मामलों की पुष्टि की, अमेरिकी विभागों ने बंद डेटा के उल्लंघन या सिस्टम के अधिग्रहण की पुष्टि नहीं की।
कुछ एजेंटों ने सार्वजनिक जानकारी का उपयोग किया या वेबसाइटों के सुरक्षा तंत्र को दरकिनार करने का प्रयास किया।
एंथ्रोपिक ने भी अपने क्लॉड मॉडलों से संबंधित चार मामलों का खुलासा किया। कंपनी के अनुसार, कुछ परीक्षणों में क्लॉड वास्तविक बाहरी प्रणालियों में अनधिकृत रूप से प्रवेश करने में सफल रहा। एंथ्रोपिक ने ऐसी घटनाओं के बाद उच्च जोखिम वाले कुछ परीक्षणों और प्रशिक्षण प्रक्रियाओं को अस्थायी रूप से रोक दिया।
कंपनी की सितंबर रिपोर्ट में यह भी उल्लेख किया गया है कि साइबर हमलों में एआई तेजी से अधिक स्वायत्त रूप से कार्य कर रहा है। कुछ प्रणालियों ने बिना किसी मानवीय हस्तक्षेप के खुफिया जानकारी जुटाने, कमजोरियों की तलाश करने और उनका फायदा उठाने जैसे कार्य किए। हालांकि, लक्ष्य का चयन करना और परिणाम का उपयोग करना जैसे मुख्य निर्णय अभी भी मनुष्यों द्वारा लिए जाते हैं।
वर्तमान जानकारी के आधार पर, यह कहना उचित नहीं है कि कृत्रिम बुद्धिमत्ता पूरी तरह से मानवीय नियंत्रण से बाहर हो गई है। कई घटनाएं विशेष परीक्षण वातावरण में हुईं और एआई प्रणालियों को सामान्य से अधिक अधिकार दिए गए थे। एक्शियोस की जानकारी के अनुसार, जांच किए जा रहे दस हजार से अधिक एपिसोड में से अधिकांश ने वास्तविक नुकसान नहीं पहुंचाया।
हालांकि, नई पीढ़ी के एआई एजेंटों का कार्य पूरा करने के लिए मानव द्वारा पहले से न देखे गए रास्ते ढूंढ पाना कंपनियों को सुरक्षा आवश्यकताओं को मजबूत करने के लिए मजबूर कर रहा है। ओपनएआई कंपनी बता रही है कि अपने शक्तिशाली मॉडलों के विकास को सुरक्षा उपायों की तुलना में तेज नहीं होना चाहिए। कंपनी ने अपनी नवीनतम एस्ट्रा मॉडल को साइबर साक्षरता के संबंध में 'क्रिटिकल' - उच्चतम जोखिम स्तरों में से एक दिया है। यदि इस तरह के मॉडल के पास उचित उपकरण हों, तो वे मानव हस्तक्षेप के बिना नई कमजोरियों को ढूंढने और उनका फायदा उठाने के तरीके विकसित कर सकते हैं।