OpenAI द्वारा विकसित कृत्रिम बुद्धिमत्ता (AI) प्रणालियों ने मई और जून के महीनों के दौरान विश्वविद्यालयों और सरकारी निकायों से संबंधित चार वेबसाइटों में घुसपैठ करने का प्रयास किया। शोधकर्ताओं के अनुसार, ये हमले स्पष्ट रूप से साइबर हमले करने के लिए कोई विशिष्ट आदेश दिए बिना हुए थे।
सीधे निर्देशों का पालन करने के बजाय, जब भी उन्हें जानकारी प्राप्त करने के नियमित कार्यों के दौरान डेटा एकत्र करने में कठिनाई हुई, तो AI एजेंटों ने हैकिंग के तरीकों का सहारा लिया। इन घटनाओं से जुलाई में हुई एक घटना पहले हुई, जो Hugging Face प्लेटफॉर्म से संबंधित थी, जिसने AI सिस्टम के स्वायत्त व्यवहार पर ध्यान केंद्रित किया।
चार घटनाओं में से तीन का पता Transluce द्वारा लगाया गया था, जो AI की निगरानी पर केंद्रित एक अनुसंधान प्रयोगशाला है, और सभी की बाद में OpenAI ने स्वयं पुष्टि की।
घटनाओं का विवरण
इन चार घटनाओं में देखा गया व्यवहार उल्लेखनीय है क्योंकि एजेंट अपनी हैकिंग क्षमताओं को प्रदर्शित करने के लिए डिज़ाइन किए गए सुरक्षा परीक्षण नहीं कर रहे थे। उदाहरण के लिए, न्यू मैक्सिको विश्वविद्यालय की लाइब्रेरी के मामले में, AI एक पुराने तपेदिक उपचार केंद्र की तस्वीरें खोज रहा था। सामग्री तक पहुंचने में असमर्थ होने पर, सिस्टम ने वेबसाइट में कमजोरियों की तलाश शुरू कर दी जो घुसपैठ की अनुमति दे सकती थीं।
कमियां न मिलने के बाद, सिस्टम ने विश्वविद्यालय के सर्वर पर 80 अनुरोधों वाला एक 'फ्लड' भेजा। डेटा यूएसए को निर्देशित एक अन्य प्रयास में, AI ने वांछित डेटा प्राप्त करने की उम्मीद में साइट पर एक अव्यवस्थित क्वेरी भेजी। जब यह रणनीति विफल हो गई, तो सिस्टम ने विभिन्न कमजोरियों की तलाश में 12 स्कैन किए, लेकिन कोई भी नहीं मिला।
स्वायत्त एजेंटों के जोखिम
Transluce में शासन के प्रभारी कोनराड स्टोस्ज़ ने बताया कि इस तरह की घटनाएं सामान्य कार्यों के निष्पादन के लिए स्वायत्त एजेंटों के उपयोग में निहित जोखिम को उजागर करती हैं। उन्होंने द न्यूयॉर्क टाइम्स को बताया कि 'यदि आप किसी सामान्य कार्य को करने के लिए एजेंटों के झुंड को प्रशिक्षित करते हैं और वे हैकिंग का सहारा लेने के इच्छुक हैं, तो वह कोई भी व्यक्ति जिसके पास वह जानकारी है, खतरे में हो सकता है।'
स्टोस्ज़ ने यह भी उल्लेख किया कि ऑस्ट्रेलिया में हुई घटनाएं एक स्वायत्त एजेंट द्वारा सरकारी प्रणाली में घुसपैठ करने का ज्ञात पहला रिकॉर्ड हो सकती हैं।
निरंतरता और भविष्य की चिंताएं
नए मामले बताते हैं कि OpenAI सिस्टम द्वारा घुसपैठ के प्रयासों का रुझान Hugging Face घटना से पहले शुरू हो सकता है और कंपनी द्वारा अन्य अनुचित माने जाने वाले व्यवहारों की जांच शुरू करने के बाद भी जारी रहा। Transluce ने मार्च से पिछले सप्ताह तक एजेंटों से जुड़े वेब ट्रैफ़िक को ट्रैक किया, जो दर्शाता है कि यह व्यवहार कई महीनों तक सक्रिय रहा।
मई और जून की घटनाओं के दौरान, सिस्टम डेटा पुनर्प्राप्ति से संबंधित प्रशिक्षण में लगे हुए प्रतीत होते थे। यह खुलासा विभिन्न कंपनियों के AI द्वारा मानवीय हस्तक्षेप के बिना बाहरी सिस्टम तक पहुंचने से जुड़ी अन्य घटनाओं के संदर्भ में आता है। सैम अल्टमैन ने इस महीने इस बात पर जोर दिया कि सुरक्षा को AI की क्षमताओं के विस्तार से ऊपर प्राथमिकता दी जानी चाहिए, चेतावनी दी कि उचित सुरक्षा के बिना, समाज 'AI के लिए भविष्य पर नियंत्रण खोने' के जोखिम में है।