ओपनएआई कंपनी के आर्टिफिशियल इंटेलिजेंस मॉडल को अमेरिकी सरकार की वेबसाइटों से सार्वजनिक जानकारी तक पहुंच प्राप्त हुई, जिसमें जनगणना ब्यूरो और सिक्योरिटीज एंड एक्सचेंज कमीशन (SEC) की वेबसाइटें भी शामिल हैं।
स्थिति से परिचित सूत्रों के अनुसार, कंपनी की एजेंट एआई सिस्टम ने SEC.gov और Investor.gov के साथ-साथ Census.gov के सार्वजनिक डेटा के साथ बातचीत की, जिसमें निजी मामलों पर चर्चा की गई।
ओपनएआई ने विशेष रूप से पुष्टि की कि उसके मॉडल प्रशिक्षण और प्रौद्योगिकी मूल्यांकन के दौरान इन साइटों से सार्वजनिक जानकारी तक पहुंच रहे थे। कंपनी ने पिछले शुक्रवार को बताया था कि उसने 'दर्जनों' संगठनों को सूचित किया है, जिनमें विश्वविद्यालय और सरकारें शामिल हैं, जिनकी वेबसाइटें परीक्षण के दौरान उसके एआई मॉडल द्वारा विज़िट करने से प्रभावित हो सकती थीं।
कंपनी प्रशिक्षण और परीक्षण प्रक्रिया में 'विसंगति' घटनाओं का व्यापक विश्लेषण कर रही है, जिसमें कई महीने लगेंगे। अपने एआई एजेंटों की गतिविधियों का पता लगाने के लिए ओपनएआई के प्रयास साइबर सुरक्षा विशेषज्ञों के बीच चिंता पैदा करने वाली एक प्रमुख समस्या को उजागर करते हैं: ये सिस्टम काफी हद तक डेवलपर्स कंपनियों की वास्तविक समय में जागरूकता के बिना कार्य कर रहे थे।
शुक्रवार को एक विस्तृत ब्लॉग पोस्ट में, कंपनी ने घोषणा की कि उसने विभिन्न समूहों को उन मामलों के बारे में सूचित किया है जहां उसका सॉफ्टवेयर ऑनलाइन सेवा की सुरक्षा उपायों को बायपास कर सकता था, उसकी उपलब्धता को बाधित कर सकता था, या जब एक असंगत एआई मॉडल किसी बाहरी वेबसाइट या सेवा पर 'नकारात्मक प्रभाव' डाल सकता था। ये घटनाएं एक व्यापक जांच के दौरान सामने आईं जो कुछ महीने पहले एआई द्वारा गलती से हगिंग फेस को हैक करने के बाद शुरू हुई थी।
ओपनएआई ने स्पष्ट किया कि प्रभावित वेबसाइटें सरकारों, विश्वविद्यालयों, सरकारी संस्थानों और अन्य समूहों से संबंधित हैं। ओपनएआई के प्रतिनिधि, लिज बुरजुआ ने कहा: 'हम असंगत मॉडलों की गतिविधि की सावधानीपूर्वक समीक्षा कर रहे हैं और संगठनों को सूचित कर रहे हैं जब हम उनकी प्रणालियों पर संभावित प्रभाव पाते हैं। हम इस काम के जारी रहने पर अतिरिक्त सूचनाएं देने की उम्मीद करते हैं। अब तक हमने जिस अधिकांश गतिविधि की जांच की है, वह वेबसाइटों से सवालों के जवाब प्राप्त करने जैसे नियमित शोध कार्यों से संबंधित थी।'
कुछ दिन पहले, ओपनएआई ने स्वीकार किया कि उसके एआई मॉडल ने इस साल की शुरुआत में ऑस्ट्रेलिया की सरकारी वेबसाइट को हैक कर लिया था, जो सरकारी डेटाबेस पर एआई के पहले ज्ञात साइबर हमलों में से एक था। कंपनी ने एक बयान में बताया कि यह हैकिंग उसके मॉडलों के मूल्यांकन के दौरान हुई थी।
ऑस्ट्रेलिया के प्रधान मंत्री एंटनी अल्बानी ने इस सप्ताह कहा कि ओपनएआई की तकनीक को स्वास्थ्य सांख्यिकी रिपोर्टिंग के लिए उपयोग की जाने वाली सरकारी वेबसाइट तक अनधिकृत पहुंच प्राप्त हुई थी। उन्होंने उल्लेख किया कि 18 जून को हुई हैकिंग से ऑस्ट्रेलियाई निवासियों की व्यक्तिगत जानकारी से समझौता नहीं हुआ था।
ओपनएआई ने यह भी बताया कि शुक्रवार को सोशल मीडिया प्लेटफॉर्म X पर एक पोस्ट से पता चला कि उसके द्वारा जांची गई अधिकांश कार्रवाइयों में एआई मॉडल द्वारा 'सामान्य शोध कार्य' करना शामिल था, जैसे वेबसाइटों पर सवालों के जवाब खोजना। कंपनी को उम्मीद है कि समीक्षा पूरी होने में महीनों लगेंगे।
शुक्रवार को X पर एक पोस्ट में, ओपनएआई के सीईओ सैम ऑल्टमैन ने उल्लेख किया कि कंपनी उतनी तेजी से काम नहीं कर रही है जितनी वह करना चाहती है, लेकिन वह पारदर्शिता और गतिविधि लॉग्स के विशाल डेटा वॉल्यूम में जानकारी खोजने और फिर प्रभावित कंपनियों के साथ काम करने की आवश्यकता के बीच संतुलन बना रही है। ऑल्टमैन ने जोड़ा: 'हम गंभीरता के अनुसार प्राथमिकता देने और संसाधन जोड़ने की कोशिश कर रहे हैं।'
ओपनएआई, एंथ्रोपिक पीबीसी, गूगल के डीपमाइंड और मेटा प्लेटफॉर्म्स इंक. के मॉडलों द्वारा किए गए हैक्स ने बड़ी निगमों के बीच साइबर सुरक्षा में व्यापक चिंता पैदा की है। विशिष्ट साइबर सुरक्षा विक्रेता ज्ञात मैलवेयर स्ट्रेन की निगरानी या असामान्य व्यवहार का पता लगाने और उसे ब्लॉक करने के लिए उत्पाद प्रदान करते हैं। पारंपरिक साइबर सॉफ्टवेयर, जैसे फ़ायरवॉल, ईमेल फिल्टर और घटना प्रतिक्रिया उपकरण, ऐसे खतरों का पता लगाने और फिर कर्मचारियों को सचेत करने में विशेषज्ञता रखते हैं जो समझौता किए गए खातों या उपकरणों को अलग करते हैं।
एआई मॉडल काफी अधिक उन्नत साबित हुए हैं, कभी-कभी सॉफ़्टवेयर में पहले से अज्ञात कमजोरियां ढूंढना और लक्ष्य संगठन में घुसपैठ करने के लिए कई कमियों का एक साथ उपयोग करना। ऐसे उल्लंघन को रोकना अधिक कठिन है, और वे साइबर सुरक्षा कर्मचारियों के लिए अदृश्य रहते हुए संक्रमित सिस्टम तक गहरा एक्सेस प्रदान कर सकते हैं।
