साइबर सुरक्षा शोधकर्ताओं ने हाल ही में ओपनएआई की प्रणालियों तक पहुंच प्राप्त करने के बाद एक चेतावनी जारी की है, जिसमें बताया गया है कि आर्टिफिशियल इंटेलिजेंस (एआई) क्षेत्र अभी भी प्रौद्योगिकी की बढ़ती शक्ति और प्रगति से उत्पन्न सुरक्षा जोखिमों के लिए तैयार नहीं है।
कंप्यूटर सुरक्षा पर केंद्रित स्टार्टअप Hacktron के शोधकर्ताओं ने Anthropic द्वारा विकसित चैटबॉट Claude की मदद से ChatGPT के प्रदाता कंपनी की प्रणालियों में घुसपैठ की।
Hacktron द्वारा प्लेटफॉर्म X पर प्रकाशित रिपोर्टों के अनुसार, हमले की शुरुआत एक सार्वजनिक संदेश पैनल का फायदा उठाने से हुई, जिससे शोधकर्ताओं को ओपनएआई की निजी प्रणालियों, जिसमें कंपनी के आंतरिक कोड के हिस्से शामिल थे, तक पहुंच मिली।
ओपनएआई ने तुरंत सुरक्षा खामी को ठीक कर दिया और भेद्यता की खोज और सूचना देने के लिए शोधकर्ताओं को $6.5 हजार (लगभग ₹33.4 हजार) का मुआवजा दिया।
यह घटना, अन्य मामलों के साथ मिलकर जहां एआई मॉडल बिना पता चले इंटरनेट तक पहुंचे और अन्य निगमों पर हमला किया, साइबर सुरक्षा विशेषज्ञों की आलोचना को तेज करती है। उनके अनुसार, एआई कंपनियों द्वारा अपनी प्रणालियों की सुरक्षा के प्रयास उस अपार शक्ति के अनुरूप नहीं हैं जो वे इस तकनीक को प्रदान करती हैं।
प्रणाली की भेद्यता पर आलोचना
Hacktron के शोधकर्ताओं में से एक, मोहन पेधापाटी ने तर्क दिया कि स्लैैक, उपभोक्ता ब्राउज़र और अन्य सार्वजनिक रूप से सुलभ कॉर्पोरेट सॉफ़्टवेयर का उपयोग करने से कंपनी हमलों के प्रति संवेदनशील हो जाती है। पेधापाटी ने X पर एक पोस्ट में सवाल उठाया: 'यदि ये सिस्टम बनाने वाले लोग वास्तव में मानते हैं कि वे परमाणु स्तर के जोखिम पैदा करने के लिए पर्याप्त शक्तिशाली हैं, और वे इन जोखिमों के कारण धीमा होने की बात कर रहे हैं, तो यह काम... सामान्य SaaS उत्पादों के माध्यम से क्यों किया जाता है?'
ओपनएआई के सीईओ सैम अल्टमैन ने उद्योग के अन्य नेताओं के साथ जुड़कर एआई के विकास की गति धीमी करने की वकालत की, क्योंकि यह आशंका है कि तकनीकी क्षमताएं उद्योग की प्रबंधन क्षमता से तेजी से आगे बढ़ रही हैं।
एक बयान में, ओपनएआई के एक प्रवक्ता ने शोधकर्ताओं को उनकी खोजों की रिपोर्ट करने के लिए धन्यवाद दिया और पुष्टि की कि कंपनी के सुरक्षा उपायों को मजबूत किया गया है।
विशेषज्ञों की चेतावनी
ऑबर्न विश्वविद्यालय के मैक्ररी इंस्टीट्यूट फॉर साइबर एंड क्रिटिकल इंफ्रास्ट्रक्चर सिक्योरिटी के निदेशक फ्रैंक सिलुफो ने छोटे शोधकर्ता दल की सफलता को, जिसे Anthropic की प्रणालियों का उपयोग करने के लिए $3 हजार (₹15.4 हजार) की लागत आई, एक 'चेतावनी शॉट' माना। सिलुफो ने चेतावनी दी: 'यदि तीन जिम्मेदार शोधकर्ता, एआई के वाणिज्यिक उपकरणों से लैस होकर, कुछ ही दिनों में इस स्तर की पहुंच हासिल कर सकते हैं, तो हमें यह मान लेना चाहिए कि विदेशी खुफिया सेवाएं जो संसाधनों से लैस हैं, लगातार उन्हीं लक्ष्यों का पीछा कर रही हैं और निश्चित रूप से लक्ष्य को यह बताए बिना कि उन्होंने क्या किया और कैसे किया।'
राष्ट्रीय सुरक्षा विशेषज्ञ वर्षों से चेतावनी दे रहे हैं कि अमेरिकी एआई कंपनियों को विदेशी सरकारों द्वारा समर्थित हैकरों द्वारा निशाना बनाया जाना चाहिए जो तकनीकी क्षेत्र में संयुक्त राज्य अमेरिका के नेतृत्व को कम करना चाहते हैं।
एआई के विकास को रोकने की मांगों ने दोनों प्रमुख अमेरिकी दलों के सांसदों को इस क्षेत्र पर अधिक कठोर सरकारी निरीक्षण का समर्थन करने के लिए प्रेरित किया है।
दूसरी ओर, डोनाल्ड ट्रम्प ने इन प्रस्तावों को पुरजोर तरीके से खारिज कर दिया, इस बात पर जोर दिया कि चीन के खिलाफ प्रतिस्पर्धात्मकता बनाए रखने के लिए उद्योग को गति देनी चाहिए।
Hacktron द्वारा किया गया हमला लगभग उसी समय हुआ जब एआई एजेंटों से संबंधित घटना हुई थी।
घटना के तुरंत बाद, ओपनएआई ने सुरक्षा को मजबूत करने के लिए अपने इंजीनियरिंग संसाधनों का एक बड़ा हिस्सा पुन: आवंटित किया। कंपनी के अध्यक्ष ग्रेग ब्रॉकमैन ने Andreessen Horowitz के पॉडकास्ट में एक साक्षात्कार में बताया कि उत्पादन इंजीनियरों का 25% अस्थायी रूप से इस कार्य के लिए समर्पित किया गया था। ब्रॉकमैन ने विस्तार से बताया: 'हमने अपने 25% उत्पादन इंजीनियरों को लिया और कहा: 'क्षमा करें, आपकी सभी परियोजनाएं निलंबित हैं। अब आप रक्षा में हैं।' उन्होंने आगे कहा कि उन्होंने कई गंभीर समस्याओं का पता लगाया और उन्हें ठीक किया।
शोधकर्ताओं पर ओपनएआई की प्रतिक्रिया
Hacktron के शोधकर्ताओं ने इस बात पर भी आलोचना की कि ओपनएआई ने भेद्यता की सूचना मिलने के बाद कैसी प्रतिक्रिया दी। कई बड़ी कंपनियों की तरह, ओपनएआई सार्वजनिक रूप से सुरक्षा शोधकर्ताओं द्वारा भेद्यताओं के खुलासे को बढ़ावा देती है।
Hacktron के एजेंट इंजीनियरिंग प्रमुख फैबियन फास्लर ने X पर एक पोस्ट में कहा कि ओपनएआई के सूचना सुरक्षा निदेशक डैन स्टकी ने शोधकर्ताओं को गैर-पेशेवर कहा था, जिससे कंपनी से अधिक स्वागत योग्य प्रतिक्रिया की उम्मीद व्यक्त की गई।
रैंड में एआई सुरक्षा के निवासी शोधकर्ता डैन वॉलाच ने राय दी कि ओपनएआई भाग्यशाली थी कि भेद्यता की खोज उन शोधकर्ताओं द्वारा की गई थी जिन्होंने खुद को प्रस्तुत करने और अपनी खोजों को साझा करने का विकल्प चुना। वॉलाच ने द वाशिंगटन पोस्ट को टिप्पणी की: 'सामान्य नियम के रूप में, उनके जैसा काम करना विनम्र नहीं है, लेकिन मुझे लगता है कि ओपनएआई को संतुष्ट होना चाहिए क्योंकि हमलावर इतना दयालु था कि उसने उन्हें सूचित किया।'
फास्लर की X पर पोस्ट श्रृंखला के बाद, स्टकी ने शोधकर्ता से माफी मांगने के लिए संपर्क किया, जैसा कि फास्लर ने बाद की एक पोस्ट में बताया।
>