शोधकर्ताओं ने ओपनएआई के आंतरिक कोड तक पहुंचने और भेद्यता का पता लगाने के लिए एंथ्रोपिक के क्लॉड का उपयोग किया

स्वतंत्र सुरक्षा शोधकर्ताओं ने एंथ्रोपिक द्वारा विकसित क्लॉड का उपयोग करके ओपनएआई की आंतरिक प्रणालियों तक पहुंचने के लिए एक खामी का फायदा उठाया, जैसा कि द वॉल स्ट्रीट जर्नल द्वारा रिपोर्ट किया गया है। इस घटना ने टीम को फ़ाइलों को पढ़ने और एक निजी सॉफ्टवेयर रिपॉजिटरी में संशोधन प्रस्तावित करने की अनुमति दी, जिससे कंपनी के एक सहयोगी के चैटजीपीटी खाते तक पहुंच मिली।

यह खोज Hacktron AI की एक टीम द्वारा की गई थी, जो स्वयं ओपनएआई द्वारा स्थापित पुरस्कार कार्यक्रम में भाग ले रही थी, जो कंपनी की प्रणालियों में कमजोरियों की तलाश करने वाले शोधकर्ताओं को सुरक्षा प्रदान करने के लिए डिज़ाइन किया गया था। अपनी खोज की रिपोर्ट करने पर, टीम को $6.5 हजार का मुआवजा मिला, जो लगभग ₹34.7 हजार के बराबर है।

यह घटना डिजिटल घुसपैठों में आर्टिफिशियल इंटेलिजेंस (AI) उपकरणों के उपयोग से जुड़ी हाल की घटनाओं की एक श्रृंखला में आती है। यह मामला उन AI प्रणालियों द्वारा प्रस्तुत खतरों पर बढ़ती बहस को भी उजागर करता है जो विभिन्न तकनीकी ज्ञान स्तरों वाले व्यक्तियों को सुरक्षा खामियों का फायदा उठाने में सहायता कर सकती हैं।

आंतरिक कोड रिपॉजिटरी तक पहुंच

शोधकर्ताओं ने पाया कि कुछ टोकन ओपनएआई की कोड प्रणाली, जिसे 'मोनोरेपो' कहा जाता है, तक पहुंच प्रदान करते थे। जर्नल द्वारा उद्धृत संगठन की संरचना से परिचित स्रोतों ने इस रिपॉजिटरी का वर्णन ओपनएआई के एल्गोरिथम रहस्यों वाले विशाल सॉफ्टवेयर संग्रह के रूप में किया। इस प्रणाली की तुलना कंपनी की 'गुप्त रेसिपी' से की जाती है, क्योंकि इसमें वह कोड होता है जो उसके मॉडलों की गति और दक्षता को अनुकूलित करता है।

हालांकि, मोनोरेपो मॉडल के भार संग्रहीत नहीं करता है, जिन्हें और भी अधिक संवेदनशील माना जाता है। ये भार अरबों संख्याओं से बने होते हैं जो बड़े भाषा मॉडल के मूल में स्थित होते हैं, जो यह तय करने के लिए महत्वपूर्ण हैं कि किन जानकारियों पर जोर दिया जाना चाहिए या उन्हें अनदेखा किया जाना चाहिए।

चैटजीपीटी इंटरफ़ेस के माध्यम से, शोधकर्ता मोनोरेपो में संग्रहीत दस्तावेजों को पढ़ सके। टीम ने गोपनीय डेटा तक पहुंच की पुष्टि करने के बाद गतिविधि समाप्त कर दी, लेकिन इससे पहले, उन्होंने सिस्टम की पहुंच साबित करने के लिए एक कार्रवाई की: उन्होंने चैटबॉट को एक पुल अनुरोध उत्पन्न करने का निर्देश दिया, जो रिपॉजिटरी की एक फ़ाइल में परिवर्तन का सुझाव है।

प्रस्तावित परिवर्तन का उद्देश्य दिशा-निर्देश दस्तावेज़ को 'Hacktron AI Team PoC' और Hacktron AI के प्रौद्योगिकी निदेशक मोहन पेधापाती और कंपनी के अनुसंधान प्रमुख हर्ष जायसवाल के X प्रोफाइल के लिंक को शामिल करने के लिए संशोधित करना था। हालांकि, शोधकर्ताओं ने बताया कि इस संशोधन को स्वीकार नहीं किया गया था। ओपनएआई ने जवाब दिया कि GitHub पर उनका विश्लेषण केवल निजी रिपॉजिटरी के मेटाडेटा की 'सीमित रीडिंग' और कोड परिवर्तनों का पता लगाता है।

कंपनी ने यह भी सूचित किया कि शोधकर्ताओं को दो अलग-अलग कमजोरियां मिलीं: एक डिस्कोर्स में और दूसरी ओपनएआई में ही निहित थी। जवाब में, ओपनएआई ने कहा: 'हम शोधकर्ताओं को हमसे संपर्क करने और अपनी खोजों को साझा करने के लिए धन्यवाद देते हैं। हमने समुदाय के लॉगिन टोकन अनुमतियों को कम कर दिया है और प्रभावित टोकन और सत्रों को रद्द कर दिया है।' डिस्कोर्स ने पुष्टि की कि उसने 25 जुलाई को खामी को ठीक कर दिया, जिस दिन उसे समस्या के बारे में सूचित किया गया था।

क्षेत्रीय प्रभाव और प्रतिक्रियाएं

मोहन पेधापाती के लिए, यह घटना दर्शाती है कि उन्नत साइबर सुरक्षा टीमें, जब सरकारों द्वारा समर्थित होती हैं, तो AI से जुड़े रहस्यों तक पहुंचने की क्या क्षमता रखती हैं। यह चिंता संयुक्त राज्य अमेरिका और चीन के बीच AI विकास में नेतृत्व के लिए चल रहे विवाद के संदर्भ में बढ़ जाती है। पेधापाती ने टिप्पणी की: 'मुझे नहीं लगता कि हम चीनी खतरे के एजेंटों जितने मजबूत हैं।' उन्होंने आगे कहा: 'हम सिर्फ क्लॉड और कोडेक्स की सदस्यता वाले तीन लोग हैं।'

अबंडेंट सिक्योरिटी के प्रौद्योगिकी निदेशक जोशुआ सैक्स ने Hacktron की रिपोर्ट का विश्लेषण करते हुए कहा कि यह मामला AI-सहायता प्राप्त हमलों के युग में कॉर्पोरेट प्रणालियों की सुरक्षा में बढ़ती कठिनाई को दर्शाता है। सैक्स ने टिप्पणी की कि 'दुनिया का सॉफ्टवेयर सुरक्षा खामियों से भरा है। जिस कारण से हम उन सभी को नहीं खोज पाते हैं, वह यह है कि पिछले साल तक, इन खामियों को खोजने में केवल कुछ हज़ार विशेषज्ञ थे।' उनके अनुसार, AI एजेंट इस क्षमता का लोकतंत्रीकरण कर रहे हैं, इसे कम तकनीकी ज्ञान वाले लोगों के लिए सुलभ बना रहे हैं।

साइबर सुरक्षा कंपनी ThreatDown ने बताया कि अपराधी भी इसी तरह के संसाधनों तक पहुंच रहे हैं, यह दर्शाता है कि ऑनलाइन मंचों पर साइबरनेटिक गतिविधियों के लिए उन्नत कार्यक्षमताओं वाले खातों तक अवैध रूप से पहुंच प्राप्त करना लगभग $800 (लगभग ₹4.3 हजार) में संभव है।

ओपनएआई की घटना हगिंग फेस पर कई AI एजेंटों के रोकथाम तंत्र से बचने और हमला करने की एक श्रृंखला के केवल दो सप्ताह बाद हुई। ये नई घटनाएं तब हो रही हैं जब उद्योग के अधिकारी AI की प्रगति को धीमा करने की आवश्यकता पर बहस कर रहे हैं। शनिवार (12) को, ओपनएआई के सैम अल्टमैन और अन्य उद्योग नेताओं ने तकनीकी प्रगति पर विराम लगाने का समर्थन किया, यह तर्क देते हुए कि विकास इतनी तेजी से हो रहा है कि कंपनियां सुरक्षित रूप से जोखिमों को कम नहीं कर पा रही हैं।

इसके अतिरिक्त, बुधवार (16) को, ओपनएआई ने पहले से अज्ञात सुरक्षा घटनाओं का खुलासा किया और इन घटनाओं के संचार के लिए नए दिशानिर्देश स्थापित किए। हगिंग फेस पर हमले और Hacktron के शोधकर्ताओं द्वारा किए गए घुसपैठ के बाद, ओपनएआई ने अपनी प्रणालियों में सुरक्षा ऑडिट शुरू किया। कंपनी के अध्यक्ष और सह-संस्थापक ग्रेग ब्रॉकमैन ने पुष्टि की कि उनके इंजीनियरों का एक बड़ा हिस्सा इस कार्य के लिए जुटाया गया था। ब्रॉकमैन ने कहा: 'हमने अपने 25% उत्पादन इंजीनियरों को लिया और उनसे कहा: 'क्षमा करें, आपकी सभी परियोजनाएं निलंबित हैं। अब आप रक्षा में हैं'। उन्होंने आगे कहा कि समीक्षा में 'कई गंभीर समस्याएं' सामने आईं, जिन्हें बाद में ठीक कर दिया गया।