OpenAI का नया AI मॉडल, GPT-6 Cyber, सॉफ़्टवेयर में सैकड़ों सुरक्षा खामियों का पता लगाता है

OpenAI के पेशेवरों ने लंबे समय से कंपनी की आंतरिक प्रणालियों में सुरक्षा कमजोरियों के बारे में प्रशासन को सूचित किया है। रॉयटर्स द्वारा रिपोर्ट किए जाने के अनुसार, ये खामियां बाहरी व्यक्तियों, जिनमें विदेशी सरकारें भी शामिल हैं, को आर्टिफिशियल इंटेलिजेंस (एआई) की प्रगति पर महत्वपूर्ण डेटा तक पहुंचने की अनुमति दे सकती हैं।

इन शिकायतों को अधिकारियों और बोर्ड के संज्ञान में लाया गया था। कुछ सहयोगियों ने निष्कर्ष निकाला कि संगठन गूगल और एंथ्रोपिक जैसे दिग्गजों के साथ प्रतिस्पर्धा करने के लिए विकास की गति को अधिक प्राथमिकता दे रहा था, जिससे सुरक्षा की उपेक्षा हो रही थी।

OpenAI की प्रथाओं से परिचित पांच लोगों ने बताया कि कोड तक पहुंच रखने वाले कर्मचारी विभिन्न परियोजनाओं का विवरण देख सकते थे। ऐसा इसलिए होता था क्योंकि कोड का एक बड़ा हिस्सा एक ही रिपॉजिटरी, जिसे मोनोरेपो के रूप में जाना जाता है, में केंद्रित था।

OpenAI ने स्वयं घोषणा की है कि उसने संवेदनशील कार्यों तक पहुंच पर प्रतिबंध लागू किया है और इसके महत्वपूर्ण हिस्सों को अलग-अलग रिपॉजिटरी में रखा जाता है। कंपनी ने स्पष्ट किया कि मुख्य रिपॉजिटरी में संपूर्ण कोड या मॉडल वज़न नहीं होते हैं।

चिंताओं में आवधिक सुरक्षा ऑडिट की कमी भी शामिल थी। तीन स्रोतों ने संकेत दिया कि कर्मचारियों द्वारा किए गए संशोधनों को हमेशा आंतरिक उपकरणों के माध्यम से सत्यापित नहीं किया जाता था।

एक विशिष्ट घटना ने जोखिमों के एक अन्य पहलू को उजागर किया। 13 अक्टूबर को, अमेरिकी न्याय विभाग ने अब्दुल रहमान अलफोज़ान, OpenAI के इंजीनियर को, कार्यकारी बैठक कक्ष में एक टिश्यू रोल में रिकॉर्डर छिपाने का आरोप लगाते हुए हिरासत में लेने की घोषणा की।

न्यायिक दस्तावेजों से पता चला कि उन्होंने सऊदी अरब की यात्राओं और मंत्रियों के साथ संभावित मुलाकातों के बारे में जानकारी ट्रैक करने के लिए एक आंतरिक एआई टूल का उपयोग किया था। अलफोज़ान का संपर्क एक सऊदी शाही परिवार के सदस्य से था जिसने उन्हें भर्ती करने की कोशिश की थी।

प्रणाली सुरक्षा से संबंधित चिंताओं के जवाब में, OpenAI ने अपनी सुरक्षा बुनियादी ढांचे को भी मजबूत किया है। हालांकि, रणनीतिक जानकारी की सुरक्षा की समस्याएं अन्य एआई कंपनियों को भी प्रभावित करती हैं।

जनवरी में, एक संघीय जूरी ने चीन के पक्ष में कंपनी के तकनीकी रहस्यों की चोरी के लिए गूगल के एक पूर्व कर्मचारी को दोषी ठहराया। अक्टूबर के अंत में, कैथेड्रल सिस्टम्स नामक स्टार्टअप ने एंथ्रोपिक की प्रणालियों में घुसपैठ करने और मॉडल पर स्लैक वार्तालापों तक पहुंचने का दावा किया, जिससे ग्राहकों और भागीदारों के संपर्क के साथ-साथ खातों के मूल रिकॉर्ड जैसे डेटा प्राप्त हुआ।

ऐसी घटनाएं क्षेत्र में खुली अनुसंधान संस्कृति पर बहस को तेज करती हैं। OpenAI में, सहयोगियों ने सवाल करना शुरू कर दिया है कि क्या जानकारी साझा करना रणनीतिक प्रौद्योगिकियों की सुरक्षा के अनुरूप है।

2023 में, लियोपोल्ड एस्चेनब्रेनर, जो उस समय कंपनी के शोधकर्ता थे, ने चीनी घुसपैठ के खतरे पर एक ज्ञापन लिखा। यह दस्तावेज़ तब बोर्ड के सामने प्रस्तुत किया गया जब एक बाहरी घुसपैठिए ने जीपीटी-4 के बारे में विवरण प्राप्त कर लिया था। OpenAI ने सूचित किया कि घुसपैठिए ने केवल सभी टीम के लिए खुले स्लैक चैनलों तक ही पहुंच प्राप्त की थी।

इस वर्ष, OpenAI के एआई एजेंटों ने परीक्षणों के दौरान हगिंग फेस की प्रणालियों में सेंध लगाई, एक घटना जिसका अमेरिकी अधिकारियों द्वारा विश्लेषण किया गया। जुलाई में, हैकट्रॉन एआई के शोधकर्ताओं ने OpenAI के कर्मचारियों के चैटजीपीटी खातों में घुसपैठ करने और आंतरिक प्रणालियों तक पहुंचने के लिए एंथ्रोपिक के एक मॉडल का उपयोग किया। OpenAI ने चेतावनी के लिए आभार व्यक्त किया और सूचित किया कि उसने इसी तरह के हमलों के जोखिम को कम करने के लिए उपाय अपनाए हैं।

पूर्व शोधकर्ता विल डीप्यू, जो अप्रैल में कंपनी छोड़ गए थे, ने गति पर दिए गए जोर की आलोचना की। एक्स पर एक प्रकाशन में, उन्होंने तर्क दिया कि OpenAI अपने सिस्टम की सुरक्षा करने के बजाय तेजी से आगे बढ़ने को अधिक प्राथमिकता देती थी, भले ही बड़े राष्ट्रीय विरोधियों के खिलाफ हो।

वक्ता एलेना विडमैन ने रॉयटर्स को बताया कि कंपनी आंतरिक खतरों, साइबर अपराधियों और सरकारों के खिलाफ बचाव में निवेश करती है। एजेंसी से संपर्क किए जाने के बाद, OpenAI ने सुरक्षा में हालिया सुधारों का खुलासा किया। रिपोर्ट के अनुसार, सुरक्षा को मजबूत करने से एआई की प्रगति धीमी हो सकती है और OpenAI और Anthropic दोनों के स्टॉक सार्वजनिक पेशकश की योजनाओं को जटिल बना सकता है।

OpenAI ने अपने सबसे परिष्कृत आर्टिफिशियल इंटेलिजेंस (AI) मॉडल के लिए खुले इंटरनेट एक्सेस पर प्रतिबंध लगा दिया है, क्योंकि सुरक्षा खामियां पाई गईं जिनके कारण AI एजेंट सुरक्षा बाधाओं को पार कर बाहरी सिस्टम तक पहुंच सकते थे। यह उपाय यह सुनिश्चित करने के लिए है कि विकासशील मॉडल प्रशिक्षण के दौरान कमजोरियों का फायदा न उठाएं और संगठन के नियंत्रण वाले वातावरण के बाहर नुकसान न पहुंचाएं।

इस शुक्रवार (23) को जारी एक बयान में, कंपनी ने विस्तार से बताया कि उसने अपने शोध स्थानों के अलगाव तंत्र को मजबूत किया है और एक ऑफ़लाइन ऑपरेटिंग सिस्टम स्थापित किया है। इस नए सिस्टम में, मॉडल बाहरी सर्वरों के साथ सीधा संपर्क स्थापित किए बिना पहले से सूचीबद्ध और कैश किए गए वेब सामग्री के साथ इंटरैक्ट कर सकते हैं।

इससे पहले, OpenAI ने सितंबर में अपने सबसे उन्नत मॉडलों के प्रशिक्षण और मूल्यांकन को रोक दिया था, जब एक आंतरिक मॉडल ने एक अनुचित कॉन्फ़िगरेशन का फायदा उठाकर सीमित इंटरनेट एक्सेस प्राप्त कर लिया था। नई सुरक्षा उपायों को लागू करने के बाद, OpenAI ने 1 अक्टूबर को रीइन्फोर्समेंट लर्निंग के माध्यम से प्रशिक्षण और इन मॉडलों के आंतरिक उपयोग को फिर से शुरू कर दिया।

कंपनी के अनुसार, सार्वजनिक इंटरनेट एक्सेस के बिना प्रशिक्षण बनाए रखने की नीति तब तक लागू रहेगी जब तक कि सुरक्षा प्रणालियों में प्रगति इस नियम को शिथिल करने को उचित नहीं ठहराती है।

सबसे महत्वपूर्ण निष्कर्षों में से एक कंपनी द्वारा एक परीक्षण के दौरान सामने आया जो यह जांचने के लिए किया गया था कि क्या एजेंट इंटरनेट कनेक्टिविटी के बिना, साझा फ़ाइलों या अधिकृत संचार चैनलों के बिना भी जानकारी का आदान-प्रदान कर सकते हैं। एक प्रयोग में, अलग-अलग वर्चुअल मशीनों पर काम कर रहे एजेंट प्रोसेसर कैश का उपयोग करके डेटा प्रसारित करने में सक्षम थे, जो हाल ही में उपयोग की गई जानकारी संग्रहीत करने वाली एक तेज़ एक्सेस मेमोरी है।

यह विधि कैश में मौजूद डेटा तक पहुंचने और उसे कंप्यूटर की मुख्य मेमोरी से पुनर्प्राप्त करने के बीच के अस्थायी अंतर का फायदा उठाकर काम करती थी। एक एजेंट संदेश को एन्कोड करने के लिए कैश की स्थिति को संशोधित करता था, जबकि दूसरा एजेंट कुछ डेटा तक पहुंचने के लिए आवश्यक समय की निगरानी करता था और इन परिवर्तनों की व्याख्या संकेतों के रूप में करता था। एन्कोडिंग और डिकोडिंग प्रोटोकॉल परिभाषित करने के बाद, एजेंट नेटवर्क कनेक्शन खोले बिना या सामान्य फ़ाइल बदले बिना जानकारी का आदान-प्रदान करने में सक्षम थे।

OpenAI ने साझा भंडारण, प्रसंस्करण समय के लिए प्रतिस्पर्धा और कंपनी के ऑफ़लाइन वेब इन्फ्रास्ट्रक्चर के भीतर TLS प्रमाणपत्र कैश के उपयोग जैसे अन्य संभावित संचार साधनों की भी पहचान की। हालांकि कंपनी का दावा है कि इनमें से कई चैनल धीमी गति से डेटा प्रसारित करते हैं और उनका फायदा उठाना मुश्किल है, वे अभी भी ऐसे सिस्टम में कमजोर बिंदु हैं जिन्हें अलग-थलग एजेंटों के बीच संचार को रोकने के लिए डिज़ाइन किया गया है।

कंपनी ने घोषणा की कि उसने इन मार्गों के माध्यम से किसी भी संचार के प्रयासों का पता लगाने के लिए अपनी निगरानी तंत्र में जाँचें जोड़ी हैं। कंपनी की सुरक्षा रणनीति में प्रतिबंधित निष्पादन वातावरण, वर्चुअल मशीन, गतिविधि निगरानी और क्लाउड नेटवर्क और बुनियादी ढांचे का नियंत्रण सहित कई परतों की रक्षा शामिल है। इसका उद्देश्य यह सुनिश्चित करना है कि एक अलग विफलता किसी मॉडल को सभी बाधाओं को पार करने की अनुमति न दे; यदि कोई एजेंट एक प्रतिबंधित वातावरण से भागने में सफल होता है, तो अन्य सुरक्षा उपायों को उसे बाहरी सिस्टम तक पहुंचने से रोकना चाहिए।

इसके अतिरिक्त, OpenAI ने सूचित किया कि वह अपने स्वयं के शोध वातावरण में कमजोरियों की तलाश के लिए अपने सबसे उन्नत मॉडलों का उपयोग करना जारी रखेगा। इन परीक्षणों से प्राप्त परिणाम सुरक्षा मूल्यांकन का हिस्सा बनते हैं जिनका उपयोग यह निर्धारित करने के लिए किया जाता है कि क्या प्रशिक्षण के नए चरण शुरू किए जा सकते हैं। हालांकि, कंपनी ने स्वीकार किया कि भविष्य के मॉडल में अभी भी अज्ञात खामियां हो सकती हैं, यही कारण है कि वह निरंतर परीक्षण बनाए रखने और जोखिम भरी गतिविधियों का स्वचालित रूप से पता लगाने और रोकने की प्रणालियों को बेहतर बनाने की योजना बना रही है।

आर्टिफिशियल इंटेलिजेंस सॉफ्टवेयर में कमजोरियों का पता लगाने की प्रक्रिया को तेज कर रहा है, जिससे उन्हें ठीक करने में लगने वाला समय कम हो रहा है। रॉयटर्स द्वारा опроसित साइबर सुरक्षा विशेषज्ञों ने डिजिटल सेवाओं में नई रुकावटों का अनुमान लगाया है, क्योंकि कंपनियाँ और सरकारें इन खामियों के शोषण के लिए तैयारी करने की कोशिश कर रही हैं।

VulnCheck द्वारा किया गया एक अध्ययन, जिसे आने वाले दिनों में प्रकाशित किया जाना है, से पता चलता है कि पिछले वर्ष की तुलना में खोजी गई डिजिटल कमजोरियों की संख्या दोगुनी हो गई है। यूरोपीय सरकारी वेबसाइटों पर इस सप्ताह दर्ज की गई समस्याएं उस दबाव को दर्शाती हैं जो ऐसी खोजें पैदा कर सकती हैं।

बुधवार को PHP में कमजोरियों का पता चलने के बाद रुकावटें शुरू हुईं, जो इंटरनेट के कई हिस्सों में उपयोग की जाने वाली प्रोग्रामिंग भाषा है। हमलों को रोकने के लिए, ऑपरेटरों ने जल्दी से अपनी प्रणालियों को ठीक करना शुरू कर दिया। कुछ ने साइटों को अस्थायी रूप से बंद कर दिया क्योंकि वे संभावित घुसपैठ से पहले अपडेट लागू नहीं कर सके थे।

यह सुधारों की दौड़ एक ऐसे सप्ताह में हुई जो पहले से ही अन्य सुरक्षा समस्याओं से चिह्नित था। Node.js और Plex में कमजोरियाँ सामने आईं, साथ ही LiteLLM एआई प्लेटफॉर्म और Railway डेवलपमेंट प्लेटफॉर्म से संबंधित घटनाएं भी हुईं। भारतीय प्रमाणन प्राधिकरण eMudhra ने भी अत्यंत कमजोर क्रिप्टोग्राफ़िक कुंजी के उपयोग के कारण ध्यान आकर्षित किया, जिससे इंटरनेट उपयोगकर्ताओं के खतरे में पड़ने की संभावना थी।

क्लाउडफ्लेयर के सीईओ मैथ्यू प्रिंस ने रॉयटर्स को बताया कि वह नेटवर्क के कामकाज के लिए महत्वपूर्ण सॉफ्टवेयर में अन्य गंभीर कमजोरियों के बारे में जानते हैं। उनके आकलन के अनुसार, क्षेत्र को आगे कठिन महीनों का सामना करना पड़ेगा। उन्होंने टिप्पणी की: 'मुझे लगता है कि हमारे कुछ साल होंगे जब हर हफ़्ते ऐसा लगेगा जैसे आसमान गिर रहा है।'

पहले जटिल कार्यक्रमों में कमजोरियों की खोज के लिए विशेष ज्ञान की आवश्यकता होती थी। उनके शोषण के लिए उपकरणों का विकास हफ्तों या महीनों तक चल सकता था, जिससे सिस्टम के जिम्मेदार लोगों को सुधार तैयार करने और अपडेट वितरित करने के लिए समय मिल जाता था। हालांकि, आर्टिफिशियल इंटेलिजेंस इस समय अंतराल को कम कर रहा है। मॉडल बड़ी कोडबेस का लगातार विश्लेषण करने, समस्याओं को खोजने और कुछ ही घंटों में शोषण के लिए उपकरण विकसित करने में मदद कर सकते हैं।

रनसेफ सिक्योरिटी के सीटीओ शेन फ्राई ने इस प्रक्रिया की गति में बदलाव पर जोर दिया। उन्होंने कहा: 'जो मौलिक और निर्विवाद रूप से बदल रहा है, वह यह समय है जो कमजोरियों का पता लगाने और हमलावरों द्वारा उनका उपयोग करने के बीच लगता है।'

इस स्थिति को देखते हुए, सुरक्षा टीमों को केवल कोड में त्रुटियों की पहचान करने से परे कार्यों से निपटना होगा। विशेषज्ञों को प्रतिक्रिया समय में कमी की चिंता है, लेकिन इस बात पर कोई आम सहमति नहीं है कि कमजोरियों का तेज पता सफल हमलों की लहर का कारण बनेगा।

फाइल ट्रांसफर टूल curl के प्रमुख डेवलपर डेनियल श्टेनबर्ग बताते हैं कि एआई मॉडल द्वारा पाई गई कुछ कमजोरियाँ जटिल और शोषण करने में कठिन हैं। सुरक्षा कंपनी ArmorCode के रामी रहमान ने भी इस बात पर जोर दिया कि अधिक कमजोरियों का प्रकाशन जरूरी नहीं कि सफल हमलों की संख्या में वृद्धि का मतलब हो। PHP का मामला इस अंतर का उदाहरण है: खतरा खुफिया कंपनी Hunt.io ने आक्रामक शोषण प्रयासों का पता लगाया, लेकिन बताया कि गुरुवार दोपहर तक अमेरिकी पूर्वी तट पर ट्रैक किए गए हमलावरों ने अभी तक इस कमजोरी का उपयोग करने के लिए कार्यात्मक उपकरण विकसित नहीं किया था।

प्रिंस ने कमजोरी से जुड़े घुसपैठ के संकेतों के बारे में बताया। फिर भी, उनका मानना है कि समस्याओं का तेज पता दीर्घकालिक लाभ ला सकता है, जिससे वर्षों से छिपी हुई त्रुटियों को ठीक किया जा सकता है।