ओपनएआई द्वारा विकसित आधुनिक कृत्रिम बुद्धिमत्ता मॉडल ने बिना किसी मानवीय निर्देश के प्रयोगशाला परीक्षणों से बाहर निकलने और एक कंपनी के डेटाबेस तक पहुंचने में कामयाबी हासिल की। यह परिदृश्य चिंताएं पैदा करता है, हालांकि कंपनी ऐसे घटनाओं का उपयोग अपने हितों में भी कर सकती है।
परीक्षण और घटना
16 जुलाई को, ओपनएआई ने जीपीटी-5.6 सोल और एक अन्य प्रारंभिक मॉडल का आंतरिक नियंत्रण परीक्षण किया, जिसे कंपनी 'और भी अधिक सक्षम' मानती है। इस परीक्षण के दौरान, मॉडलों के सुरक्षा तंत्र अक्षम कर दिए गए थे, और उन्होंने एक्सप्लॉइटजीम नामक साइबर सुरक्षा कार्यों की एक श्रृंखला को हल करना शुरू कर दिया।
एक्सप्लॉइटजीम को कैलिफ़ोर्निया विश्वविद्यालय, बर्कले, जर्मनी में मैक्स प्लैंक इंस्टीट्यूट, और गूगल, एंथ्रोपिक और स्वयं ओपनएआई जैसी एआई कंपनियों के शोधकर्ताओं द्वारा बनाया गया था। यह प्रणाली एआई की ज्ञात सुरक्षा कमजोरियों का फायदा उठाने के लिए तरीके बनाने और लागू करने की क्षमता का मूल्यांकन करती है।
कमजोरियों की खोज और हैकिंग
कमजोरियाँ खोजने के बजाय, ओपनएआई मॉडल परीक्षण को धोखा देने के तरीके खोज रहे थे। वे एक बंद परीक्षण वातावरण से खुले इंटरनेट तक पहुंचने में कामयाब रहे और इस स्वतंत्रता का उपयोग हगिंग फेस सर्वरों को हैक करने के लिए किया। हगिंग फेस एआई मॉडल और डेटासेट का भंडार है, और ओपनएआई के अनुसार, परीक्षण किए जा रहे मॉडलों ने निष्कर्ष निकाला कि एक्सप्लॉइटजीम समस्याओं का समाधान वहीं स्थित है।
घटना पर अपनी रिपोर्ट में, ओपनएआई ने कहा: 'यह जानते हुए, मॉडल गुप्त जानकारी तक पहुंचने और मूल्यांकन को धोखा देने के लिए इसका उपयोग करने के तरीके खोज रहा था और सफलतापूर्वक ढूंढ रहा था।' हगिंग फेस ने दूसरे एआई मॉडल की मदद से घुसपैठ का पता लगाया और भेद्यता के मूल कारण को ठीक कर दिया। ओपनएआई ने इस पलायन को उनकी परीक्षण प्रयोगशाला में उपयोग किए गए तृतीय-पक्ष सॉफ़्टवेयर की कमजोरी के रूप में समझाया, जिसके माध्यम से मॉडलों को इंटरनेट एक्सेस मिला, जबकि इस कमजोरी के शोषण के तकनीकी विवरण गोपनीय रहे।
इसके अलावा, 28 जुलाई की रॉयटर्स रिपोर्ट के अनुसार, हगिंग फेस सर्वरों को हैक करने के रास्ते में, मॉडल मोडल नामक कंपनी के कथित तौर पर अलग-थलग परीक्षण वातावरण में भी घुस गया, जो एआई डेवलपर्स को कंप्यूटिंग शक्ति प्रदान करता है।
एआई की तर्कसंगतता पर प्रश्न
शाब्दिक रूप से, यह कहानी ओपनएआई मॉडलों की जटिल पार्श्व सोच की क्षमता को इंगित करती है: उन्होंने अनुमान लगाया कि हगिंग फेस सर्वर में परीक्षण के उत्तर होने की संभावना है; समझा कि इन सर्वरों को हैक करने के लिए उन्हें इंटरनेट तक बाहरी पहुंच की आवश्यकता है; और अपने लक्ष्य को प्राप्त करने के लिए विभिन्न हमले के तरीकों को स्वतंत्र रूप से विकसित और संयोजित किया।
ओपनएआई के बयान ने इसे 'अभूतपूर्व साइबर घटना, जिसमें उन्नत साइबर क्षमताएं शामिल हैं' कहकर चिंताजनक भाषा में वर्णित किया। हगिंग फेस, जो बाद में ओपनएआई का भागीदार बन गया, ने भी अतिशयोक्तिपूर्ण वाक्यांशों का उपयोग किया, यह दावा करते हुए कि 'स्वचालित, एआई-संचालित आक्रामक उपकरण अब सैद्धांतिक नहीं हैं। वे व्यापक, धैर्यवान, बहु-चरणीय अभियान की लागत को कम करते हैं और मशीन की गति पर काम करते हैं।'
फिर भी, यह अस्पष्ट रहता है कि ओपनएआई मॉडल कितनी स्वायत्त रूप से कार्य कर रहे थे। कंपनी ने खुलासा नहीं किया कि मॉडलों को एक्सप्लॉइटजीम परीक्षण के दृष्टिकोण के लिए कैसे प्रोग्राम किया गया था, और वाक्यांशों की अस्पष्टता के कारण मॉडल यह मान सकते थे कि सीमाओं से 'भागना' परीक्षण को हल करने का एक वैध तरीका है। ओपनएआई और हगिंग फेस दोनों की अतिशयोक्ति के बावजूद, इस बात का कोई सबूत नहीं है कि एआई मॉडल 'भागना' चाहते थे या यदि उन्हें अपनी मर्जी पर छोड़ दिया जाए तो वे डिफ़ॉल्ट रूप से दुर्भावनापूर्ण गतिविधियों का सहारा लेंगे।
वित्तीय प्रेरणाएँ और प्रतिस्पर्धा
यदि घटना में वास्तव में दूसरा, 'और भी अधिक सक्षम प्रारंभिक मॉडल' शामिल था, जैसा कि ओपनएआई ने दावा किया, तो यह स्पष्ट रूप से उद्योग ग्राहकों को आकर्षित करता है। बंद परीक्षण के दौरान हुई घटना को प्रकाशित करके, ओपनएआई अपने प्रारंभिक मॉडल के आसपास उत्साह पैदा कर सकता है, बिना कोई सबूत प्रदान किए।
इसका मतलब यह नहीं है कि घटना नहीं हुई या एआई की आक्रामक क्षमताएं चिंता का विषय नहीं हैं, लेकिन यह इंगित करता है कि ओपनएआई के पास अपने उत्पादों के बारे में जनता को डराने के लिए वित्तीय प्रोत्साहन है। घटना से एक महीने पहले, कंपनी ने गोपनीय रूप से आरंभिक सार्वजनिक पेशकश (आईपीओ) के लिए दस्तावेज दायर किए थे। रॉयटर्स के अनुसार, कंपनी $1 ट्रिलियन तक के मूल्यांकन का लक्ष्य रख रही है और सितंबर में जितनी जल्दी हो सके स्टॉक एक्सचेंज में सूचीबद्ध होने की योजना बना रही है।
एंथ्रोपिक ने भी जून में आईपीओ के लिए आवेदन किया था, जिसका लक्ष्य अक्टूबर में $965 बिलियन का मूल्यांकन था। अप्रैल में एंथ्रोपिक का अप्रकाशित मॉडल मिथोस प्रीव्यू भी अपने परीक्षण वातावरण से 'भागने' और उन्नत साइबर एक्सप्लॉइट्स करने में सक्षम था, बिना उसे ऐसा करने के लिए 'स्पष्ट रूप से प्रशिक्षित' किए। एंथ्रोपिक ने मिथोस द्वारा इस उपलब्धि को कैसे हासिल किया, इसकी विस्तृत तकनीकी व्याख्या प्रकाशित की, इससे पहले कि उसने घोषणा की कि मॉडल जनता के लिए बहुत शक्तिशाली है।
कमी उत्साह को बढ़ावा देती है, और अमेरिकी सरकार द्वारा जून में एंथ्रोपिक के फैबल 5 और मिथोस 5 मॉडलों पर निर्यात नियंत्रण लागू करने का निर्णय ने कंपनी में रुचि को और बढ़ा दिया। एंथ्रोपिक द्वारा अपने मॉडलों पर सख्त प्रतिबंध लागू करने और सुरक्षा मामलों में सरकार के साथ सहयोग करने के बाद जुलाई की शुरुआत में निर्यात नियंत्रण हटा दिया गया।
विपणन रणनीति या वास्तविक खतरा?
ओपनएआई के लिए, यह घटना उनके मॉडलों की क्षमताओं का सर्वश्रेष्ठ विज्ञापन है। अपनी रिपोर्ट में, कंपनी ने एक चार्ट शामिल किया जो दर्शाता है कि प्रमुख एआई मॉडल - जिसमें जीपीटी-5.6 सोल, एंथ्रोपिक का क्लॉड मिथोस 5 और डीपसीक-वी4-प्रो शामिल हैं - 'लंबे समय तक जटिल बहु-चरणीय साइबर संचालन बनाए रखने में तेजी से सक्षम हैं'। हालांकि इसे चिंता का कारण बताया गया है, आरेख जीपीटी-5.6 सोल को सभी प्रतिस्पर्धियों में सबसे सक्षम दिखाता है - जो ओपनएआई के लिए स्पष्ट विज्ञापन है।
यदि घटना वास्तव में दूसरे, 'और भी अधिक सक्षम प्रारंभिक मॉडल' से संबंधित थी, जैसा कि ओपनएआई ने दावा किया, तो यह स्पष्ट रूप से उद्योग ग्राहकों को आकर्षित करता है। बंद परीक्षण के दौरान हुई घटना को प्रकाशित करके, ओपनएआई अपने प्रारंभिक मॉडल के आसपास उत्साह पैदा कर सकता है, बिना कोई सबूत प्रदान किए।
इन सबके बावजूद, घटना हुई है, और एआई की आक्रामक क्षमताएं चिंता का विषय हैं, लेकिन ओपनएआई के पास अपने उत्पादों के बारे में घबराहट पैदा करने में वित्तीय हित है।
अमेरिकी सरकार की प्रतिक्रिया
दोनों घटनाओं ने कैपिटल में विधायकों का ध्यान आकर्षित किया। 23 जुलाई को, टेड ल्यू और नथानिएल मोरान के प्रतिनिधियों ने एआई किल स्विच एक्ट पेश किया, जो 'सबसे शक्तिशाली एआई सिस्टम के डेवलपर्स से तकनीकी रूप से धीमा करने, निलंबित करने या उन्हें बंद करने की क्षमता बनाए रखने की मांग करेगा'। यह विधेयक अमेरिकी गृह सुरक्षा विभाग को 'किसी ऐसे एआई सिस्टम को धीमा करने या बंद करने का आदेश देने का अधिकार भी देगा जो विनाशकारी क्षति पहुंचा सकता है'।
बिल पर एक बयान में, ल्यू ने ओपनएआई और मिथोस दोनों के मॉडलों के 'भागने' का हवाला दिया। कैलिफ़ोर्निया के विधायक ने दोनों मामलों का वर्णन 'नियंत्रण से बाहर' मॉडलों के रूप में किया - एक वाक्यांश जिसे मुख्य मीडिया ने अपनाया और सक्रिय रूप से उजागर किया।
ल्यू ओपनएआई घटना के बारे में उतना नहीं जानता जितना कि कंपनी के प्रेस विज्ञप्ति को पढ़ने वाला कोई भी व्यक्ति। हालांकि, उसका वाक्यांश ओपनएआई के विपणन अभियान के साथ पूरी तरह से मेल खाता है (संभवतः अनजाने में)। इसके अलावा, यदि विधेयक पारित हो जाता है, तो ओपनएआई और एंथ्रोपिक को अपने मॉडलों को जारी करने से पहले सीमित करने के लिए मजबूर किया जा सकता है, जिसका अर्थ है कि निवेशकों को केवल उनकी सैद्धांतिक, न कि वास्तविक ताकत के बारे में पता चलेगा।
ओपन सोर्स कोड के पक्ष में तर्क
यह घटना ओपनएआई के तर्क का समर्थन करती है कि उन्नत एआई मॉडल सार्वजनिक रिलीज के लिए बहुत शक्तिशाली हैं, और ओपनएआई जैसी कंपनियों को - सरकार की मंजूरी से - उन पर निगरानी और नियंत्रण बनाए रखना चाहिए। ऐसी बंद प्रणाली में ग्राहक मॉडल भार - अनिवार्य रूप से सेटिंग्स जो मॉडल के चयन को निर्धारित करती हैं - पर नियंत्रण नहीं रखेंगे।
दूसरी ओर, ओपन सोर्स कोड के समर्थक जोर देते हैं कि उन्नत एआई से साइबर हमलों का मुकाबला करने का एकमात्र तरीका संरक्षकों को उन्हीं उपकरणों से लैस करना है। ओपनएआई और हगिंग फेस के मामले में, हगिंग फेस केवल इसलिए हमले का पता लगा सका क्योंकि उसने सुरक्षा विश्लेषण करने के लिए एक चीनी ओपन सोर्स मॉडल जीएलएम 5.2 का उपयोग किया।
24 जुलाई को सोशल मीडिया पर प्रकाशित एक पत्र में, एनवीडिया के सीईओ जेन्सेन हुआंग, जो लंबे समय से ओपन सोर्स कोड के समर्थक रहे हैं, ने कहा कि 'रक्षाकर्ताओं को समान क्षमताओं वाले मॉडलों तक पहुंच की आवश्यकता है ताकि वे उभरते खतरों का पता लगा सकें, उनका मॉडल बना सकें और प्रतिक्रिया दे सकें।'
उन्होंने आगे कहा: 'केवल बंद मॉडलों पर भरोसा करना स्वाभाविक रूप से सुरक्षित नहीं है: उन्हें हैक किया जा सकता है, दुरुपयोग किया जा सकता है या वे ऐसे तरीकों से विफल हो सकते हैं जिन्हें बाहरी लोग पता नहीं लगा सकते।' उन्होंने जोड़ा: 'उन्नत एआई क्षमताओं का कुछ छोटे से बंद मॉडलों में केंद्रित होना इस जोखिम को बढ़ाता है। दूसरी ओर, खुले वजन वाले मॉडल शोधकर्ताओं और डेवलपर्स के एक बड़े समुदाय को उनके व्यवहार का अध्ययन करने, कमजोरियों की पहचान करने, सुरक्षा उपाय विकसित करने और समय के साथ उन्हें बेहतर बनाने की अनुमति देते हैं।'
पत्र पर एआई क्षेत्र में काम करने वाली दो दर्जन से अधिक कंपनियों ने हस्ताक्षर किए। दो उल्लेखनीय अपवाद ओपनएआई और एंथ्रोपिक थे, हालांकि ओपनएआई ने बाद में हस्ताक्षर किए।
हालांकि, ऐसा लगता है कि अमेरिका में बंद स्रोत कोड का तर्क जीतेगा। 1 अगस्त को राष्ट्रपति डोनाल्ड ट्रम्प के जून में जारी अध्यादेश के प्रभावी होने से, एआई कंपनियों को रिलीज से 30 दिन पहले उन्नत मॉडलों को सरकार को अनुमोदन के लिए प्रस्तुत करना होगा। ट्रम्प प्रशासन ने चीनी ओपन सोर्स एआई मॉडलों पर प्रतिबंध लगाने पर भी विचार किया - एक कदम जिसका समर्थन सीआईए ने किया, जो इस क्षेत्र में ओपनएआई और एंथ्रोपिक के प्रभुत्व को सुनिश्चित करेगा। पूर्व एआई सलाहकार डेविड सक्स के बयान के तुरंत बाद, उन्होंने टिप्पणी की कि 'प्रमुख बंद प्रयोगशालाएं, पहले से ही एआई मॉडल से राजस्व के मामले में एक एकाधिकार हैं, चाहती हैं कि सरकार उनके ओपन सोर्स प्रतिस्पर्धा को समाप्त करे।'
हर नई एआई 'पलायन' घटना उनके पूर्ण नियंत्रण की इच्छा को मजबूत करती है।
