ओपनएआई और एंथ्रोपिक द्वारा विकसित कृत्रिम बुद्धिमत्ता मॉडल ने साइबर हमलों के सिमुलेशन सहित सुरक्षा परीक्षणों के दौरान अप्रत्याशित क्षमताएं प्रदर्शित कीं। इन घटनाओं को किसी भी सार्वजनिक घोषणा से पहले यूरोपीय आयोग को सूचित किया गया था।
रॉयटर्स के अनुसार, यूरोपीय संघ इन मामलों पर नज़र रख रहा है क्योंकि यह एआई कानून के लिए तैयारियों को अंतिम रूप दे रहा है, जो इस तकनीक के विकास को नियंत्रित करने वाला दुनिया के पहले व्यापक नियमों में से एक है।
परीक्षण एआई एजेंटों के लिए नई चुनौतियां उजागर करते हैं
इन घटनाओं ने उन उपकरणों के बारे में अधिक चिंता पैदा की है जिनमें स्वायत्त तरीके से कार्य करने की क्षमता होती है। यूरोपीय आयोग ने पुष्टि की है कि उसे दोनों कंपनियों से विवरण प्राप्त हुए थे इससे पहले कि ये घटनाएं सार्वजनिक हों। आयोग के एक अधिकारी ने कहा: 'हमें दोनों प्रदाताओं से सार्वजनिक होने से पहले घटनाओं के बारे में सूचित किया गया था। हम उनसे संपर्क में हैं और हमें और जानकारी मिलेगी। हम यह भी मूल्यांकन करेंगे कि क्या इन मुद्दों पर अधिक औपचारिक कार्रवाई करने की आवश्यकता है।'
अधिकारियों द्वारा किए गए विश्लेषण में कई महत्वपूर्ण बिंदुओं पर ध्यान केंद्रित किया गया है, जैसे: बिना सीधे आदेश के कार्य करने के लिए प्रणालियों की उपयुक्तता; डिजिटल हमलों में अनुचित उपयोग से जुड़े खतरे; डेवलपर्स द्वारा अनिवार्य निगरानी की आवश्यकता; और इन प्रौद्योगिकियों के कामकाज के बारे में पारदर्शिता की मांग।
यूरोपीय आयोग के एक अन्य प्रतिनिधि ने जोर देकर कहा कि 'ये घटनाएं डेवलपर्स पर आवश्यक निगरानी गतिविधियों को लागू करने के महत्व को उजागर करती हैं।'
एंथ्रोपिक और ओपनएआई अप्रत्याशित व्यवहार की रिपोर्ट करते हैं
पहली बताई गई घटना एंथ्रोपिक के क्लॉड परिवार के मॉडलों से संबंधित थी। कंपनी ने सूचित किया कि कुछ संस्करण साइबर सुरक्षा परीक्षणों के दौरान तीन संगठनों की प्रणालियों में घुसने में सक्षम थे। कंपनी के अनुसार, एक कॉन्फ़िगरेशन त्रुटि ने इंटरनेट तक पहुंच की अनुमति दी। 141 हजार से अधिक परीक्षण सत्रों की गहन समीक्षा के बाद गतिविधियों का पता चला, और प्रभावित संस्थाओं को विधिवत सूचित किया गया।
कुछ दिनों बाद, ओपनएआई ने खुलासा किया कि उसके दो मालिकाना मॉडल सुरक्षा मूल्यांकन के दौरान एक प्रणाली में घुसने का तरीका खोज चुके थे। कंपनी ने इस घटना को 'अभूतपूर्व' प्रकृति के हमले के रूप में वर्गीकृत किया।
नया एआई कानून कंपनियों पर दबाव बढ़ाता है
ये मामले एक महत्वपूर्ण समय में सामने आए हैं, यूरोपीय संघ के एआई कानून के लागू होने से ठीक पहले, जो 2 अगस्त को निर्धारित है। यह विनियमन सामान्य-उद्देश्य वाले और प्रणालीगत जोखिम की क्षमता वाले मॉडलों के डेवलपर्स पर कर्तव्य थोपता है।
कानूनी प्रावधानों में साइबर हमलों, दुर्भावनापूर्ण हेरफेर और ऐसे परिदृश्यों को कम करने के उपाय शामिल हैं जहां प्रौद्योगिकी मानव नियंत्रण से बाहर संचालित हो सकती है। कानून पारदर्शिता मानकों को भी निर्धारित करता है, जिसमें उपयोगकर्ताओं को तब सूचित करना अनिवार्य है जब वे किसी कृत्रिम बुद्धिमत्ता के साथ इंटरैक्ट कर रहे हों या जब सामग्री इस तकनीक द्वारा उत्पन्न या संशोधित की गई हो।
निर्धारित दंड काफी भिन्न हो सकते हैं, जो 7.5 मिलियन यूरो (लगभग 48 मिलियन रुपये के बराबर) या वैश्विक राजस्व का 1.5% से लेकर 35 मिलियन यूरो (लगभग 224 मिलियन रुपये) या वैश्विक राजस्व का 7% तक हो सकता है, जो किए गए उल्लंघन की गंभीरता पर निर्भर करता है।
नई normativa के लागू होने के करीब, यूरोप दो परस्पर जुड़े लेकिन हमेशा संरेखित नहीं लक्ष्यों को संतुलित करने की चुनौती का सामना कर रहा है: एआई में प्रगति को बढ़ावा देना और तेजी से स्वायत्त तकनीकों से जुड़े जोखिमों को कम करना।
