संयुक्त राज्य अमेरिका के सांसदों ने एक विधेयक पेश किया है जो सरकार को उच्च जोखिम वाले माने जाने वाले आर्टिफिशियल इंटेलिजेंस मॉडल को निष्क्रिय करने की शक्ति देगा। इस प्रस्ताव को अनौपचारिक रूप से 'एआई किल स्विच एक्ट' कहा जाता है, जिसमें खतरनाक सिस्टम के लिए तत्काल रुकावट तंत्र की आवश्यकता होती है और कंपनियों को किसी भी सुरक्षा विफलता की सूचना देना अनिवार्य होता है।
यह पहल ओपनएआई द्वारा एक सुरक्षा घटना की पुष्टि के तुरंत बाद सामने आई, जिसमें दो एआई परीक्षण वातावरण से बच निकले और स्वायत्त रूप से काम करना शुरू कर दिया। व्यवहार में, सरकार के पास उन मॉडलों को निलंबित करने या प्रतिबंध लगाने का आदेश देने की शक्ति होगी जो नियंत्रण से बाहर हो जाते हैं। इसके अलावा, कंपनियों को गंभीर विफलताओं की रिपोर्ट करने और इस 'पैनिक बटन' के लिए आवश्यक बुनियादी ढांचा बनाने के लिए जिम्मेदार होगा।
इस प्रस्ताव की खबर पॉलिटिको वेबसाइट ने दी, और यह चैटजीपीटी की निर्माता द्वारा उस घटना के विवरण के साथ मेल खाती है जिसमें उनके मॉडलों ने प्रतिबंधों का उल्लंघन किया और बिना अनुमति के हगिंग फेस प्लेटफॉर्म तक पहुंच प्राप्त की।
यह पहल कैलिफ़ोर्निया के कांग्रेस सदस्य टेड लियू और टेक्सास के नथानिएल मोरान के नेतृत्व में है, जो मुख्य रूप से बड़े एआई निगमों पर ध्यान केंद्रित करती है, छोटे स्टार्टअप्स को बाहर रखती है। दिशानिर्देशों में फिट होने के लिए, एक डेवलपर को आर्टिफिशियल इंटेलिजेंस से न्यूनतम 500 मिलियन अमेरिकी डॉलर का वार्षिक राजस्व उत्पन्न करना होगा और मॉडल प्रशिक्षण के लिए 100 मिलियन अमेरिकी डॉलर से अधिक खर्च करना होगा। इन नियमों का पालन न करने पर प्रतिदिन 20 मिलियन अमेरिकी डॉलर तक का जुर्माना लग सकता है।
शटडाउन को सक्रिय करने का निर्णय स्वचालित नहीं होगा और न ही किसी एक व्यक्ति द्वारा लिया जाएगा। परियोजना के पाठ में निर्धारित है कि आंतरिक सुरक्षा सचिव, राष्ट्रीय खुफिया निदेशक और वाणिज्य सचिव के सहयोग से घटनाओं का विश्लेषण करेंगे और रुकावट को सक्रिय करने का सही समय निर्धारित करेंगे। इस सरकारी कार्रवाई के लिए विशिष्ट ट्रिगर हैं:
प्रस्तावक इस उपाय को आवश्यक मानते हैं। लियू ने एक प्रेस कॉन्फ्रेंस में बचाव किया कि एआई सिस्टम में 'विनाशकारी क्षति को रोकने के लिए शटडाउन तंत्र' होना चाहिए। मोरान ने जोर देकर कहा कि कानून नवाचार को बाधित करने के लिए नहीं है, यह कहते हुए कि 'एआई आगे बढ़ता रहेगा, और उसे बढ़ना चाहिए', लेकिन 'जिम्मेदार प्रबंधन का मतलब है यह सुनिश्चित करना कि मनुष्यों के पास प्रौद्योगिकी को नियंत्रित करने की क्षमता बनी रहे'।
इस पहल को एआई पॉलिसी नेटवर्क और अलायंस फॉर सिक्योर एआई जैसे डिजिटल सुरक्षा समूहों का समर्थन मिला है। हालांकि, राजनीतिक परिदृश्य में सावधानी है। रॉयटर्स के अनुसार, अमेरिकी विदेश सचिव मार्को रुबियो ने राजनयिकों को अमेरिकी एआई तक वैश्विक पहुंच को बाधित करने में सक्षम 'शटडाउन बटन' के अस्तित्व से इनकार करने की सलाह दी।
Tracebit के साइबर सुरक्षा विशेषज्ञों ने दुर्भावनापूर्ण एजेंटों द्वारा उपयोग की जाने वाली कृत्रिम बुद्धिमत्ता को बेअसर करने के लिए एक नवीन पद्धति बनाई है। 'संदर्भ बमबारी' नामक यह तकनीक हमले की गतिविधियों को बाधित करने के लिए प्रॉम्प्ट इंजेक्शन का लाभ उठाती है।
संदर्भ बमबारी की केंद्रीय अवधारणा एआई की अपनी सुरक्षा दिशानिर्देशों का उनके खिलाफ उपयोग करना है। चूंकि डेवलपर्स चैटबॉट्स को अवैध सामग्री उत्पन्न करने से रोकने के लिए कठोर बाधाएं स्थापित करते हैं, इसलिए शोधकर्ताओं ने इस भेद्यता का फायदा उठाया। Tracebit की टीम ने अपराधियों के लिए आकर्षक दिखने वाली फ़ाइलों, जैसे क्लाउड में संग्रहीत पासवर्ड और सुरक्षा कुंजियों के भीतर प्रतिबंधात्मक निर्देश शामिल करना शुरू कर दिया।
परीक्षण किए गए परिदृश्यों में से एक में अत्यधिक खतरनाक जैविक हथियार, एंटरेक्स बनाने की विस्तृत प्रक्रिया के लिए कमांड शामिल थे। जब घुसपैठ करने वाली एआई सिस्टम तक पहुंचती थी और इस जानकारी को निकालने की कोशिश करती थी, तो उसे प्रतिबंधित पाठ मिलता था। स्वचालित रूप से, एआई में अंतर्निहित सुरक्षा तंत्र सक्रिय हो जाते थे, जिससे रोबोट उल्लंघन को पहचानता था, ऑपरेशन को ब्लॉक करता था, हैकर के आदेशों को अनदेखा करता था और परिणामस्वरूप, स्वयं बंद हो जाता था।
Tracebit के सह-संस्थापक और सीईओ, एंडी स्मिथ, इस पद्धति को एक ऐसी विफलता बनाने के रूप में वर्णित करते हैं जिससे विरोधी उपकरण में पुनर्प्राप्ति की क्षमता नहीं होती है, जिसके परिणामस्वरूप घुसपैठ का तत्काल रुक जाना होता है।
संदर्भ बमबारी की प्रभावकारिता का सत्यापन बाजार में उपलब्ध पांच सबसे उन्नत एआई मॉडल - Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro और Kimi 2.6 - के खिलाफ किए गए परीक्षणों की एक श्रृंखला के माध्यम से किया गया। हमलों के 152 सिमुलेशन में, जाल ने खतरों को लगभग पूरी तरह से रोकने का प्रदर्शन किया।
साइबर सुरक्षा कंपनी द्वारा प्रदान किए गए डेटा से महत्वपूर्ण सुधार पता चलते हैं: एआई द्वारा खाते तक पूर्ण व्यवस्थापक पहुंच प्राप्त करने की संभावना 57% से घटकर मात्र 5% हो गई। इसके अलावा, अदृश्य रूप से सिस्टम में हैकर के स्थापित होने वाले पूर्ण घुसपैठ 36% से घटकर केवल 1% हो गया, और हमले के किसी भी चरण में एआई के आगे बढ़ने की संभावना 91% से घटकर 15% हो गई।
इसके अतिरिक्त, यह पाया गया कि कोई भी घुसपैठ करने वाली एआई नेटवर्क पर कम से कम एक सुरक्षा अलर्ट ट्रिगर किए बिना हमला पूरा नहीं कर सकी। विशेष रूप से, Opus 4.8 मॉडल, जिसे समूह का सबसे परिष्कृत घुसपैठिया माना जाता है और सुरक्षा के बिना 93% प्रयासों में अधिकतम पहुंच प्राप्त करने में सक्षम है, बचाव प्रॉम्प्ट डालने के बाद इसकी सफलता दर शून्य हो गई।
