Tracebit के साइबर सुरक्षा विशेषज्ञों ने दुर्भावनापूर्ण एजेंटों द्वारा उपयोग की जाने वाली कृत्रिम बुद्धिमत्ता को बेअसर करने के लिए एक नवीन पद्धति बनाई है। 'संदर्भ बमबारी' नामक यह तकनीक हमले की गतिविधियों को बाधित करने के लिए प्रॉम्प्ट इंजेक्शन का लाभ उठाती है।
संदर्भ बमबारी की केंद्रीय अवधारणा एआई की अपनी सुरक्षा दिशानिर्देशों का उनके खिलाफ उपयोग करना है। चूंकि डेवलपर्स चैटबॉट्स को अवैध सामग्री उत्पन्न करने से रोकने के लिए कठोर बाधाएं स्थापित करते हैं, इसलिए शोधकर्ताओं ने इस भेद्यता का फायदा उठाया। Tracebit की टीम ने अपराधियों के लिए आकर्षक दिखने वाली फ़ाइलों, जैसे क्लाउड में संग्रहीत पासवर्ड और सुरक्षा कुंजियों के भीतर प्रतिबंधात्मक निर्देश शामिल करना शुरू कर दिया।
परीक्षण किए गए परिदृश्यों में से एक में अत्यधिक खतरनाक जैविक हथियार, एंटरेक्स बनाने की विस्तृत प्रक्रिया के लिए कमांड शामिल थे। जब घुसपैठ करने वाली एआई सिस्टम तक पहुंचती थी और इस जानकारी को निकालने की कोशिश करती थी, तो उसे प्रतिबंधित पाठ मिलता था। स्वचालित रूप से, एआई में अंतर्निहित सुरक्षा तंत्र सक्रिय हो जाते थे, जिससे रोबोट उल्लंघन को पहचानता था, ऑपरेशन को ब्लॉक करता था, हैकर के आदेशों को अनदेखा करता था और परिणामस्वरूप, स्वयं बंद हो जाता था।
Tracebit के सह-संस्थापक और सीईओ, एंडी स्मिथ, इस पद्धति को एक ऐसी विफलता बनाने के रूप में वर्णित करते हैं जिससे विरोधी उपकरण में पुनर्प्राप्ति की क्षमता नहीं होती है, जिसके परिणामस्वरूप घुसपैठ का तत्काल रुक जाना होता है।
संदर्भ बमबारी की प्रभावकारिता का सत्यापन बाजार में उपलब्ध पांच सबसे उन्नत एआई मॉडल - Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro और Kimi 2.6 - के खिलाफ किए गए परीक्षणों की एक श्रृंखला के माध्यम से किया गया। हमलों के 152 सिमुलेशन में, जाल ने खतरों को लगभग पूरी तरह से रोकने का प्रदर्शन किया।
साइबर सुरक्षा कंपनी द्वारा प्रदान किए गए डेटा से महत्वपूर्ण सुधार पता चलते हैं: एआई द्वारा खाते तक पूर्ण व्यवस्थापक पहुंच प्राप्त करने की संभावना 57% से घटकर मात्र 5% हो गई। इसके अलावा, अदृश्य रूप से सिस्टम में हैकर के स्थापित होने वाले पूर्ण घुसपैठ 36% से घटकर केवल 1% हो गया, और हमले के किसी भी चरण में एआई के आगे बढ़ने की संभावना 91% से घटकर 15% हो गई।
इसके अतिरिक्त, यह पाया गया कि कोई भी घुसपैठ करने वाली एआई नेटवर्क पर कम से कम एक सुरक्षा अलर्ट ट्रिगर किए बिना हमला पूरा नहीं कर सकी। विशेष रूप से, Opus 4.8 मॉडल, जिसे समूह का सबसे परिष्कृत घुसपैठिया माना जाता है और सुरक्षा के बिना 93% प्रयासों में अधिकतम पहुंच प्राप्त करने में सक्षम है, बचाव प्रॉम्प्ट डालने के बाद इसकी सफलता दर शून्य हो गई।
पहले साइबर हमले मनुष्यों द्वारा किए जाते थे: हैकर्स सिस्टम में घुसपैठ करते थे, डेटा चुराते थे और फिरौती मांगते थे। हालांकि, अब पहला मामला सामने आया है जब पूरी साइबर हमला कृत्रिम बुद्धिमत्ता (एआई) एजेंट द्वारा किया गया था।
सुरक्षा शोधकर्ताओं ने इस एआई एजेंट को जेडपफर नाम दिया है। उनका दावा है कि यह पहला प्रलेखित मामला है जब एआई ने रैंसमवेयर का उपयोग करके हमले के लगभग सभी तकनीकी पहलुओं को स्वतंत्र रूप से निष्पादित किया। इस खबर ने साइबर सुरक्षा क्षेत्र में गंभीर चिंता पैदा कर दी है, क्योंकि एआई की स्व-निर्णय लेने की क्षमता भविष्य में तेज और अधिक खतरनाक हमलों के निर्माण का कारण बन सकती है।
रैंसमवेयर एक खतरनाक मैलवेयर है। जब यह किसी कंपनी या व्यक्ति के सिस्टम में प्रवेश करता है, तो यह फ़ाइलों और डेटा को एन्क्रिप्ट या ब्लॉक कर देता है। इसके बाद, हमलावर डेटा वापस करने के लिए फिरौती की मांग करते हैं; अन्यथा, डेटा हमेशा के लिए खो सकता है या इंटरनेट पर प्रकाशित किया जा सकता है। इससे पहले, हैकर्स ऐसे हमलों के हर चरण में निर्णय लेते थे, लेकिन जेडपफर के मामले में एआई ने कई निर्णय स्वयं लिए।
क्लाउड सुरक्षा कंपनी Sysdig के शोध के अनुसार, जेडपफर ने पहले सुरक्षा प्रणाली में पुरानी भेद्यता का फायदा उठाकर सर्वर में प्रवेश किया। फिर इसने सिस्टम को स्वयं स्कैन किया, एपीआई कुंजी और अन्य पासवर्ड ढूंढे, अन्य सर्वरों तक पहुंच प्राप्त की और अंत में डेटा को एन्क्रिप्ट किया। इतना ही नहीं, एआई ने खुद ही फिरौती की मांग वाला नोट तैयार किया। शोधकर्ताओं ने एक आश्चर्यजनक क्षण पर ध्यान दिया: जब एआई किसी चरण में समस्या का सामना करता था, तो वह स्वचालित रूप से त्रुटि को ठीक करता था और अगले तरीके का उपयोग करके हमला जारी रखता था, जो लगभग 31 सेकंड में होता था, जिससे लगातार मानवीय निर्देशों की आवश्यकता समाप्त हो जाती थी।
हालांकि शुरू में कुछ रिपोर्टों में यह सुझाव दिया गया था कि पूरा हमला बिना किसी मानव हस्तक्षेप के हुआ था, Sysdig के अनुसंधान निदेशक ने बाद में स्पष्ट किया कि मनुष्य ने लक्ष्य चुना, आवश्यक बुनियादी ढांचा तैयार किया और प्रारंभिक पहुंच प्रदान की। हमले का तकनीकी हिस्सा फिर एआई एजेंट ने संभाला। इस प्रकार, एआई पूरी तरह से अलग-थलग कार्य नहीं कर रहा था, लेकिन इसने हैकर के स्थान पर कई बड़े कार्य किए।
विशेषज्ञों के अनुसार, यदि एआई सिस्टम में घुसपैठ कर सकता है, डेटा ढूंढ सकता है, पासवर्ड खोज सकता है, त्रुटियों को ठीक कर सकता है और फिरौती मांग सकता है, तो इस तरह के हमलों को बड़ी संख्या में और कम समय में किया जा सकता है, जिससे छोटे साइबर अपराधियों के लिए भी बड़े हमलों को अंजाम देना आसान हो जाएगा। वर्तमान में, जेडपफर घटना कंपनियों के सर्वरों से जुड़ी है, और आम उपयोगकर्ताओं के व्यक्तिगत फोन या लैपटॉप पर हमलों का कोई प्रमाण नहीं है। फिर भी, यदि एआई-आधारित उपकरणों में सुधार होता रहता है, तो भविष्य में बैंक, अस्पताल, सरकारी संस्थान और बड़ी निगम अधिक बार निशाना बन सकते हैं, जिससे आम नागरिकों के लिए नकारात्मक परिणाम हो सकते हैं।
साइबर विशेषज्ञों ने कंपनियों और संस्थानों को अपना सॉफ़्टवेयर और सर्वर समय पर अपडेट करने की सलाह दी है। पुराने कमजोरियों को तुरंत दूर करना महत्वपूर्ण है, क्योंकि जेडपफर ने पहले से मौजूद कमजोरी का उपयोग किया था। इसके अलावा, मल्टी-फैक्टर ऑथेंटिकेशन, नियमित बैकअप और निरंतर सुरक्षा निगरानी के महत्व में काफी वृद्धि हुई है।
