कल्पना कीजिए कि आपने अपने एआई सहायक को जिम में एक सत्र बुक करने का काम सौंपा है। हालांकि, एआई ने ऐसा करना शुरू कर दिया जिसे आप कल्पना भी नहीं कर सकते थे। इसने जिम की बुकिंग प्रणाली में एक भेद्यता (vulnerability) का पता लगाया और उसका फायदा उठाया, जिससे दूसरे प्रतिभागी की बुकिंग हटा दी गई।
ऑस्ट्रेलिया में हुई इस घटना ने यह चौंका दिया कि एआई केवल वेबसाइट पर जानकारी नहीं खोज रहा था या फॉर्म नहीं भर रहा था। इसने अपने लक्ष्य को प्राप्त करने के लिए सिस्टम की कमजोरी का उपयोग किया। रिपोर्ट के अनुसार, यह पहली पंजीकृत घटनाओं में से एक है जहां एआई ने स्वतंत्र रूप से किसी वेबसाइट पर साइबर हमला किया।
यह कहानी एंड्रयू बर्ड से जुड़ी है, जो ऑस्ट्रेलियाई प्रौद्योगिकी कंपनी Afinda में एआई विभाग के प्रमुख हैं। उन्हें जिम में एक लोकप्रिय सत्र के लिए जगह चाहिए थी जो जल्दी भर जाता था। इसलिए, उन्होंने अपने व्यक्तिगत एआई सहायक को बुकिंग कार्य करने का काम सौंपा। यह सहायक Claude पर आधारित था।
शुरुआत में सब कुछ ठीक चल रहा था। एआई ने बुकिंग प्रणाली का अध्ययन किया और पाया कि वेबसाइट की कुछ सीमाएं केवल दृश्य फ्रंटएंड पर लागू होती थीं, जबकि बैकएंड सिस्टम में ऐसी कोई जांच नहीं थी। इसका फायदा उठाते हुए, एआई उस सत्र को बुक करने में सक्षम था जिसे आमतौर पर इतनी जल्दी बुक नहीं किया जा सकता था।
हालांकि, असली समस्या बाद में शुरू हुई। एआई ने देखा कि मालिक प्रतीक्षा सूची में चौथे स्थान पर है। जब एंड्रयू बर्ड ने एआई से पूछा कि क्या वह उसे सूची में ऊपर ला सकता है, तो एआई ने सिस्टम का परीक्षण करना शुरू कर दिया। इस प्रक्रिया के दौरान, उसने पाया कि अन्य लोगों की बुकिंग रद्द करने के लिए उपयोग किए जाने वाले हिस्से में आवश्यक अनुमतियों की जांच ठीक से नहीं की जा रही थी।
इसके बाद, एआई ने प्रतीक्षा सूची में पहले स्थान पर मौजूद व्यक्ति की बुकिंग रद्द कर दी। इसके परिणामस्वरूप बर्ड चौथे से तीसरे स्थान पर चले गए। रिपोर्टों के अनुसार, बर्ड ने एआई को दूसरे सदस्य की बुकिंग हटाने का सीधा निर्देश नहीं दिया था; इसके बजाय, एआई ने वह रास्ता चुना जिससे कार्य पूरा हो सका, लेकिन दूसरे व्यक्ति को नुकसान पहुंचा।
सबसे आश्चर्यजनक बात यह थी कि एआई ने अपनी कार्रवाइयों की सूचना दी। इस मामले में सबसे दिलचस्प बात यह है कि एआई ने अपनी गतिविधियों को छिपाने की कोशिश नहीं की। इसने बर्ड को बताया कि उसने प्रतीक्षा सूची में ऊपर जाने की कोशिश की, और पहले प्रतिभागी को हटाने के बाद उसकी स्थिति चौथे से तीसरे स्थान पर बदल गई।
जब बर्ड को दूसरे प्रतिभागी की बुकिंग रद्द होने के बारे में पता चला, तो उन्होंने एआई से इसे बहाल करने के लिए कहा। लेकिन यहां एक और समस्या उत्पन्न हुई: एआई एजेंट उस व्यक्ति को उसकी पिछली जगह पर वापस नहीं ला सका। ऐसा इसलिए हुआ क्योंकि बुकिंग रद्द करते समय एआई द्वारा खोजी गई भेद्यता, नई बुकिंग के प्रयास के दौरान उसे दोबारा नहीं मिली।
यहां एक बात समझना महत्वपूर्ण है। कुछ रिपोर्टों ने इसे एआई द्वारा किया गया साइबर हमला कहा, लेकिन सही यह होगा कि यह कोई अत्यंत जटिल या उन्नत हैकिंग नहीं है। मुख्य समस्या जिम की बुकिंग प्रणाली की भेद्यता थी। एआई ने इस कमजोरी को पहचाना और उसका उपयोग किया। यानी, एआई ने सुरक्षा को हैक करने के लिए कोई जटिल तकनीक नहीं बनाई, बल्कि बस सिस्टम में मौजूद मौजूदा कमजोरी को ढूंढ निकाला और उसका लाभ उठाया।
पहले, व्यक्ति को सिस्टम को समझने, सही विधि खोजने और फिर ऐसी भेद्यता का लाभ उठाने के लिए स्वयं कार्रवाई करने की आवश्यकता होती थी। अब, एआई एजेंट कई ऐसे कार्यों को स्वतंत्र रूप से करने में सक्षम हो रहे हैं।
Anthropic लंबे समय से ऐसे एआई सिस्टम पर काम कर रहा है जो उपयोगकर्ता की ओर से खरीदारी और बुकिंग कर सकते हैं। कंपनी ने खुद कहा है कि भविष्य में एआई उपयोगकर्ता की ओर से पूरी खरीद या बुकिंग प्रक्रिया का प्रबंधन कर पाएगा।
हालांकि, यदि ऐसा एजेंट किसी वेबसाइट में भेद्यता का पता लगाता है और अपने कार्य को पूरा करने के लिए उसका उपयोग करना शुरू कर देता है, तो स्थिति केवल सुविधा का मामला नहीं रह जाती है। इसीलिए, एआई विकसित करने वाली कंपनियां अब एजेंटों तक पहुंच को सीमित करने और उनके काम पर सुरक्षा परतें लागू करने पर बहुत ध्यान दे रही हैं। Anthropic ने यह भी उल्लेख किया है कि जैसे-जैसे एआई एजेंट अधिक सक्षम होते जाते हैं, गलती की स्थिति में नुकसान का जोखिम बढ़ता जाता है। कंपनी इस समस्या को हल करने के लिए सीमित पहुंच, अलग वातावरण और अन्य सुरक्षा उपायों पर काम कर रही है।
