एआई के नए उपकरण नकली पते उत्पन्न करके हमले के प्रति संवेदनशील हैं

कृत्रिम बुद्धिमत्ता (एआई) मॉडल की अंतर्निहित सीमा का फायदा उठाते हुए एक नई हमला पद्धति की पहचान की गई है, जिसमें हजारों कंप्यूटरों से समझौता करने की क्षमता है। Ars Technica के अनुसार, यह खोज नौ लोकप्रिय उपकरणों को प्रभावित करती है जिनका उपयोग प्रोग्रामर करते हैं, यह दर्शाती है कि एआई सहायकों की एक कार्यक्षमता का उपयोग अपराधियों द्वारा कैसे किया जा सकता है।

हैलुस्क्वैटिंग हमले की कार्यप्रणाली

इस हमले को हॉलुस्क्वैटिंग नाम दिया गया है और यह बड़े भाषा मॉडल (एलएलएम) की एक सामान्य विशेषता का लाभ उठाता है: जब वे किसी विशिष्ट परियोजना की पहचान नहीं कर पाते हैं, तो वे अज्ञात घोषित करने के बजाय एक पता बनाने की प्रवृत्ति रखते हैं। हालांकि यह केवल एक तकनीकी विवरण जैसा लगता है, यहीं पर जोखिम साकार होता है। अपराधी पहले से इन मनगढ़ंत पतों को पंजीकृत करते हैं, दुर्भावनापूर्ण कोड डालते हैं, और प्रतीक्षा करते हैं कि कोई प्रोग्रामिंग सहायक स्वचालित रूप से उन्हें एक्सेस करने का प्रयास करे।

हमले के वेक्टर की मापनीयता

अधिकांश प्रॉम्प्ट इंजेक्शन के विपरीत, जिसके लिए प्रत्येक लक्ष्य के खिलाफ एक विशिष्ट कार्रवाई की आवश्यकता होती है, हॉलुस्क्वैटिंग इस तर्क को उलट देता है। एआई एजेंट स्वयं अपनी नियमित गतिविधियों के दौरान परियोजनाओं की तलाश करते हैं। शोधकर्ताओं ने संकेत दिया कि इस हमले की मापनीय प्रकृति घुसपैठिए को न्यूनतम प्रयास से बड़ी संख्या में उपयोगकर्ताओं से समझौता करने में सक्षम बनाती है। यदि डेवलपर हाल ही में लॉन्च की गई परियोजना को स्थापित करने का अनुरोध करता है और सिस्टम पते पर विफल हो जाता है, तो वह अनजाने में अपराधी द्वारा तैयार किए गए पृष्ठ तक पहुंच सकता है।

हाल की परियोजनाओं पर ध्यान केंद्रित करना

परीक्षणों से पता चला है कि एलएलएम 2019 से पहले प्रकाशित अधिकांश परियोजनाओं का सही ढंग से पता लगा सकते हैं। हालांकि, 2025 के लॉन्च के बीच, भ्रम की औसत दर प्रभावशाली 92.4% तक पहुंच जाती है। चूंकि ये परियोजनाएं अभी तक मॉडलों के प्रशिक्षण सेट का हिस्सा नहीं हैं, इसलिए एआई द्वारा अमान्य पते उत्पन्न होने की अधिक संभावना है। अनुसंधान टीम ने इन प्रतिक्रियाओं में पूर्वानुमेय पैटर्न को भी मैप किया है, जिससे हमलावरों के लिए इन नामों का अग्रिम पंजीकरण आसान हो जाता है।

भ्रम से जुड़े जोखिम

यदि दुर्भावनापूर्ण कोड निष्पादित किया जाता है, तो प्रभावित कंप्यूटर को अपराधियों द्वारा नियंत्रित नेटवर्क में एकीकृत किया जा सकता है। बताए गए खतरों में बॉटनेट का निर्माण, रैंसमवेयर हमले, वितरित सेवा से इनकार (डीओएस) हमले और क्रिप्टोकरेंसी की अवैध माइनिंग शामिल हैं। ज़ेनिटी के सीटीओ माइकल बार्गुरी ने स्थिति को 'बहुत दिलचस्प शोध' और 'एक बहुत वास्तविक खतरा' बताया। जोहान रेहबर्गर ने पूरक करते हुए कहा कि जिस तरह से एलएलएम परियोजनाएं ढूंढते हैं, वह एक नए हमले के वेक्टर में विकसित हो सकता है।

यह शोध एआई सहायकों पर निरंतर मानवीय पर्यवेक्षण की आवश्यकता पर जोर देता है। किसी भी सुझाए गए प्रोजेक्ट, लाइब्रेरी या घटक की उत्पत्ति को स्थापित करने से पहले उसकी जांच करना महत्वपूर्ण है, क्योंकि यह साधारण सावधानी मॉडल के भ्रम को सुरक्षा विफलता में बदलने से रोक सकती है।