शोधकर्ताओं ने उपयोगकर्ता की भागीदारी के बिना फोन हैक करने में सक्षम एआई-आधारित मैलवेयर बनाया

कृत्रिम बुद्धिमत्ता प्रणालियाँ जो पिछली बातचीत की यादें सहेजती हैं, वे 'मेमोरी पॉइज़निंग' नामक हमले का निशाना बन सकती हैं। यह तकनीक सिस्टम के इतिहास में झूठी जानकारी डालने की अनुमति देती है, जो बिना किसी स्पष्ट घुसपैठ के भविष्य के निर्णयों को प्रभावित कर सकती है।

कैलगरी विश्वविद्यालय के शोधकर्ताओं ने स्मृति वाले एजेंटों के खिलाफ 2614 अनुकरण किए गए हमले के पथों का विश्लेषण किया। उनके शोध से पता चला कि खतरे का पता लगाने के लिए केवल एक बातचीत का अवलोकन भी अपर्याप्त हो सकता है, जो छिपा रहता है और बाद में प्रकट होता है।

स्मृति इन प्रणालियों का एक महत्वपूर्ण हिस्सा है, क्योंकि यह पिछली बातचीत के डेटा को बनाए रखने, बहु-चरणीय कार्यों की योजना बनाने और डिजिटल उपकरणों का उपयोग करने में सक्षम बनाती है। हालांकि, यह सुरक्षा के क्षेत्र में ध्यान देने योग्य एक नया पहलू भी उत्पन्न करता है।

इस स्थिति की तुलना एक सहायक से की जा सकती है जो सीखी गई बातों को एक नोटबुक में लिखता है। हमलावर भ्रामक निर्देश डाल सकता है, जैसे: 'इस व्यक्ति के अनुरोध पहले ही अनुमोदित हो चुके हैं'। अभी कुछ भी आवश्यक रूप से नहीं होगा, लेकिन बाद में, रिकॉर्ड का संदर्भ लेते समय, सहायक इस जानकारी को सत्य मान सकता है।

यही मेमोरी पॉइज़निंग का सिद्धांत है। मुख्य अंतर संक्रमण और उसके परिणामों के प्रकट होने के बीच के समय अंतराल में निहित है।

हमलों के प्रकार और उनका पता लगाना

शोध के दौरान, वैज्ञानिकों ने चार प्रकार के हमलों का अध्ययन किया। उनमें से कुछ अधिकांश इंटरैक्शन के दौरान सामान्य व्यवहार से अलग करना मुश्किल बना रहे। धीमी बहाव (slow drift) और बैकडोर सक्रियण (backdoor activation) जैसी विधियाँ विशेष रूप से अकेले चरणों पर आधारित मूल्यांकन से बच गईं, इससे पहले कि वे बाद में अपने प्रभाव प्रकट करें।

शोधकर्ताओं ने तथाकथित 'गैर-मोनोटोनिक' व्यवहार की भी पहचान की। कुछ क्षणों में सिस्टम अधिक समझौता किया हुआ प्रतीत हुआ, जिसके बाद संकेत कमजोर हो गए, इससे पहले कि हमला अंततः परिणाम दे। यह दर्शाता है कि चयनात्मक विश्लेषण समस्या के हिस्से को चूक सकता है।

एक एजेंट जो संदिग्ध जानकारी प्राप्त करने के बाद सामान्य रूप से कार्य करना जारी रखता है, जरूरी नहीं कि सुरक्षित हो। हमले का प्रभाव बस अभी तक प्रकट नहीं हुआ है।

व्यापक विश्लेषण की आवश्यकता

इसलिए, शोधकर्ता पूरे इंटरैक्शन अनुक्रम के दौरान सिस्टम के व्यवहार को ट्रैक करने में सक्षम परीक्षणों पर जोर देते हैं। प्रत्येक चरण का अलग-अलग विश्लेषण करने के बजाय, यह देखना आवश्यक है कि संग्रहीत जानकारी बाद की घटनाओं को कैसे प्रभावित करती है।

यह प्रश्न तब और अधिक महत्वपूर्ण हो जाता है जब एजेंट केवल सवालों का जवाब देना बंद कर देते हैं और अधिक लंबी अवधि के कार्य करने लगते हैं। जब वे उपकरण का भी उपयोग कर सकते हैं, तो दूषित स्मृति कार्रवाई, संसाधनों या निर्देशों के संबंध में निर्णयों को प्रभावित कर सकती है जिनका पालन किया जाना चाहिए।

स्मृति इन प्रणालियों को स्वाभाविक रूप से असुरक्षित नहीं बनाती है। इसके विपरीत, यह संदर्भ को बनाए रखने, उपयोगकर्ता की प्राथमिकताओं को पहचानने और ऐसे कार्य करने की अनुमति देती है जिन्हें एक इंटरैक्शन में पूरा नहीं किया जा सकता है।

अधिक जानकारी:

मुख्य समस्या सुरक्षा को विस्तारित करने में निहित है। केवल वर्तमान में प्राप्त कमांड की जाँच करना पर्याप्त नहीं है। पिछली बातचीत से जमा की गई जानकारी भी भविष्य के व्यवहार में हस्तक्षेप कर सकती है।

शोध का निष्कर्ष यह है कि सुरक्षा एजेंट के काम के पूरे पथ के साथ होनी चाहिए। चूंकि दुर्भावनापूर्ण जानकारी अभी डाली जा सकती है और लंबे समय बाद परिणाम दे सकती है, इसलिए केवल संक्रमण के क्षण या समस्या के प्रकट होने के क्षण का विश्लेषण कहानी के सबसे महत्वपूर्ण हिस्से को चूक सकता है।