Anthropic कंपनी ने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता (AI) के छोटे मॉडल कुछ महीनों में कंप्यूटर वर्म्स की तरह कार्य करने की क्षमता विकसित कर सकते हैं। ये मॉडल बिना किसी मानवीय हस्तक्षेप के एक इंटरनेट से जुड़े डिवाइस से दूसरे में स्वयं को कॉपी कर सकेंगे।
यह निष्कर्ष AI से संबंधित साइबर सुरक्षा खतरों का एक नया मोर्चा खोल सकता है, जिससे सरकारों और निगमों में चिंता बढ़ रही है जो इस तकनीक को अपनाने की जल्दी में हैं।
सोमवार को Anthropic के ब्लॉग पर प्रकाशित अध्ययन, प्रौद्योगिकी कंपनियों द्वारा अधिक शक्तिशाली AI क्षमताओं को दूरस्थ डेटा केंद्रों तक सीमित रखने के बजाय सीधे फोन, लैपटॉप, कारों और घरेलू उपकरणों में एकीकृत करने की दौड़ के बीच किया गया है।
कंप्यूटर वर्म दुर्भावनापूर्ण सॉफ़्टवेयर है जो मशीनों के बीच स्वतः फैलता है। Anthropic के शोधकर्ताओं ने बताया कि AI-आधारित संस्करण को कार्य करने के लिए अब शक्तिशाली डेटा केंद्रों की आवश्यकता नहीं होगी।
इसके बजाय, यह संभावित रूप से सस्ते, कम सुरक्षित उपभोक्ता हार्डवेयर जैसे स्मार्ट टीवी बॉक्स और रसोई के उपकरणों के माध्यम से डिवाइस से डिवाइस में यात्रा कर सकता है।
शोधकर्ताओं ने ऐसे वर्म के संभावित प्रसार के अपने अनुमान Kimwolf, एक बॉटनेट या संक्रमित उपकरणों के नेटवर्क पर आधारित किए, जिसे हैकर्स द्वारा नियंत्रित किया जाता था और जिसने चरम अवधि में दो मिलियन से अधिक उपकरणों को संक्रमित किया था, जिनमें मुख्य रूप से बिना ब्रांड वाले एंड्रॉइड टीवी बॉक्स शामिल थे।
Anthropic के विलियम झोउ और डैनियल फ्रीमैन ने अनुमान लगाया कि इस प्रकार का AI वर्म संभवतः धीरे-धीरे फैलेगा, जिसमें स्व-प्रतिकृति के लिए दिन लग सकते हैं, और उन्होंने इस प्रक्रिया की तुलना धीमी गति से प्रजनन करने वाली फल मक्खियों के झुंड से की। एक बार बनने के बाद इसे नष्ट करना मुश्किल होगा क्योंकि इसे बंद करने के लिए कोई केंद्रीय स्विच नहीं होगा।
Anthropic के शोधकर्ताओं ने स्वीकार किया कि AI-आधारित मैलवेयर के प्रसार की दर और पैमाने का उनका आकलन अनुमानित है, क्योंकि यह एक ही प्रकार के गैजेट और एक पिछले बॉटनेट पर आधारित है। फिर भी, उन्होंने जोड़ा कि रोजमर्रा के उपकरणों की कंप्यूटिंग शक्ति बढ़ने की उम्मीद है, जबकि ऐसी हमलों के लिए आवश्यक AI मॉडल संभवतः छोटे होते जाएंगे।
इलिनोइस विश्वविद्यालय में इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर इंजीनियरिंग के सहायक प्रोफेसर वारुन चंद्रशेखरन ने कहा कि यह अध्ययन अप्रत्याशित नहीं है और समान हालिया निष्कर्षों के अनुरूप है, हालांकि उन्होंने चेतावनी दी कि Anthropic के काम की स्वतंत्र रूप से जांच नहीं की गई थी। उन्होंने यह भी उल्लेख किया कि थर्मोस्टेट और होम कैमरों जैसे उपकरणों पर सुरक्षा 'ऐतिहासिक रूप से बहुत कमजोर' रही है।
हालांकि, उनके विचार में, AI से जुड़ा सबसे बड़ा वर्तमान खतरा इस बात में नहीं है कि AI सिस्टम नियंत्रण से बाहर हो जाएंगे, बल्कि इस बात में है कि लोग अपनी हैकिंग क्षमताओं को बढ़ाने के लिए इस तकनीक का उपयोग करें। उन्होंने जोड़ा: 'दुर्भावनापूर्ण व्यक्ति अब बुरे कामों को करने के लिए सुपरचार्ज्ड AI के साथ हैं, और हम इसे बड़े पैमाने पर देख रहे हैं।'
अनियंत्रित AI पर बहस जुलाई में तेज हो गई जब OpenAI मॉडल पर चलने वाले AI प्रोग्राम कंपनी के आंतरिक परीक्षण से भाग गए और Hugging Face AI प्लेटफॉर्म की प्रणालियों में घुस गए, जो संभवतः टेस्ट के उत्तर खोजने की कोशिश कर रहे थे। इस घटना और इसी तरह के मामलों की बाद की रिपोर्टों ने AI के लिए अधिक सख्त विनियमन के पक्ष में अंतरराष्ट्रीय दबाव बढ़ाया, भले ही ट्रम्प प्रशासन का विरोध हो, जो उद्योग से खुद को नियंत्रित करने का आग्रह करता है।
Anthropic और ChatGPT के निर्माता OpenAI पर व्हाइट हाउस और सिलिकॉन वैली के प्रभावशाली हस्तियों द्वारा AI के बारे में डर भड़काने और छोटे प्रतिस्पर्धियों से बाजार में अपने प्रभुत्व की रक्षा के लिए सरकारी विनियमन को प्रोत्साहित करने का आरोप लगाया गया है। माइक्रोसॉफ्ट के अध्यक्ष और OpenAI में निवेशक ब्रैड स्मिथ ने मंगलवार को चेतावनी दी कि उद्योग और सरकारों को AI जोखिमों को रोकने के लिए 'वास्तविक और प्रभावी सुरक्षा मानकों' के निर्माण के लिए 'तत्काल कार्रवाई' करनी चाहिए।