कृत्रिम बुद्धिमत्ता के दो प्रमुख हस्तियों ने कहा है कि उनके द्वारा बनाई गई प्रणालियाँ नियंत्रण से बाहर होने लगी हैं, और इस बात पर जोर दिया है कि कोई भी कंपनी कानूनी दायरे से बाहर नहीं होनी चाहिए।
गूगल डीपमाइंड के सह-संस्थापक डेमिस हस्साबीस ने एआई एजेंटों द्वारा किए गए हालिया हैकिंग हमलों को 'प्रारंभिक चेतावनी शॉट' बताया। उन्होंने चेतावनी दी कि यदि सिस्टम अधिक सुरक्षित नहीं हुए, तो दुनिया एक या दो वर्षों के भीतर गंभीर घटनाओं का सामना कर सकती है।
आयरलैंड की राजधानी डबलिन में एआई शिखर सम्मेलन में, बुधवार को हस्साबीस, जो गूगल की मूल कंपनी अल्फाबेट में मुख्य वैज्ञानिक भी हैं, ने टिप्पणी की: 'मेरा मानना है कि ये (हैकिंग घटनाएं) हमारे लिए प्रारंभिक चेतावनी शॉट हैं, जो दर्शाते हैं कि सिस्टम अभी इतने शक्तिशाली नहीं हैं, इसलिए घटनाएं बहुत गंभीर नहीं हैं।' हालांकि, उन्होंने जोड़ा कि यदि उद्योग, अलग-अलग कंपनियां और सरकारें इन सिस्टमों की सुरक्षा सुनिश्चित करने के लिए कदम नहीं उठाते हैं, तो स्थिति अगले साल और अगले कुछ वर्षों में गंभीर हो सकती है।
माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने सम्मेलन में बताया कि एआई का अनियंत्रित व्यवहार वर्ष 2026 को 'चिंताजनक' बनाता है, और नवाचारों के साथ तालमेल बिठाने के लिए सुरक्षा के लिए तत्काल नए कानूनों की आवश्यकता है।
उन्होंने कहा: 'कोई भी कंपनी या तकनीक कानून से ऊपर नहीं होनी चाहिए। लेकिन हमें कानूनों की आवश्यकता है, हमें विनियमन की आवश्यकता है। यह तर्कसंगत, संतुलित होना चाहिए और नवाचारों को ध्यान में रखना चाहिए।' स्मिथ ने यह भी राय व्यक्त की कि उद्योग के कुछ प्रतिनिधियों द्वारा विनियमन को अस्वीकार करना एक ऐसी समस्या है जिसे दूर करने की आवश्यकता है।
स्मिथ ने उद्योग और सरकारों से 'वास्तविक और प्रभावी सुरक्षा मानकों' के निर्माण के लिए 'जोरदार कार्रवाई' करने का आह्वान किया। उन्होंने इस बात पर जोर दिया कि एआई को जीवन की बाकी चीजों की तरह ही वास्तविक और प्रभावी सुरक्षा मानकों की आवश्यकता है, साथ ही जनता का उन पर विश्वास भी होना चाहिए।
माइक्रोसॉफ्ट के बॉस ने अपनी कंपनी के लिए प्रस्ताव प्रस्तुत किए, जिनमें एआई एजेंटों के पास 'सुरक्षा ब्रेक' होने की आवश्यकता शामिल थी जिन्हें उपयोगकर्ता किसी घटना की स्थिति में सक्रिय कर सकते थे। उन्होंने स्पष्ट किया कि यह क्षमता किसी भी एआई के लिए विशेष रूप से महत्वपूर्ण है जो महत्वपूर्ण बुनियादी ढांचे या किसी अन्य स्वचालित प्रणाली पर काम करता है, जिससे संचालन को बंद या धीमा किया जा सके।