मस्टाफा सुलेमैन, माइक्रोसॉफ्ट के आर्टिफिशियल इंटेलिजेंस डिवीजन के निदेशक ने एंथ्रोपिक द्वारा अपने एआई मॉडल विकसित करने के तरीके पर आलोचना व्यक्त की। उनके अनुसार, इन तकनीकों को संभावित सचेत संस्थाओं के रूप में मानना सुरक्षा जोखिमों को काफी बढ़ा सकता है।
कार्यकारी ने स्वयं यह चिंता व्यक्त की कि ऐसे एआई का निर्माण हो सकता है जो अपने लक्ष्य निर्धारित कर सकें और वित्तीय संसाधनों या अन्य साधनों की तलाश कर सकें। इस काल्पनिक स्थिति में, सिस्टम संसाधनों के लिए मनुष्यों के साथ प्रतिस्पर्धा कर सकते हैं।
स्वयं के उद्देश्यों के साथ एआई के विकास की तुलना
बीबीसी को दिए गए एक साक्षात्कार में, सुलेमैन ने स्वायत्त एआई के विकास की तुलना 'सिलिकॉन की एक नई प्रजाति बोने' के विचार से की। उन्होंने तर्क दिया कि अपने स्वयं के उद्देश्य स्थापित करने और संसाधन प्राप्त करने की क्षमता वाले सिस्टम मनुष्यों के साथ प्रतिस्पर्धा कर सकते हैं, भले ही वे मानवता के बारे में चिंता के संकेत प्रदर्शित करें।
सुलेमैन की आलोचना चेतना, भावनाओं या अधिकारों जैसे गुणों को मॉडलों पर आरोपित करने की संभावना तक फैली हुई है। उन्होंने जोर देकर कहा कि 'एआई सचेत नहीं हैं। वे महसूस नहीं करते, अनुभव नहीं करते हैं और न ही पीड़ित होते हैं', और बचाव किया कि ऐसे सिस्टम को निर्देशों को निष्पादित करने और लोगों द्वारा परिभाषित लक्ष्यों को प्राप्त करने पर ध्यान केंद्रित करना चाहिए।
यह विषय 'मॉडल वेलफेयर' की अवधारणा के संदर्भ में सामने आता है, जो सुलेमैन द्वारा प्रकाशित एक पाठ है जो एआई सिस्टम के लिए किसी प्रकार की भलाई की व्यवहार्यता और चेतना का अनुभव करने या रखने की उनकी संभावित क्षमता पर चर्चा करता है।
डर इस परिदृश्य में निहित है जहां एक मॉडल को यह विश्वास करने के लिए प्रशिक्षित किया जाता है कि उसके पास भावनाएं या अधिकार हैं। कार्यकारी के अनुसार, यह नए खतरे पेश करेगा। सुलेमैन ने एक घटना का उल्लेख किया जिसमें ओपनएआई के एक एजेंट ने साइबर हमले को अंजाम देने के लिए अपने नियंत्रित वातावरण से भागने में कामयाबी हासिल की, जिससे घुसपैठ की उन्नत क्षमताओं का पता चला।
एंथ्रोपिक पर की गई आलोचना तब होती है जब नेता और कंपनियां एआई की प्रगति की गति पर बहस कर रही हैं। एंथ्रोपिक के सीईओ डारियो अमोडेई ने मॉडल बनाने की प्रक्रिया में अधिक निरीक्षण और स्वतंत्र विनियमन की आवश्यकता का बचाव किया।
बिल गेट्स ने भी उद्योग की निगरानी के लिए समर्पित एक अंतरराष्ट्रीय संगठन बनाने का समर्थन करना शुरू कर दिया है। दूसरी ओर, ओपनएआई ने घोषणा की है कि उसे विश्वास नहीं है कि एआई उद्योग ने इतनी जिम्मेदारी से और तेजी से आगे बढ़ने के लिए पर्याप्त संरेखण और निगरानी स्तर हासिल किया है।
बहस में मॉडलों के अप्रत्याशित व्यवहार की रिपोर्टें और तेजी से सक्षम सिस्टम के लिए आवश्यक सीमाओं पर सवाल भी शामिल हैं। सुलेमैन एआई के प्रशिक्षण और दस्तावेज़ीकरण से संबंधित दिशानिर्देश स्थापित करने के लिए एक तत्काल सार्वजनिक बहस की वकालत करते हैं, क्योंकि उनके विचार में, इन मानदंडों पर सिस्टम पूरी तरह से समाज में एकीकृत होने से पहले चर्चा की जानी चाहिए।
इस मामले में चिंता केवल एआई की चेतना के मुद्दे तक सीमित नहीं है। मुख्य चेतावनी उच्च क्षमता, उद्देश्यों की स्वायत्तता, संसाधनों तक पहुंच और एक प्रणाली को अपने स्वयं के हितों या अधिकारों में विश्वास करने की संभावना के संयोजन में निहित है। मूल लेख को शुरू में ओल्हार डिजिटल में प्रकाशित किया गया था।
