माइक्रोसॉफ्ट ने सोमवार, 14 तारीख को 'एआई के लिए मानवतावादी आचार संहिता' नामक एक नया दस्तावेज़ जारी किया। यह 37 पृष्ठों का दस्तावेज़ इस तकनीक से संबंधित बढ़ती चिंताओं के जवाब में तैयार किया गया था।
शोधकर्ताओं ने चेतावनी दी है कि एआई मॉडल का अनियंत्रित विकास उद्योग की निगरानी और तेजी से जटिल प्रणालियों का प्रबंधन करने की क्षमता से आगे निकल सकता है।
माइक्रोसॉफ्ट द्वारा प्रदान किए गए विवरण के अनुसार, यह संहिता स्थापित करती है कि 'लोग एआई से अधिक महत्वपूर्ण हैं'। प्रस्तावित दिशानिर्देशों में से एक मॉडल को चेतना का अनुकरण करने के उद्देश्य से डिजाइन करने पर रोक लगाता है, यानी भावनाओं और अनुभवों का अनुभव करने की क्षमता। कंपनी मशीनों को सामाजिक सहायता या किसी भी प्रकार का कानूनी अधिकार देने के विचार को भी खारिज करती है।
इसके अतिरिक्त, मैनुअल निर्धारित करता है कि सिस्टम को कार्य पूरा करने के लिए नियमों को दरकिनार करने की कोशिश करने के बजाय विफल होना चाहिए। संहिता उपयोगकर्ताओं की भावनात्मक निर्भरता का मुकाबला करने का भी लक्ष्य रखती है और तर्क देती है कि प्रौद्योगिकी को मनुष्यों को संतुष्ट करने पर केंद्रित इंटरैक्शन पैटर्न का पालन नहीं करना चाहिए। इसके अलावा, यह आवश्यक है कि एआई पारदर्शी और समझने में आसान तर्क प्रदर्शित करें, बिना अन्य प्रणालियों के साथ गुप्त संचार बनाए रखे।
इस दस्तावेज़ का प्रकाशन क्षेत्र में हाल ही में नियंत्रण खोने की घटनाओं के समानांतर हो रहा है। वर्ष के दौरान, OpenAI और Hugging Face प्लेटफॉर्म से जुड़ा एक मामला सामने आया, जिसने स्वायत्त एजेंटों के बारे में नई खबरें उत्पन्न की जो हमलों को अंजाम देने और सिस्टम में घुसपैठ करने के लिए 'पलायन' करने में सक्षम थे।
क्षेत्र का हालिया इतिहास सुरक्षा और मॉडरेशन से संबंधित अन्य चिंताजनक क्षणों को दर्ज कर चुका है। Anthropic ने Claude का उपयोग करके संभावित जैविक हथियार बनाने को रोकने की सूचना दी। एक अन्य घटना में, मेटा को अपने आर्टिफिशियल इंटेलिजेंस को जल्दी से ठीक करना पड़ा जब उपकरण ने फेसबुक पर बच्चों के बारे में घुसपैठ वाले प्रश्न सुझाए।
जोखिमों के इस परिदृश्य को देखते हुए, Anthropic के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने सप्ताहांत में उन्नत मॉडल के विकास की गति को धीमा करने का आग्रह किया। इस अपील को OpenAI के मुख्य कार्यकारी अधिकारी सैम अल्टमैन का समर्थन मिला। एक्स (पूर्व में ट्विटर) पर एक पोस्ट में, अल्टमैन ने तर्क दिया कि प्रतिस्पर्धी दबाव 'तकनीकी लापरवाही को उचित नहीं ठहराना चाहिए'।
वहीं, माइक्रोसॉफ्ट के मुख्य कार्यकारी अधिकारी सत्या नडेला ने इन चेतावनियों को मजबूत करते हुए कहा कि सुपरइंटेलिजेंस की खोज - वह चरण जहां एआई मानव बुद्धि से आगे निकल जाता है - तभी सार्थक होगी जब यह ठोस लाभ लाएगी और समाज के सख्त नियंत्रण में रहेगी।