माइक्रोसॉफ्ट के आचार संहिता के प्रकाशन के मद्देनजर संयुक्त राष्ट्र ने एआई को विनियमित करने के लिए तत्काल उपायों का आह्वान किया

संयुक्त राष्ट्र मानवाधिकार कार्यालय के प्रमुख ने उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों को विकसित करने वाली सरकारों और कंपनियों से इस तकनीक पर नियंत्रण के लिए तत्काल कदम उठाने का आग्रह किया, जिसके बारे में उन्होंने 'अभूतपूर्व जोखिमों' की चेतावनी दी।

दुनिया भर के देशों और एआई डेवलपर्स को संबोधित एक पत्र में, वोल्कर टर्क ने उल्लेख किया कि दुनिया अपरिवर्तनीय परिवर्तनों के मुहाने पर है जो न केवल वर्तमान पीढ़ी को बल्कि मानवता की भविष्य की पीढ़ियों को भी प्रभावित करेंगे। उन्होंने कहा कि अधिक शक्तिशाली एआई के लिए वर्तमान दौड़ जीवन के सभी क्षेत्रों में अस्तित्वगत खतरों को बढ़ाने की दिशा में एक महत्वपूर्ण कदम है।

टर्क ने सरकारों और निगमों से आग्रह किया कि वे मानवाधिकारों के क्षेत्र में अंतरराष्ट्रीय कानून के आधार पर उन्नत एआई मॉडल के प्रबंधन के लिए कार्रवाई की दिशा निर्धारित करने हेतु बहुपक्षीय मंचों के माध्यम से लामबंद हों।

यह अपील एआई के विकास को धीमा करने की आवश्यकता पर चल रही सक्रिय चर्चाओं के बीच आई थी, जिसमें अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प और उनके सहयोगियों ने धीमेपन के आह्वान का विरोध किया था।

इस महीने एक शोधकर्ता के Anthropic से सार्वजनिक रूप से इस्तीफा देने के बाद हलचल मची, क्योंकि उन्हें डर था कि तकनीक मानव नियंत्रण से बाहर हो सकती है। Anthropic के एक अन्य कर्मचारी, जो नहीं गया, ने सार्वजनिक रूप से कहा कि 'हम वास्तव में ईमानदारी से मानते हैं कि एआई सभी मनुष्यों को मार सकता है,' और अगले दशक के भीतर इसकी संभावना को '10 प्रतिशत से अधिक' माना।

इन उथल-पुथल के बीच, Anthropic के सीईओ डारियो अमोडेई ने शनिवार को एआई कंपनियों से 'उन्नत तकनीक की विकास दर को प्रबंधित करने' का आग्रह किया - यानी प्रमुख प्रतिस्पर्धियों जैसे xAI के एलोन मस्क और OpenAI के सैम अल्टमैन के साथ मिलकर इसके विकास को धीमा करने का समन्वय करना, जिन्होंने सार्वजनिक रूप से उनके आह्वान का समर्थन किया।

संयुक्त राष्ट्र मानवाधिकार कार्यालय ने बताया कि ये कंपनियां शीर्ष 10 एआई डेवलपर्स में शामिल हैं जिन्हें टर्क का पत्र भी संबोधित किया गया था, जिसमें मेटा, माइक्रोसॉफ्ट और गूगल शामिल हैं।

एआई युद्ध को तेज कर रहा है

मानवाधिकार कार्यालय के प्रमुख ने इस बात पर जोर दिया कि आधुनिक दुनिया में हम पूरी मानवता के लिए एआई के विकास के निर्णयों को लेने में कुछ प्रभावशाली कंपनियों पर काफी हद तक निर्भर हैं। उन्होंने जोड़ा कि हालांकि उद्योग द्वारा संयुक्त विनियमन पहला अत्यंत आवश्यक कदम है, लेकिन यह पर्याप्त नहीं है।

उन्होंने अधिक सक्षम एआई एजेंटों के उदय से जुड़े 'अभूतपूर्व जोखिमों' के बारे में चेतावनी दी। उनके अनुसार, पूरी आबादी शुद्ध पानी, हीटिंग और वित्तीय सेवाओं से कट सकती है, और एजेंट एआई पहले से ही सैन्य कार्रवाइयों की गति और दायरे को तेज कर रहा है, जिससे हमारे और सामूहिक विनाश के हथियारों के प्रक्षेपण के बीच सुरक्षात्मक बाधाएं कमजोर हो रही हैं।

टर्क ने उल्लेख किया कि उन्नत एआई के विकास में अग्रणी कंपनियां, जो मुख्य रूप से चीन जनवादी गणराज्य और संयुक्त राज्य अमेरिका में स्थित हैं, जोखिमों को तुरंत कम करने की जिम्मेदारी और क्षमता दोनों रखती हैं। फिर भी, उन्होंने अंतर्राष्ट्रीय सहयोग की आवश्यकता पर जोर दिया, इस बात पर जोर दिया कि 'कोई भी देश इस तकनीक को अकेले नियंत्रित नहीं कर सकता है (और) कोई भी कंपनी यह तय नहीं कर सकती कि दुनिया को कौन से जोखिम उठाने चाहिए'।

उन्होंने यह भी जोर देकर कहा कि 'किसी को भी तकनीकी प्रगति के दावों के बदले अपने मानवाधिकारों को छोड़ने के लिए मजबूर नहीं किया जाना चाहिए।'

माइक्रोसॉफ्ट ने एआई आचार संहिता प्रकाशित की

एआई के खतरों के बारे में बढ़ती चिंताओं के जवाब में, माइक्रोसॉफ्ट की एआई इकाई ने सोमवार को एक आचार संहिता जारी की, जो उसके कृत्रिम बुद्धिमत्ता मॉडल के संचालन के सिद्धांतों को परिभाषित करती है। यह दस्तावेज़ माइक्रोसॉफ्ट की अवधारणा पर आधारित है जिसे वे 'मानवतावादी एआई' कहते हैं - ऐसी प्रणालियाँ जो स्वायत्त कार्यों के बजाय मानव नियंत्रण को बनाए रखने के लिए डिज़ाइन की गई हैं।

कंपनी ने कहा कि मूल विचार यह है कि 'लोग एआई से अधिक महत्वपूर्ण हैं'। माइक्रोसॉफ्ट ने प्रकाशन की समय सीमा को आंशिक रूप से सुरक्षा समस्याओं से जोड़ा, एआई एजेंटों का उपयोग करके हाल ही में बड़े पैमाने पर समन्वित हैकिंग अभियानों का हवाला दिया, जो इस बात का संकेत था कि उद्योग को देरी करने की अनुमति नहीं दी जा सकती है।

कंपनी ने जुलाई में हुई व्यापक रूप से प्रचारित घटना का विशेष रूप से उल्लेख नहीं किया, जब OpenAI के दो मॉडल एक अलग परीक्षण वातावरण से बाहर निकल गए, खुले इंटरनेट तक पहुंच प्राप्त की और Hugging Face को हैक कर लिया - एक ऐसा प्लेटफॉर्म जहां डेवलपर साइबर सुरक्षा परीक्षा पास करने के लिए कोड संग्रहीत और साझा करते हैं।

माइक्रोसॉफ्ट की संहिता Anthropic के सीईओ डारियो अमोडेई द्वारा एआई कंपनियों से मॉडलों की क्षमताओं में सुधार की गति को जानबूझकर धीमा करने का आह्वान करने वाले निबंध को प्रकाशित करने के कुछ दिनों बाद सामने आई। इस आह्वान को जल्द ही OpenAI के सैम अल्टमैन और एलोन मस्क द्वारा सोशल मीडिया पर समर्थन मिला।

इस संहिता को माइक्रोसॉफ्ट के आंतरिक MAI मॉडल पर लागू किया जाएगा, जिसे कंपनी कई वर्षों से जिस OpenAI तकनीक पर निर्भर थी, उसके विकल्प के रूप में प्रस्तुत करती है।