संयुक्त राष्ट्र (UN) का तर्क है कि सरकारों को कृत्रिम बुद्धिमत्ता (AI) के सभी खतरों की पूरी समझ होने का इंतजार नहीं करना चाहिए ताकि सुरक्षा उपायों का निर्माण शुरू किया जा सके। यह चेतावनी संगठन द्वारा इस तकनीक के जोखिमों और अवसरों दोनों का विश्लेषण करने के लिए स्थापित अंतरराष्ट्रीय वैज्ञानिक पैनल की पहली विषयगत रिपोर्ट में प्रस्तुत की गई थी।
दस्तावेज़ ऐसे खतरों की ओर इशारा करता है जिनमें विनाशकारी या अपरिवर्तनीय क्षमता होती है। यह चर्चा संयुक्त राष्ट्र महासभा के दौरान हो रही है, एक ऐसा समय जब संयुक्त राज्य अमेरिका और चीन कृत्रिम बुद्धिमत्ता से संबंधित मुद्दों पर बहस करने की तैयारी कर रहे हैं।
इस पैनल के लिए, उन्नत एआई सिस्टम से जुड़े कुछ घटनाओं के ठीक से कैसे या क्यों होते हैं, यह निर्धारित करने की आवश्यकता सुरक्षा मजबूत करने से पहले नहीं है। यह सिफारिश सावधानी के सिद्धांत का पालन करती है, जो इस विचार का समर्थन करता है कि केवल वैज्ञानिक अनिश्चितता संभावित गंभीर या अपरिवर्तनीय नुकसान के खिलाफ उपायों को अपनाने में बाधा नहीं डालनी चाहिए। इस अवधारणा को मूल रूप से 1992 के रियो घोषणापत्र पर पर्यावरण और विकास में शामिल किया गया था, और इसने सार्वजनिक स्वास्थ्य और पर्यावरणीय नीतियों को प्रभावित किया है।
रिपोर्ट एआई सिस्टम पर नियंत्रण खोने की संभावना के सामने इस सिद्धांत के महत्व पर जोर देती है। उजागर किए गए पहलुओं में OpenAI, Anthropic, Google और Meta जैसी कंपनियों से जुड़ी घटनाओं का उल्लेख है, जिसमें वास्तविक लक्ष्यों पर हमले और संदेश मंचों पर नियंत्रण लेने वाले एजेंट समूहों का भी उल्लेख है।
वैज्ञानिक पैनल यूएन द्वारा स्थापित एक ढांचे का हिस्सा है जो एआई शासन पर चर्चा के लिए समर्पित है। इसका उद्देश्य सरकारों को प्रौद्योगिकी के बारे में ज्ञात और अज्ञात दोनों के बारे में एक निष्पक्ष विश्लेषण प्रदान करना है। समानांतर रूप से, एआई शासन पर वैश्विक संवाद है, जो विभिन्न शासन दृष्टिकोणों के बीच सहयोग और अनुकूलता पर चर्चा करने के लिए सरकारों और अन्य क्षेत्रों को एक साथ लाता है।
संयुक्त राष्ट्र के महासचिव एंटोनियो गुटेरेस ने संगठन के रुख को संक्षेप में प्रस्तुत किया, यह कहते हुए कि हालांकि राष्ट्रीय स्तर पर कार्रवाई मौलिक है, वैश्विक समन्वय आवश्यक है। यह विषय अंतरराष्ट्रीय स्तर पर प्रासंगिक हो जाता है क्योंकि संयुक्त राज्य अमेरिका और चीन एआई पर बातचीत करने की तैयारी कर रहे हैं। गुटेरेस का तर्क है कि अत्याधुनिक सिस्टम विकसित करने की सबसे अधिक क्षमता रखने वाले देशों को संचार चैनल खुले रखने, जानकारी साझा करने और आपसी सुरक्षा उपाय स्थापित करने चाहिए।