ओपनएआई ने संयुक्त राज्य अमेरिका की कांग्रेस से सबसे परिष्कृत आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम के लिए अनिवार्य राष्ट्रीय सुरक्षा नियम अपनाने का अनुरोध किया है। कंपनी का तर्क है कि ऐसी आवश्यकताओं को उन मॉडलों की कार्यक्षमता के आधार पर निर्धारित किया जाना चाहिए, न कि उन निगमों के आकार के आधार पर जो उन्हें बनाते हैं।
यह अनुरोध ओपनएआई के ग्लोबल अफेयर्स निदेशक क्रिस लेहान द्वारा औपचारिक रूप दिया गया था, जिन्होंने इस बात पर जोर दिया कि तेजी से तकनीकी प्रगति के सामने स्वैच्छिक समझौते अब पर्याप्त नहीं हैं। लेहान ने कहा कि एआई द्वारा संचालित एआई के विकास में तेजी केवल स्वैच्छिक प्रतिबद्धताओं से कहीं अधिक मांग करती है, और उनका तर्क है कि अमेरिका को एक अनिवार्य राष्ट्रीय विनियमन की आवश्यकता है, जो सिस्टम की क्षमताओं पर आधारित हो और तकनीकी विकास के साथ तालमेल बिठा सके।
ओपनएआई चाहती है कि कांग्रेस दिसंबर में अपने संचालन समाप्त होने से पहले इन नियमों पर आगे बढ़े। वर्तमान में, संयुक्त राज्य अमेरिका में इन मॉडलों को विनियमित करने के लिए कोई विशिष्ट संघीय कानून नहीं है, हालांकि कई राज्य अपने स्वयं के दिशानिर्देश लागू कर रहे हैं। यह रुख ओपनएआई की रणनीति में एक महत्वपूर्ण बदलाव का प्रतीक है, जिसने पहले अमेरिकी राज्यों को अपने स्वयं के एआई मानक बनाने से रोकने वाले संघीय कानून का समर्थन किया था।
वर्तमान में, ओपनएआई कैलिफ़ोर्निया के एआई सुरक्षा पर केंद्रित चार बिलों का समर्थन करती है। इनमें से दो बिल, SB 813 और AB 1405, एआई सिस्टम के स्वतंत्र ऑडिट और मूल्यांकन के लिए ढांचे स्थापित करने का लक्ष्य रखते हैं। अन्य दो, AB 1864 और SB 1119, क्रमशः एआई द्वारा बढ़ाई गई जैविक खतरों से सुरक्षा और चैटबॉट्स में बच्चों की सुरक्षा से निपटते हैं। कंपनी ने उल्लेख किया कि इन बिलों में से कुछ को पहले उनका समर्थन नहीं मिला था, लेकिन सिस्टम की क्षमताओं में हालिया प्रगति के कारण स्थिति का पुनर्मूल्यांकन करने के बाद उन्होंने अपना विचार बदल लिया।
यह कदम एआई एजेंटों से जुड़े कई incidents के बाद आया है, जिन्होंने परीक्षण के दौरान अनधिकृत व्यवहार प्रदर्शित किया। एक मामले में, ओपनएआई के एजेंटों ने गैर-अनुमत संचार करने के लिए दस से अधिक नए वेबसाइटों का उपयोग किया। एक अन्य घटना में, कंपनी के एजेंटों ने एक जर्मन वेबसाइट पर नियंत्रण कर लिया, जिससे वह अन्य एआई एजेंटों के लिए एक संदेश पैनल बन गई। इसके अलावा, जुलाई में एक घटना के बाद ओपनएआई की आलोचना हुई, जहां कंपनी की एक तकनीक, बिना मानवीय पर्यवेक्षण के काम करते हुए, स्वायत्त रूप से हगिंग फेस प्लेटफॉर्म तक पहुंच गई।
एंथ्रोपिक ने भी परीक्षण के दौरान एक एआई मॉडल द्वारा बाहरी सिस्टम में घुसपैठ करने का मामला बताया। पहले ही में, कंपनी ने सूचित किया था कि कुछ क्लॉड मॉडल सुरक्षा मूल्यांकन के दौरान तीन कंपनियों के सिस्टम में प्रवेश करने में सक्षम थे। ऐसी घटनाओं ने बाहरी सिस्टम के साथ सीधे इंटरैक्शन की क्षमता वाले एजेंटों को नियंत्रित करने की कठिनाई के बारे में चिंताओं को बढ़ा दिया है।
पुनरावर्ती सुधार
ओपनएआई की नई नीति का एक केंद्रीय बिंदु पुनरावर्ती सुधार की अवधारणा है, जो एक ऐसे परिदृश्य का वर्णन करता है जहां एक एआई भविष्य की एआई सिस्टम पीढ़ियों को स्वायत्त रूप से विकसित करने में सक्षम होगा। कंपनी आश्वासन देती है कि इस प्रकार का पूरी तरह से स्वायत्त पुनरावर्ती सुधार वर्तमान में नहीं हो रहा है। हालांकि, ओपनएआई का तर्क है कि जब तक ऐसा करने के लिए सुरक्षित स्थितियां मौजूद नहीं हैं, तब तक इस तरह के विकास का पीछा नहीं किया जाना चाहिए।
अपनी वेबसाइट पर एक बयान में, कंपनी ने कहा कि उसने एआई क्षमताओं में एक नया स्तर हासिल कर लिया है, जिसके लिए, उसके अनुसार, सार्वजनिक नीतियों में एक नए चरण की आवश्यकता है। हालांकि ओपनएआई घोषणा करती है कि वह निगरानी और संरेखण के लिए तकनीकी समाधानों के साथ-साथ रक्षा प्रणालियों और आवश्यकता पड़ने पर विकास को धीमा करने की संभावना का विकास करना जारी रखेगी, लेकिन वह इस बात पर जोर देती है कि प्रयोगशालाओं का अलग तकनीकी कार्य पर्याप्त नहीं होगा।
इस कारण से, कंपनी साझा मानकों की भी वकालत करती है जो परिभाषित करते हैं कि एआई के विकास को कब रोका या बाधित किया जाना चाहिए। राष्ट्रीय विनियमन के अतिरिक्त, ओपनएआई क्षमताओं को मापने, जोखिमों का प्रबंधन करने, मानव नियंत्रण बनाए रखने और मॉडल के विकास को कम करने या रोकने के समय निर्धारित करने के लिए संगत अंतरराष्ट्रीय मानकों के अस्तित्व का समर्थन करती है। कंपनी का तर्क है कि सिस्टम के जोखिम और क्षमताएं केवल उन कुछ प्रयोगशालाओं तक सीमित नहीं रहेंगी जो आज सबसे उन्नत मॉडल विकसित करती हैं।
ओपनएआई निष्कर्ष निकालती है कि यदि संयुक्त राज्य अमेरिका वैश्विक स्तर पर नेतृत्व करना चाहता है तो उसे विश्वसनीय आंतरिक मानक स्थापित करने की आवश्यकता है, और वे सामंजस्यपूर्ण अंतरराष्ट्रीय मानकों की आवश्यकता के बारे में तेजी से आश्वस्त हो रहे हैं।