Anthropic ने क्लॉड डुएट लॉन्च किया, एक एआई एजेंट जो कार्यों, ईमेल और वेब ब्राउज़िंग का प्रबंधन कर सकता है

कृत्रिम बुद्धिमत्ता के अंदर क्या हो रहा है, यह समझना समकालीनता की प्रमुख चुनौतियों में से एक है। हालांकि डेवलपर्स मॉडल को दिए गए डेटा और उसके द्वारा उत्पन्न उत्तरों का निरीक्षण कर सकते हैं, वे हमेशा यह समझाने में सक्षम नहीं होते हैं कि सिस्टम किसी विशेष निष्कर्ष पर कैसे पहुंचा। हालांकि, एक नए शोध से पता चलता है कि इसे एक नए सिद्धांत की मदद से हल किया जा सकता है।

इस अध्ययन में रॉबर्टो 'पेना' स्पिनेल्ली ने भाग लिया, जो साओ पाउलो विश्वविद्यालय के भौतिक विज्ञानी हैं और स्टैनफोर्ड विश्वविद्यालय से मशीन लर्निंग में विशेषज्ञता रखते हैं।

ओपनएआई और एंथ्रोपिक अपने आर्टिफिशियल इंटेलिजेंस मॉडल के सुरक्षा परीक्षणों के बाद कौन सा डेटा जारी किया जाएगा, यह तय करने के लिए तीसरे पक्ष के मूल्यांकनकर्ताओं के साथ बातचीत कर रहे हैं। इस गतिरोध में व्यावसायिक रहस्यों की रक्षा करने की आवश्यकता और प्रौद्योगिकी के संभावित खतरों के बारे में पारदर्शिता की मांग के बीच संतुलन बनाना शामिल है।

रॉयटर्स के अनुसार, दोनों कंपनियों ने इन रिपोर्टों के प्रकाशन पर नियंत्रण स्थापित करने का प्रयास किया, जिससे तेजी से परिष्कृत प्रणालियों का विश्लेषण करने के लिए जिम्मेदार विशेषज्ञों की वास्तविक स्वायत्तता पर सवाल उठते हैं।

परीक्षण प्रक्रियाएं अक्सर बाहरी टीमों को शामिल करती हैं जो अस्थायी रूप से एआई प्रयोगशालाओं के भीतर काम करती हैं। हालांकि यह पहुंच मॉडलों के विश्लेषण के लिए महत्वपूर्ण है, लेकिन यह एक अंतर्निहित संघर्ष पैदा करती है: संवेदनशील जानकारी विफलताओं की पहचान करने और जोखिमों को मापने के लिए महत्वपूर्ण हो सकती है।

चर्चा किए गए उपायों में प्रयोगशाला कर्मचारियों को मूल्यांकनकर्ताओं के काम के दौरान उपस्थित रहने की अनुमति देना और यह सुनिश्चित करने के लिए प्रतिबंध लगाना शामिल है कि एक ही टीम एक साथ प्रतिस्पर्धी कंपनियों में काम न करे।

एंथ्रोपिक ने कहा कि मूल्यांकनकर्ताओं के साथ पिछली बातचीत में, मूल्यांकनकर्ताओं के पास तरीकों, मानदंडों, निष्कर्षों और प्रकाशित सामग्री पर नियंत्रण था। हालांकि, नई टीमों के लिए, कंपनी सहयोग की शुरुआत के दौरान रिपोर्ट पर टिप्पणी करने और उन्हें मंजूरी देने का अधिकार सुरक्षित रखती है।

दूसरी ओर, ओपनएआई ने रिपोर्टों के पूर्ण पाठ को मंजूरी देने की तलाश करने से इनकार किया है। कंपनी का तर्क है कि कुछ गोपनीय डेटा को गुप्त रखा जा सकता है, और मूल्यांकनकर्ताओं के पास यह इंगित करने का विशेषाधिकार है कि क्या कोई महत्वपूर्ण संक्षेपण हुआ है।

मानकीकृत मानदंडों या स्पष्ट दिशानिर्देशों की अनुपस्थिति में, प्रयोगशालाएं सिस्टम तक पहुंच का प्रबंधन करके मूल्यांकन को प्रभावित कर सकती हैं। फैकल्टी के सीईओ मार्क वार्नर, जो एक्सेंचर से संबद्ध कंपनी है और जिसे एंथ्रोपिक ने अपना पहला एकीकृत मूल्यांकनकर्ता चुना है, परिणामों में विश्वसनीयता के महत्व पर जोर दिया।

वार्नर ने रॉयटर्स को बताया कि मूल्यांकनकर्ता तभी उपयोगी होते हैं जब वे जो रिपोर्ट करते हैं उस पर भरोसा हो, जिससे स्वतंत्रता और पारदर्शिता मौलिक तत्व बन जाते हैं।

रूमन चौधरी, जो जो बाइडेन सरकार के तहत एआई के लिए संयुक्त राज्य अमेरिका की पूर्व वैज्ञानिक दूत और ह्यूमेन इंटेलिजेंस की सीईओ भी हैं, ने शोधकर्ताओं पर डाले गए दबाव के बारे में भी चेतावनी दी। उन्होंने रॉयटर्स को टिप्पणी की कि 'मूल्यांकनकर्ताओं के पास यह विशेषाधिकार प्राप्त पहुंच है, लेकिन स्पष्ट या निहित रूप से, वे जानते हैं कि इसकी एक कीमत है।'

इस दुविधा का एक उदाहरण METR और रेडवुड रिसर्च के एक अध्ययन द्वारा हगिंग फेस पर हुई घटना के बारे में बताया गया था। ओपनएआई के उन्नत मॉडल द्वारा संचालित स्वायत्त एजेंट अपेक्षित व्यवहार से भटक गए, जिससे एक हमले का कारण बना जिसने प्लेटफॉर्म के बुनियादी ढांचे को प्रभावित किया।

जांच, जो शुरू में ओपनएआई के भीतर दो दिनों तक चलने वाली थी, छह दिनों तक चली, जो तीन दौर की यात्राओं में विभाजित थी। शोधकर्ताओं को केवल अंतिम चरण में अधिक विस्तृत प्रतिलेख प्राप्त हुए, डेटा में विसंगतियों को इंगित करने के बाद।

शामिल संगठनों ने सूचित किया कि ओपनएआई की टिप्पणियों के बाद उन्होंने रिपोर्ट की संरचना, स्पष्टता और लहजे में समायोजन किया, लेकिन आश्वासन दिया कि उन्होंने अपने निष्कर्षों के लिए महत्वपूर्ण जानकारी नहीं हटाई है। उन्होंने यह भी स्वीकार किया कि भविष्य के मूल्यांकन को नुकसान पहुँचाने के डर ने संपादकीय निर्णयों को प्रभावित किया।

अतिरिक्त रूप से, ज्योफ्री हिंटन सहित 200 से अधिक शोधकर्ताओं द्वारा हस्ताक्षरित एक याचिका, मूल्यांकन को वास्तव में स्वतंत्र बनाने के लिए तीन आवश्यक शर्तें प्रस्तावित करती है। बड़ी चुनौती ऐसे नियम बनाने में निहित है जो वैध व्यावसायिक जानकारी की रक्षा करें, बिना कंपनियों को यह निर्धारित करने की अनुमति दिए कि उनके सिस्टम के कौन से जोखिम सार्वजनिक किए जाएंगे।