Anthropic ने अपनी कंपनी में बाहरी मूल्यांकनकर्ताओं को शामिल करके अपने सीईओ, डारियो अमोडी के उन्नत आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम के विकास की गति को धीमा करने के प्रस्ताव को लागू करने के लिए एक ठोस कदम उठाया है।
एक्सेंचर को पहले एकीकृत बाहरी मूल्यांकनकर्ता (एम्बेडेड इवैलुएटर) के रूप में चुना गया है। यह सहयोग Faculty, एक्सेंचर के एआई डिवीजन के विशेषज्ञों को Anthropic के भीतर आंतरिक रूप से काम करने की अनुमति देगा ताकि कंपनी की सुरक्षा तंत्रों की जांच की जा सके। गतिविधियों में सुरक्षा उपायों का परीक्षण, रेड टीम अभ्यास और ऐसे विश्लेषण शामिल हैं जिनका उद्देश्य यह पुष्टि करना है कि एआई मॉडल मानवीय मूल्यों का पालन कर रहे हैं।
Anthropic और Accenture ने अगले पांच वर्षों में इस क्षमता को विकसित करने के लिए न्यूनतम $1 बिलियन (लगभग R$ 5.3 बिलियन) का निवेश स्थापित किया है। हालांकि, Anthropic ने घोषणा की है कि काम की तात्कालिकता और प्रासंगिकता को देखते हुए, वह स्वयं Accenture के संचालन का खर्च उठाएगी।
दीर्घकालिक रूप से, कंपनी की अपेक्षा है कि ऐसी गतिविधियों को सरकारी या साझा संसाधनों द्वारा वित्त पोषित किया जाएगा, जैसा कि Anthropic द्वारा जून में प्रस्तुत एडवांस्ड एआई फ्रेमवर्क में रेखांकित किया गया है। चूंकि ये संरचनाएं अभी तक स्थापित नहीं हुई हैं, इसलिए कंपनी विभिन्न मूल्यांकनकर्ताओं और वित्तपोषण मॉडल के साथ सहयोग करने की योजना बना रही है।
अमोडी के सुझाव में यह प्रावधान था कि स्वतंत्र मूल्यांकनकर्ताओं को एआई कंपनियों में कर्मचारी स्तर तक पहुंच प्राप्त हो। इसका उद्देश्य इन विशेषज्ञों को सीधे सुरक्षा प्रथाओं की जांच करने और किसी भी घटना की रिपोर्ट करने के लिए सशक्त बनाना है।
अपना विचार प्रस्तुत करते हुए, अमोडी ने आश्वासन दिया कि Anthropic इस पहले चरण को 'एकतरफा' संभालेगी और उद्योग की अन्य कंपनियों को समान रुख अपनाने के लिए प्रोत्साहित किया।
अन्य साझेदारी और जिम्मेदारी
Accenture के साथ सहयोग अनन्य नहीं होगा; Anthropic ने सूचित किया है कि वह गैर-लाभकारी अनुसंधान संगठन METR और अन्य संभावित संस्थाओं के साथ भी संपर्क में है ताकि इस प्रक्रिया में भाग लिया जा सके।
इसके बावजूद, कंपनी ने इस बात पर जोर दिया कि अपने मॉडलों की सुरक्षा की जिम्मेदारी पूरी तरह से उसके नियंत्रण में बनी हुई है, और बाहरी मूल्यांकनकर्ताओं की उपस्थिति इस कर्तव्य को कम नहीं करती है।
Anthropic ने टिप्पणी की: 'हम अब ये शुरुआती प्रयास साझा कर रहे हैं ताकि लोग और अन्य एआई डेवलपर्स हमारी प्रक्रिया देख सकें।' कंपनी ने आगे कहा कि जैसे-जैसे उद्योग परिपक्व होता जाएगा, वह इस पद्धति को परिष्कृत करेगी और काम शुरू होने और अधिक मूल्यांकनकर्ताओं के एकीकृत होने पर नई जानकारी साझा करेगी।
Accenture की भागीदारी के साथ, कंपनी ने अमोडी की योजना के केंद्रीय विचारों में से एक को एक कार्यात्मक ढांचे में बदलने के लिए एक मौलिक व्यावहारिक कदम उठाया: एक बाहरी इकाई को अपने सुरक्षा प्रणालियों का ऑडिट करने और समस्याओं को बढ़ने से पहले पहचानने के लिए सीधे कंपनी तक पहुंचने देना।