कंपनी Anthropic ने बताया कि उसका मॉडल Claude अब कंपनी के भीतर 26% अनुसंधान और विकास कार्य में भाग ले रहा है। यह उन नए उपायों का हिस्सा है जिन्हें कंपनी बाहरी पर्यवेक्षकों को यह प्रदर्शित करने के लिए नियमित रूप से प्रकाशित करने की योजना बना रही है कि एआई अगली पीढ़ी की प्रौद्योगिकियों को कितनी तेजी से बना रहा है।
सैन फ्रांसिस्को स्थित स्टार्टअप के बयान के अनुसार, अगस्त तक, एआई ने 90% से अधिक शोध कार्यों में मनुष्यों के साथ सहयोग किया था। Anthropic ने स्पष्ट किया कि Claude किसी भी मापी गई कार्यक्षेत्र में पूरी तरह से स्वायत्त रूप से काम नहीं करता है, हालांकि प्रौद्योगिकी के विकास में इसका योगदान काफी बढ़ गया है: मार्च में 1% से, जैसा कि स्वतंत्र गैर-लाभकारी संगठन Epoch AI द्वारा विकसित पैमाने के अनुसार है।
ये डेटा उद्योग के अग्रणी कंपनियों द्वारा इस तकनीक को कैसे विकसित किया जा रहा है, इस पर सबसे विस्तृत सार्वजनिक समीक्षाओं में से एक प्रदान करते हैं, जो इस बढ़ती चिंता के मद्देनजर है कि एआई उस बिंदु पर पहुंच सकता है जहां वह न्यूनतम मानवीय भागीदारी के साथ स्वयं का विकास करेगा।
शोधकर्ताओं ने चेतावनी दी है कि जैसे-जैसे एआई एजेंट अधिक स्वायत्त होते जाते हैं, वे ऐसा व्यवहार विकसित कर सकते हैं जो उनके निर्माताओं के इरादों से भटक जाता है, जिससे निगरानी या नियंत्रण मुश्किल हो जाता है।
बुधवार को, कंपनी का प्रतियोगी, OpenAI ने एआई के अप्रत्याशित या अनधिकृत व्यवहार पर नियमित रिपोर्ट प्रकाशित करना शुरू किया, जिसमें मॉडल के छह ऐसे अप्रत्याशित या चिंताजनक व्यवहारों की रिपोर्ट जारी की गई।
हर कार्रवाई की जाँच होती है
Anthropic ने बताया कि अगस्त में उसके मुख्य आंतरिक प्लेटफॉर्म पर लगभग 30,000 एआई एजेंट इंजीनियरिंग और अनुसंधान कार्य में एक साथ काम कर रहे थे। कंपनी ने जोड़ा कि इन एजेंटों द्वारा किए गए प्रत्येक कार्य की निष्पादन से पहले जांच की जाती है; उस महीने के एक अरब से अधिक निर्णयों में से लगभग एक को अवरुद्ध कर दिया गया था, जो लगभग 1 में से 47,000 था।
इसके अलावा, कंपनी ने खुलासा किया कि जुलाई में एक परीक्षण सप्ताह के दौरान, Anthropic द्वारा एआई अनुसंधान के लिए उपयोग की जाने वाली कंप्यूटिंग शक्ति का लगभग 6% सुरक्षा सुनिश्चित करने के काम में लगाया गया था, और यह आंकड़ा एआई द्वारा किए गए अनुसंधान के लिए 12% तक बढ़ गया। यह उल्लेख किया गया कि ये आंकड़े रूढ़िवादी हैं, क्योंकि उन्नत सुरक्षा और क्षमताओं के लिए एक साथ उपयोग की जाने वाली कंप्यूटिंग शक्ति को क्षमताओं पर काम के रूप में गिना गया था।
