Anthropic के शोधकर्ताओं ने एआई की प्रगति के कारण मानव विलुप्ति के जोखिम के बारे में चेतावनी दी

Anthropic के शोधकर्ताओं और सहयोगियों ने कृत्रिम बुद्धिमत्ता (एआई) की प्रगति के खतरों के बारे में सार्वजनिक रूप से चेतावनियाँ तेज कर दी हैं। संगठन के सदस्यों का संकेत है कि यह तकनीक इतनी उन्नत और खतरनाक स्तर तक पहुंच सकती है कि अगले दशक में मानव विलुप्ति का कारण बन सकती है।

ये बयान जैकब कॉक्सन द्वारा Anthropic के शोधकर्ता के रूप में कंपनी छोड़ने की घोषणा के एक दिन बाद दिए गए थे। एक वायरल हो चुके प्रकाशन में, उन्होंने दावा किया कि Anthropic और OpenAI, जहां वह पहले काम करते थे, दोनों ही जिम्मेदारी से एआई मॉडल विकसित नहीं कर रहे थे, और उनका कहना था कि वे 'हमारे जीवन पर दांव लगा रहे थे'।

कॉक्सन के इस प्रदर्शन ने Anthropic के अन्य कर्मचारियों को भी इस तकनीक के तेजी से विकास से जुड़े जोखिमों के बारे में अपनी चेतावनियाँ जारी करने के लिए प्रेरित किया।

अन्ना वांग

अन्ना वांग, जो Anthropic में आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) सुरक्षा पर काम करती हैं और पहले गूगल डीपमाइंड में थीं, ने कहा कि कंपनी के कई लोग विकास की गति धीमी करने की इच्छा रखते हैं ताकि उन्नत मॉडलों से जुड़े जोखिमों को कम करने के लिए एक प्रभावी योजना बनाई जा सके। वांग ने लिखा: 'स्व-पुनरावर्ती रूप से आत्म-सुधार करने वाले एआई के जोखिमों को हल करने के लिए अभी तक कोई व्यवहार्य वैज्ञानिक योजना मौजूद नहीं है।'

Anthropic के एक अन्य सहयोगी, ड्रेक थॉमस ने कॉक्सन के इन मॉडलों के विकास में भाग न लेने के उनके निर्णय का सम्मान व्यक्त किया, यदि वह उन्हें ग्रह-स्तरीय जोखिम मानते हैं। थॉमस ने टिप्पणी की: 'चीजें बहुत तेजी से आगे बढ़ रही हैं और हमारे पास सुपरइंटेलिजेंस के लिए वह स्तर की गारंटी भी नहीं है जिसकी हम कामना करते हैं।'

इन आरोपों ने एलोन मस्क की प्रतिक्रिया को जन्म दिया, जिन्होंने चेतावनियों के प्रति काफी अधिक संशयवादी रुख अपनाया। मस्क ने X पर लिखा: 'यह एक साजिश जैसा लगता है।' बाद में, अरबपति ने सुझाव दिया कि यह घटना एक 'साइऑप' का हिस्सा हो सकती है, जो सार्वजनिक धारणा को आकार देने के उद्देश्य से एक मनोवैज्ञानिक ऑपरेशन का वर्णन करने के लिए उपयोग किया जाने वाला शब्द है।

मस्क ने पार्कर थेयर, कैपिटल रिसर्च समूह के एक रूढ़िवादी शोधकर्ता के एक प्रकाशन का जवाब दिया, जिसने बिना कोई सबूत पेश किए, यह सिद्धांत उठाया कि कॉक्सन का बयान एक परिष्कृत और वित्त पोषित जनसंपर्क अभियान की शुरुआत होगी जिसका उद्देश्य एआई के खिलाफ अधिक कठोर नियमों के समर्थन को प्राप्त करना है। मस्क ने दावा किया कि इस कथित ऑपरेशन की तैयारियां कुछ समय पहले से चल रही थीं और कॉक्सन का प्रकाशन केवल प्रक्रिया का प्रारंभिक ट्रिगर था।

कॉक्सन ने सीधे तौर पर अरबपति का खंडन किया, एक सेल्फी प्रकाशित करके और दावा किया कि वह एक वास्तविक व्यक्ति हैं और ये उनकी सच्ची मान्यताएं हैं। उन्होंने यह भी उल्लेख किया कि यदि मस्क ने उनमें से कुछ को बर्खास्त नहीं किया होता तो वह xAI के शोधकर्ताओं के साथ परामर्श कर सकते थे।

अधिक जानकारी:

सवालों के जवाब में, Anthropic ने अपने रणनीतिक दृष्टिकोण का बचाव किया। कंपनी के एक प्रवक्ता ने द गार्डियन को बताया: 'हम हमेशा पारदर्शी रहे हैं कि एआई अभूतपूर्व लाभ और जोखिम लाएगा।' कंपनी ने इस बात पर जोर दिया कि उसके मॉडल अभी भी उद्योग के कुछ सबसे मजबूत सुरक्षा उपायों के साथ विकसित किए जा रहे हैं। हालांकि, सभी विशेषज्ञ इस बात पर सहमत नहीं हैं कि प्राथमिक जोखिम मानवता को नष्ट करने में सक्षम एक सुपरइंटेलिजेंस होना चाहिए।

गैरी मार्कस

एआई बहस में एक जाने-माने व्यक्ति, गैरी मार्कस ने राय दी कि अब प्रौद्योगिकी का बहिष्कार करने का समय आ गया है क्योंकि नुकसान पहले ही हो रहा है। मार्कस के लिए, सबसे तत्काल चिंताएं एआई की सहायता से बनाए गए रोगजनक, एआई सिस्टम द्वारा उत्पन्न दुष्प्रचार से शुरू या तीव्र संघर्ष, और महत्वपूर्ण बुनियादी ढांचे को नष्ट करने में सक्षम हमले शामिल हैं। उन्होंने कहा: 'मैंने ऐसा कुछ नहीं देखा जो यह दर्शाता हो कि इनमें से कोई भी चीज़ नियंत्रण में है।'

यह चर्चा उसी दिन विशेष रूप से ठोस हो गई जब शोधकर्ताओं की चेतावनियों ने जोर पकड़ा। Anthropic ने एक रिपोर्ट जारी की जिसमें बताया गया कि कंपनी ने अपने एआई मॉडल का उपयोग करके एक जैविक हथियार बनाने के प्रयास को कैसे विफल किया। यह घटना यह साबित नहीं करती है कि किसी स्वायत्त एआई ने अपने आप कोई हथियार विकसित किया, लेकिन यह दर्शाती है कि वर्तमान में उपलब्ध मॉडलों का उपयोग अत्यंत खतरनाक उद्देश्यों के लिए प्रयासों में कैसे किया जा सकता है। इस मामले ने दो सामान्य रूप से अलग-अलग बहसों को एक साथ ला दिया: संभावित रूप से सुपरइंटेलिजेंट एआई के भविष्य के जोखिम और वर्तमान मॉडलों के उपयोग से होने वाले तत्काल खतरों से संबंधित खतरे जो गंभीर नुकसान पहुंचा सकते हैं। मूल लेख ओल्हार डिजिटल में प्रकाशित हुआ था।