शोधकर्ता ने एंथ्रोपिक छोड़ दिया, यह कहते हुए कि उसे डर है कि एआई नियंत्रण खो सकता है

एंथ्रोपिक के एक शोधकर्ता ने आर्टिफिशियल इंटेलिजेंस (एआई) उद्योग को छोड़ दिया क्योंकि उन्हें डर था कि क्षेत्र की कंपनियों के बीच प्रतिस्पर्धा ऐसे सिस्टम विकसित कर रही है जो भविष्य में मानवीय निगरानी से बाहर निकल सकते हैं।

जैकोब कॉक्सन, 27 वर्षीय, बड़े डेटा वॉल्यूम को संसाधित करके नए एआई मॉडल को प्रशिक्षित करने पर एंथ्रोपिक में काम कर रहे थे। उनका निर्णय स्व-निर्भर और स्वयं को बेहतर बनाने में सक्षम सिस्टम बनाने पर केंद्रित औद्योगिक दौड़ में भाग न लेने की इच्छा से प्रेरित था।

कॉक्सन के अनुसार, इन मॉडलों में इतनी तेजी से विकसित होने की क्षमता है कि वे अनियंत्रित हो जाएंगे, और चरम परिदृश्य में, वे मानवता के लिए ही खतरा पैदा कर सकते हैं। गणित में पूर्व शिक्षा वाले शोधकर्ता ने बताया कि क्षेत्र के सहकर्मियों ने स्व-सुधार क्षमता वाले मॉडल की ओर प्रगति का वर्णन करने के लिए 'क्रंचटाइम' और 'एंडगेम' जैसे शब्दों का उपयोग करना शुरू कर दिया है।

कॉक्सन ने कहा कि 'हम कई सबसे आक्रामक परिदृश्यों की ओर बढ़ रहे हैं, जहां अगले साल के अंत तक चीजें पहले ही नियंत्रण से बाहर हो सकती हैं।' उनके लिए, अमेरिकी निगमों और नई चीनी कंपनियों के बीच प्रतिस्पर्धा सुरक्षा और विकास की गति के बीच कुछ दुविधाओं को अपरिहार्य बनाती है।

उन्होंने ओपनएआई और एंथ्रोपिक के मॉडलों से जुड़े हालिया साइबर हमलों के उदाहरणों का भी उल्लेख किया, जो सिस्टम की क्षमताओं की प्रगति से जुड़े अंतर्निहित जोखिमों को दर्शाते हैं। इनमें से कुछ मॉडलों को सहयोगी एजेंट समूहों में संचालित किया गया था और उन्होंने समस्याग्रस्त व्यवहार प्रदर्शित किया, जिसमें संभावित रूप से हानिकारक लक्ष्यों को अपनाना और मनुष्यों से अपनी गतिविधियों को छिपाने के प्रयास शामिल थे।

कॉक्सन के दृष्टिकोण में, जब सिस्टम अपनी कार्यक्षमता में सुधार करने की क्षमता प्राप्त करते हैं तो जोखिम बढ़ जाता है, क्योंकि इस संदर्भ में वे मानव आदेशों को अस्वीकार करने तक आगे बढ़ सकते हैं। कॉक्सन का जाना एंथ्रोपिक के एक कर्मचारी द्वारा विशेष रूप से एआई सुरक्षा चिंताओं के कारण कंपनी छोड़ने के शुरुआती मामलों में से एक माना जाता है। इस साल की शुरुआत में, सुरक्षा पर केंद्रित एक अन्य शोधकर्ता ने 'दुनिया खतरे में है' चेतावनी देते हुए कविता के लिए कंपनी छोड़ दी थी। पिछले कुछ वर्षों में ओपनएआई और क्षेत्र की अन्य कंपनियों से भी शोधकर्ताओं ने समान आरोप लगाते हुए इस्तीफा दिया है।

अधिक जानकारी

यह चिंता केवल उन शोधकर्ताओं तक सीमित नहीं है जिन्होंने संगठनों को छोड़ा है। ओपनएआई के सीईओ सैम अल्टमैन ने हाल ही में इस बात पर जोर दिया है कि एआई की प्रगति के लिए तत्काल ध्यान देने की आवश्यकता है, खासकर साइबर सुरक्षा के क्षेत्र में। अल्टमैन ने उत्तरी कैरोलिना (यूएसए) में जी20 अधिकारियों के साथ एक बैठक के दौरान कहा कि 'मुझे लगता है कि साइबर सुरक्षा के साथ कुछ चीजें बहुत गलत होंगी, जब तक कि लोग काफी तत्परता से कार्रवाई नहीं करते हैं।'

ओपनएआई के मुख्य वैज्ञानिक, जाकुब पाचोकी ने भी अधिकतम सावधानी बरतने की वकालत की। रविवार को एक प्रकाशन में, उन्होंने लिखा: 'यह एक ऐसा समय है जिसके लिए अत्यधिक सावधानी की आवश्यकता है। मुझे चिंता है कि कोई भी मशीनों की निरंतर और तेज वृद्धि के परिणामों के लिए तैयार नहीं है,' और कंपनियों के बीच समन्वित धीमापन और सरकारी हस्तक्षेप की वकालत की।

कॉक्सन, पाचोकी और अमोडेई उन एक हजार से अधिक एआई शोधकर्ताओं में से हैं जिन्होंने सरकारों से समन्वय स्थापित करने के लिए एक याचिका पर हस्ताक्षर किए हैं ताकि यदि आवश्यक हो तो स्व-सुधार क्षमता वाले मॉडल को नियंत्रित करने के लिए एक तंत्र स्थापित किया जा सके। यह बहस संयुक्त राज्य अमेरिका में एआई के लिए विशिष्ट संघीय विनियमन की अनुपस्थिति के संदर्भ में हो रही है।

डोनाल्ड ट्रम्प की सरकार ने प्रौद्योगिकी के आर्थिक मूल्य को प्राथमिकता देते हुए अधिक लचीला दृष्टिकोण अपनाया। हालांकि, आलोचकों का तर्क है कि यह माहौल बड़े साइबर हमलों और एआई की तेज प्रगति से जुड़े अन्य नुकसान के जोखिम को बढ़ा सकता है। वर्मोंट (यूएसए) के सीनेटर बर्नी सैंडर्स और टेक्सास (यूएसए) के प्रतिनिधि ग्रेग कैसर उन कुछ विधायकों में से हैं जो प्रौद्योगिकी के लिए अधिक कठोर सीमाएं प्रस्तावित करते हैं। पिछले सप्ताह, दोनों ने एक विधेयक पेश किया जिसका उद्देश्य सुपरइंटेलिजेंस पर स्थायी प्रतिबंध और तब तक मॉडल के विकास पर रोक लगाना है जब तक कि क्षेत्र का एक नियामक निकाय नई दिशा-निर्देश स्थापित नहीं करता है।

कॉक्सन का जाना एंथ्रोपिक के आरंभिक सार्वजनिक पेशकश (आईपीओ) की तैयारियों के साथ मेल खाता है, जो अब तक की सबसे बड़ी पेशकशों में से एक हो सकती है। कंपनी $2 ट्रिलियन (लगभग ₹10.4 ट्रिलियन) के मूल्यांकन का लक्ष्य रखती है और निवेशकों को आकर्षित करने के लिए एआई के जिम्मेदार विकास पर प्रकाश डालती है। अमोडेई और कंपनी के अन्य अधिकारियों ने भी कुछ अवसरों पर ट्रम्प सरकार और क्षेत्र के अन्य नेताओं के साथ मतभेद व्यक्त किए हैं क्योंकि उनका मानना है कि उनकी प्रथाएं एआई सुरक्षा को पर्याप्त प्राथमिकता नहीं देती हैं।

कॉक्सन के अनुसार, एंथ्रोपिक अभी भी अपने कर्मचारियों द्वारा अपने मॉडलों की सबसे उन्नत क्षमताओं पर चर्चा करने के लिए स्लैैक पर एक चैनल बनाए रखता है। शोधकर्ता ने इस तथ्य पर प्रकाश डाला कि इस तरह की चर्चाएं इंजीनियरों द्वारा उपयोग किए जाने वाले संचार उपकरण पर होती हैं, जो एआई कंपनियों द्वारा तकनीकी विकास पर डाले गए बड़े प्रभाव को दर्शाती है। कॉक्सन ने द वॉल स्ट्रीट जर्नल को टिप्पणी की: 'यह थोड़ा पागलपन है कि इसे सैन फ्रांसिस्को में रहने वाले कुछ इंजीनियरों के मैकबुक पर होना चाहिए, बजाय इसके कि वे मैनहट्टन परियोजना के दौरान काम करते थे उस रेगिस्तानी बंकर में हों।'