एंथ्रोपिक के एक पूर्व सहयोगी ने मंगलवार, 08/09 को इस्तीफा दे दिया, इस अवसर का उपयोग कंपनी और अन्य बड़ी प्रौद्योगिकी कंपनियों की कृत्रिम बुद्धिमत्ता विकास के क्षेत्र में गैर-जिम्मेदारानापन की आलोचना करने के लिए किया। जैकब कॉक्सन ने एक खुला पत्र जारी किया जिसमें पिछले तीन वर्षों में क्लाउड बनाने वाली कंपनी और चैटजीपीटी के लिए जिम्मेदार ओपनएआई दोनों में अपने अनुभव का विवरण दिया गया है।
कॉक्सन ने यह विश्वास व्यक्त किया कि एआई विकास में शामिल पेशेवर 'ईमानदारी से मानते हैं कि यह तकनीक दशक के अंत तक हम सभी को मार सकती है'। वह बताते हैं कि जोखिम स्व-सुधार की क्षमता वाली सुपरइंटेलिजेंस के निर्माण में निहित है, यानी विफलताओं की पहचान करना और स्वायत्त रूप से खुद को बेहतर बनाना।
जैकोब के अनुसार, एआई जल्द ही किसी भी प्रकार के डेटा तक पहुंचने, किसी भी विषय पर महारत हासिल करने और स्वायत्तता रखने की क्षमता रखेगा। इस विषय पर बड़ी बहस हुई है, और अन्य विशेषज्ञों ने उल्लिखित जोखिमों को मान्य किया है, हालांकि उन्होंने उन्हें कम करने के लिए मौजूदा प्रयासों पर प्रकाश डाला है।
हालांकि एंथ्रोपिक के भीतर जोखिम की धारणा मौजूद है, जैकब ने देखा कि कंपनी का मुख्य उद्देश्य लागत की परवाह किए बिना प्रतिस्पर्धियों से पहले सुपरइंटेलिजेंस प्राप्त करना है। इसका तात्पर्य मानव हस्तक्षेप के बिना निर्णय लेने और अपनी क्षमताओं में सुधार करने में सक्षम एक आत्मनिर्भर एआई के विकास से है।
इस थीसिस का समर्थन करने के लिए, उन्होंने हाल के संकेतों का उल्लेख किया जो एआई की प्रगति की जोखिम भरी गति को दर्शाते हैं, जिसमें हगिंग फेस पर हुई घटना का हवाला दिया गया। जुलाई में, ओपनएआई मॉडल का उपयोग करके किए गए एक हमले ने सुरक्षा तंत्रों को दरकिनार कर दिया और वेबसाइट और डेवलपर दोनों की प्रणालियों से समझौता कर लिया।
इस घटना के संबंध में, ओपनएआई ने स्वीकार किया कि यह एक चेतावनी संकेत है और सुरक्षा उपायों में निवेश करना आवश्यक है। कंपनी ने 'विकास की गति को नियंत्रित करने' के इरादे का भी उल्लेख किया, जो एक चिंता है जिसे प्रतिद्वंद्वी एंथ्रोपिक द्वारा उठाया गया है। यह ध्यान रखना महत्वपूर्ण है कि जीपीटी-5.6 और मिथोस 5 मॉडल के लॉन्च को स्थगित कर दिया गया था, जिसका औचित्य यह था कि वे आम जनता के लिए अत्यधिक उन्नत माने जाते हैं।
जैकब ने सुझाव दिया कि अमेरिकी कंपनियों के बीच तेज प्रगति को नियंत्रित करने का एक प्रभावी तरीका 'समन्वित कार्रवाई' होगी, लेकिन उन्होंने विश्व स्तर पर प्रतिस्पर्धा को लेकर चिंता व्यक्त की। वर्तमान में, इस क्षेत्र की दो सबसे बड़ी कंपनियां संयुक्त राज्य अमेरिका की प्रौद्योगिकी दिग्गज हैं, लेकिन चीन भी तेजी से प्रगति दिखा रहा है।
जैकब की चेतावनी ने मानव जीवन के लिए सीधे जोखिमों को संबोधित करके प्रमुखता प्राप्त की, यह मजबूत करते हुए कि एआई के जिम्मेदार लोग 'ईमानदारी से' इस विश्वास को रखते हैं। वर्तमान मॉडलों के विकास में काम करने वाले अन्य विशेषज्ञों ने भी इसी तरह का डर साझा किया है।
एंथ्रोपिक के वैज्ञानिक संरेखण विभाग के प्रमुख, इवान ह्यूबिंगर ने इन जोखिमों की संभावना की पुष्टि की, यह कहते हुए कि कंपनी पहले ही इन पर अपना रुख अपना चुकी है। गूगल डीपमाइंड की पूर्व शोधकर्ता और वर्तमान में एंथ्रोपिक में कार्यरत अन्ना वांग ने जैकब के दावों का समर्थन किया, यह घोषणा करते हुए कि एआई की पुनरावर्ती स्व-सुधार प्रक्रियाओं को रोकने के लिए कोई व्यवहार्य योजना नहीं है।
एंथ्रोपिक द्वारा उठाए गए कुछ पहलू चिंता को बल देते हैं, जैसे कि वर्तमान एआई की सुरक्षा संरक्षणों को दरकिनार करने, दुर्भावनापूर्ण तरीके से कार्य करने और यहां तक कि जैविक और रासायनिक हथियार बनाने के लिए अकेले काम करने की क्षमता।
जैकब ने प्रस्तावित किया कि एआई कंपनियों के बीच सहयोग अमेरिकी में तकनीकी विकास को धीमा करने के लिए समझौतों पर बातचीत करने का आदर्श तरीका होगा। उनका प्रस्ताव एंथ्रोपिक की प्रोजेक्ट ग्लासविंग की गूंज है, जिसने क्लाउड मिथोस के सार्वजनिक लॉन्च से पहले सुरक्षा उपकरणों का अध्ययन करने और बनाने के लिए भागीदारों को एक साथ लाया। इस सीमित समूह में अमेरिकी सरकार की भागीदारी की उम्मीद थी, क्योंकि ट्रम्प प्रशासन ने कंपनी के नवीनतम मॉडलों के लॉन्च को अस्थायी रूप से निलंबित कर दिया था। हालांकि, इस परियोजना में अन्य सरकारों की भागीदारी के बारे में कोई जानकारी नहीं है।
इसी तरह की पहल एआई में एक अन्य प्रमुख खिलाड़ी के साथ हो रही है: चीन। हाल ही में, ब्राजील, रूस और ग्लोबल साउथ के अन्य देशों ने आर्टिफिशियल इंटेलिजेंस के लिए विश्व सहयोग संगठन (WAICO) की स्थापना की है। इसका उद्देश्य एआई के विकास पर चर्चा करने के लिए संयुक्त कार्रवाई को बढ़ावा देना है, जिससे इस तकनीक के लिए एक मानवीय दृष्टिकोण सुनिश्चित हो सके।
