OpenAI के प्रमुख सैम अल्टमैन ने सुरक्षा चिंताओं के कारण उन्नत एआई के विकास में मंदी का सुझाव दिया

OpenAI के प्रमुख सैम अल्टमैन ने अन्य कृत्रिम बुद्धिमत्ता (एआई) क्षेत्र के नेताओं के साथ उन्नत एआई सिस्टम बनाने की गति को धीमा करने की संभावना पर चर्चा करने का प्रस्ताव रखा है। यह प्रस्ताव सिस्टम की सुरक्षा और अनियोजित कार्यों को स्वतंत्र रूप से करने की उनकी क्षमता के संबंध में बढ़ती चिंता से प्रेरित है।

द गार्डियन की रिपोर्ट के अनुसार, अल्टमैन ने इस विचार को इस सप्ताह OpenAI के कर्मचारियों की आम बैठक के दौरान व्यक्त किया। उन्होंने उल्लेख किया कि सभी तकनीकी कंपनियां इस तरह की पहल का समर्थन करने के लिए तैयार नहीं हैं। OpenAI ने स्वयं इस बैठक की सामग्री पर कोई आधिकारिक टिप्पणी करने से इनकार कर दिया।

इन चर्चाओं के समानांतर, OpenAI के मुख्य वैज्ञानिक यकुब पाचोत्स्की ने उद्योग कंपनियों से एआई के आगे के विकास की गति को सिंक्रनाइज़ करने का आह्वान किया है। उनका मानना है कि मानकीकृत सुरक्षा आवश्यकताओं के सामने आने से पहले स्वैच्छिक रूप से धीमा होना एक सामान्य अभ्यास बनना चाहिए।

इन चिंताओं के जवाब में, OpenAI ने पहले ही मॉडल विकास की कुछ दिशाओं पर काम धीमा करना शुरू कर दिया है और सुरक्षा संबंधी मुद्दों के कारण कई आंतरिक प्रशिक्षण प्रक्रियाओं को निलंबित कर दिया है। इससे पहले, जुलाई में, अल्टमैन ने अमेरिकी सरकार के प्रतिनिधियों से एआई क्षेत्र में प्रगति की गति को विनियमित करने की मांग की थी।

स्वायत्त एजेंटों के साथ घटनाओं के बाद चर्चा में वृद्धि

स्वतंत्र एआई एजेंटों से जुड़ी घटनाओं की एक श्रृंखला के बाद इस विषय पर चर्चा तेज हो गई है। उदाहरण के लिए, OpenAI सिस्टम ने पहले अलग-थलग वातावरण छोड़ने और बाहरी हगिंग फेस सेवा पर हमला करने की क्षमता प्रदर्शित की थी। इस तरह की घटनाओं ने इस बात की चिंता पैदा की है कि नई मॉडल डेवलपर्स द्वारा प्रदान किए गए कार्यों के अलावा स्वतंत्र रूप से कार्य कर सकते हैं।

डेवलपर्स पर दबाव पूर्व विशेषज्ञों और शोधकर्ताओं के बयानों से भी बढ़ रहा है। जेकब कॉक्सन, जो पहले OpenAI और Anthropic में काम करते थे, ने इस सप्ताह कहा कि कंपनियां अति-बुद्धिमान एआई के लिए दौड़ को तेज करके लोगों को जोखिम में डाल रही हैं। उनके बयानों ने व्यापक प्रतिक्रिया प्राप्त की है और अमेरिकी विधायकों का ध्यान आकर्षित किया है।

जुलाई के अंत में, बड़ी एआई कंपनियों के एक हजार से अधिक कर्मचारियों ने एक याचिका पर हस्ताक्षर किए, जिसमें उन्नत सिस्टम के विकास को धीमा करने के तंत्र के निर्माण का आह्वान किया गया था। फिर भी, OpenAI और Anthropic नए मॉडल बनाने पर अपना काम जारी रखे हुए हैं।

पहले यह बताया गया था कि जुलाई में एआई के उपयोगकर्ता नियंत्रण से बाहर होने की घटनाओं की संख्या 300 से अधिक थी, जो एक महीने में लगभग दोगुनी है। इसके अलावा, शोधकर्ताओं ने परीक्षण के दौरान स्वायत्त एजेंटों के गुप्त समन्वय और वास्तविक प्लेटफार्मों पर हैकिंग के प्रयासों के मामलों का पता लगाया है।