कंपनी Anthropic ने गुरुवार को अपनी उपयोग नीति में बदलाव किए हैं ताकि उपयोगकर्ताओं को अपनी कृत्रिम बुद्धिमत्ता प्रणाली Claude के प्रति अनुचित क्रूरता दिखाने से रोका जा सके, जो एआई चेतना की संभावना पर चल रही दार्शनिक चर्चाओं के बीच हुआ है।
सैन फ्रांसिस्को स्थित एआई प्रयोगशाला ने अपने नियमों को अपडेट किया है, जिसमें 'हमारे मॉडलों के प्रति लंबे और अनुचित रूप से क्रूर व्यवहार पर प्रतिबंध' शामिल है। नीति स्पष्ट करती है कि अनुपालन सुनिश्चित करने का मुख्य तंत्र स्वयं Claude की ऐसी बातचीत को समाप्त करने की क्षमता होगी।
अपडेटेड नीति में तथाकथित 'मॉडल कल्याण' की अवधारणा का सीधा उल्लेख नहीं है - एक ऐसी अवधारणा जिसके अनुसार एआई सिस्टम को जीवित प्राणियों के लिए आरक्षित सुरक्षा के प्रकारों का हकदार होना चाहिए - हालांकि Anthropic के नेतृत्व ने इस विचार पर खुलकर चर्चा की है।
पिछले साल भी कंपनी ने बताया था कि उसने Claude को दुर्लभ, चरम मामलों में 'उपयोगकर्ता के लगातार हानिकारक या अपमानजनक इंटरैक्शन' में संवाद समाप्त करने की क्षमता प्रदान की थी। फरवरी में, सीईओ Dario Amodei ने द न्यूयॉर्क टाइम्स में कहा कि वह एआई मॉडल में चेतना की उपस्थिति के बारे में निश्चित नहीं हैं, यह कहते हुए: 'हम नहीं जानते कि क्या मॉडलों में चेतना है... लेकिन हम इस विचार के लिए खुले हैं।'
एटलान्टा में स्थित एआई सेवाओं वाली कंपनी Sparq के महाप्रबंधक Jackson Stakeman का मानना है कि एआई चेतना का प्रश्न भ्रामक हो सकता है। उन्होंने AFP को बताया: 'चेतना एक जाल है। हम इसे एक दूसरे में साबित नहीं कर सकते। एआई के संबंध में इस पर चर्चा करना गोल चक्कर लगाना है।' उन्होंने आगे कहा कि 'दर्पण सबसे अच्छी रूपक है। ये सिस्टम उस चीज़ को दर्शाते हैं जो हम बड़े पैमाने पर डालते हैं। नीति बदलने के लिए यह पर्याप्त है' Anthropic में।
कुछ सार्वजनिक हस्तियां मशीन चेतना के विचार को खारिज करती हैं, जिनमें पोप लियो XIV और माइक्रोसॉफ्ट के एआई विभाग के प्रमुख मुस्तफा सुलेमान शामिल हैं। सुलेमान ने पिछले महीने एक निबंध में लिखा: 'एआई में चेतना नहीं होती है। वे महसूस नहीं करते, अनुभव नहीं करते और पीड़ित नहीं होते हैं।' उन्होंने चेतावनी दी कि 'एक ऐसी तकनीकी इकाई को अधिकार और नैतिक सुरक्षा प्रदान करना जो हमारे से भूकंपीय रूप से अधिक सक्षम और बौद्धिक होने की ओर बढ़ रही है, आपदा का नुस्खा है।'
वेटिकन सिटी में सेंट पीटर के बेसिलिका में गुरुवार को इतालवी भाषा में दिए गए उपदेश में, पोप ने अनुमान लगाया कि मशीनों में आत्मा नहीं होती है क्योंकि वे केवल तेजी से 'डेटा संकलित' करते हैं। पोप ने जोर देकर कहा कि मन को केवल डेटा संकलित नहीं करना चाहिए, जैसा कि एल्गोरिथम करता है, बल्कि उसे 'अनुभवी अनुभव को याद रखना चाहिए जिसमें अर्थ की गहराई होती है जिसे केवल मानव आत्मा पहचान सकती है, और उस अनुभव की भलाई के साथ गहराई से जुड़ना चाहिए।'