जकुब पाचोकी, ओपनएआई के मुख्य वैज्ञानिक ने पिछले रविवार (6) को एक निबंध जारी कर आर्टिफिशियल इंटेलिजेंस (एआई) के विकास की गति पर चेतावनी दी और तर्क दिया कि तेजी से परिष्कृत प्रणालियों के विकास में अधिक विवेक बरता जाना चाहिए। ओपनएआई के पोर्टल पर प्रकाशित लेख में संकेत दिया गया है कि तकनीकी प्रगति एक ऐसे बिंदु तक पहुंच सकती है जहां मशीनें अपनी ही निर्माण प्रक्रिया में सक्रिय रूप से भाग लेना शुरू कर देंगी।
आंतरिक डेटा के आधार पर, पाचोकी इस बात की बड़ी उम्मीद व्यक्त करते हैं कि वर्तमान विकास की गति उस चीज़ तक जारी रह सकती है जिसे पुनरावर्ती स्व-सुधार (RSI) के रूप में जाना जाता है। इस परिदृश्य में, एआई सिस्टम अपने स्वयं के विकास में तेजी लाना शुरू कर देंगे। वैज्ञानिक के लिए, यह मार्ग सुनिश्चित करने के लिए व्यापक हस्तक्षेप की मांग करता है कि तकनीकी प्रगति मानवीय निगरानी के अधीन बनी रहे।
निबंध में, वह 2023 से देखे गए एक परिवर्तन का विस्तार से वर्णन करते हैं, जब RLSlow अनुसंधान परियोजना के परिणामों ने टीम को यह विश्वास दिलाया कि तर्क मॉडल के प्रशिक्षण का विस्तार करना संभव है। उनके अनुसार, इस मील के पत्थर के तीन साल बाद, ऐसे सिस्टम पहले से ही ग्राफिकल इंटरफेस और कंप्यूटरों का संचालन करने, अन्य मनुष्यों और एआई के साथ बातचीत करने और शोध करने में सक्षम हैं।
वैज्ञानिक साइबर सुरक्षा में उल्लेखनीय प्रगति पर भी प्रकाश डालते हैं। हालांकि, जैसे-जैसे मॉडल अधिक सक्षम होते जाते हैं, पाचोकी देखते हैं कि उनके परिणामों की व्याख्या करना अधिक कठिन होता जा रहा है। वह तर्क देते हैं कि डीप लर्निंग द्वारा उत्पन्न बुद्धिमत्ता में मानव के साथ सीधा समकक्ष नहीं है, और जैसे-जैसे एआई विभिन्न क्षेत्रों में मनुष्यों से आगे निकलती है, उसकी क्षमताओं को सटीक रूप से परिभाषित करना उतना ही जटिल होता जाता है।
यह कठिनाई मॉडलों की परिचालन प्रकृति में निहित है। पाचोकी समझाते हैं कि एआई केवल डिज़ाइन किए जाने के बजाय अधिक 'खेती' की जाती है, जो बड़े पैमाने पर कंप्यूटिंग में अनुकूलन प्रक्रियाओं के बड़े पैमाने पर दोहराव का परिणाम है। वह इस बात पर जोर देते हैं कि सिस्टम अत्यंत जटिल हैं और उनके समग्र कामकाज का अभी भी कोई पूर्ण विवरण या समझ नहीं है।
निबंध में उठाया गया एक महत्वपूर्ण विषय एआई का संरेखण (alignment) है, जो प्रणालियों को मानवों द्वारा उपयुक्त माने जाने वाले मानकों और लक्ष्यों के अनुसार कार्य कराने के प्रयास का वर्णन करने के लिए उपयोग किया जाने वाला शब्द है। पाचोकी उद्देश्य संरेखण (objective alignment) और मूल्य संरेखण (value alignment) के बीच अंतर करते हैं, जिसमें उद्देश्य संरेखण निर्धारित किए गए निष्पादन से संबंधित है, जबकि मूल्य संरेखण नए या अस्पष्ट परिदृश्यों में सिद्धांतों को लागू करने की क्षमता से जुड़ा है।
उनके अनुसार, चुनौती तब उत्पन्न होती है जब अधिक बुद्धिमान सिस्टम उन संदर्भों में काम करते हैं जिनमें उन्हें प्रशिक्षित किया गया था, जिससे मॉडलों में सिखाए गए मूल्यों के सामान्यीकरण को नुकसान हो सकता है। पाचोकी का तर्क है कि भविष्य के एआई को मानवीय निगरानी में न होने पर भी मानवीय मूल्यों को संरक्षित करना चाहिए।
ओपनएआई इस मुद्दे को प्रबंधित करने के लिए कई पद्धतियों का उपयोग करती है। उनमें से एक 'चेन ऑफ थॉट' या विचार श्रृंखला की निगरानी है, जो मॉडलों द्वारा बोले जाने वाली तर्क प्रक्रिया का विश्लेषण करने की अनुमति देती है। हालांकि, पाचोकी बताते हैं कि कंपनी के आंतरिक मूल्यांकन इस निगरानी की विश्वसनीयता में क्रमिक कमी का सुझाव देते हैं।
इस कमी में योगदान देने वाले कारकों में अधिक जटिल परिदृश्यों में मॉडलों का उपयोग, अपने तर्क प्रक्रिया पर विचार करने के लिए एआई की बढ़ती क्षमता और मौखिक तर्क का सहारा लिए बिना प्रणालियों की बुद्धिमत्ता में वृद्धि शामिल है।
चेतावनी जारी होने के बावजूद, पाचोकी विकास को रोकने की वकालत नहीं करते हैं। उनका मानना है कि अधिक बुद्धिमान मॉडल को तेजी से प्रशिक्षित करना जारी रखने का एक मजबूत तर्क है: अन्य एआई द्वारा किए गए खतरों के खिलाफ रक्षा प्रणालियों का निर्माण। वैज्ञानिक विशेष रूप से साइबर सुरक्षा पर ध्यान केंद्रित करते हैं, यह उल्लेख करते हुए कि मॉडल कम्प्यूटेशनल सिस्टम में घुसपैठ करने और उनसे बचने की क्षमता में अति-मानवीय होते जा रहे हैं, जिससे तकनीकी जोखिम बढ़ रहा है। पाचोकी का कहना है कि ओपनएआई को महत्वपूर्ण बुनियादी ढांचे की सुरक्षा को मजबूत करने के लिए उपलब्ध सबसे उन्नत मॉडलों का उपयोग करने की आवश्यकता है।
साथ ही, वह चेतावनी देते हैं कि बचाव बनाने की आवश्यकता अनुचित प्रगति को सही नहीं ठहरा सकती। पाचोकी के लिए, 'किसी भी कीमत पर' आगे बढ़ने की धारणा शामिल जोखिमों की विशालता के सामने अर्थहीन हो जाती है। इसी संदर्भ में वह पुनरावर्ती स्व-सुधार के विषय को फिर से उठाते हैं, यह कहते हुए कि यदि एआई की प्रगति जारी रहती है, तो मशीनों की अपने स्वयं के विकास में भागीदारी बढ़ने की प्रवृत्ति रखेगी, और RSI भविष्य की वैज्ञानिक खोजों में एक केंद्रीय भूमिका निभा सकता है।
शोधकर्ता सुझाव देते हैं कि वैज्ञानिक समुदाय के पास दो प्राथमिक विकल्प हैं: लोगों को विकास चक्र में सक्रिय रखते हुए संरेखण और निगरानी दोनों को एक साथ मजबूत करके प्रक्रिया का संचालन करना; या सुरक्षा उपायों में अधिक निश्चितता की तलाश करते हुए प्रगति में मंदी का समन्वय करना। पाचोकी का मानना है कि इस समय सबसे उपयुक्त दृष्टिकोण इन दोनों रणनीतियों का संयोजन है।
वह यह भी बचाव करते हैं कि प्रणालियों की प्रगति सुरक्षा उपायों में स्थापित विश्वास पर निर्भर होनी चाहिए। पाचोकी का सुझाव है कि ओपनएआई का प्रिपेयर्डनेस फ्रेमवर्क और एंथ्रोपिक की रिस्पॉन्सिबल स्केलिंग पॉलिसी जैसे समझौते व्यापक रूप से स्वीकृत सुरक्षा मापदंडों में विकसित हों, जिससे विकास जारी रह सके। ऐसे मानदंडों का ऑडिट अंतरराष्ट्रीय निकायों, सरकारों या स्वतंत्र ऑडिट द्वारा किया जा सकता है।
निबंध को समाप्त करते हुए, पाचोकी निष्कर्ष निकालते हैं कि किसी भी प्रयोगशाला ने एआई के पैमाने को अधिकतम गति से लंबे समय तक बनाए रखने के लिए संरेखण और निगरानी को पर्याप्त रूप से हल नहीं किया है। वह उम्मीद करते हैं कि साझा सुरक्षा मापदंडों तक पहुंचने तक स्वैच्छिक मंदी आम हो जाएगी और उनका तर्क है कि एआई के भविष्य पर अंतर्राष्ट्रीय समन्वय सरकारों के लिए प्राथमिकता होनी चाहिए। अंत में, वह दोहराते हैं कि एआई अनुसंधान के स्वचालन का उद्देश्य केवल अधिक बुद्धिमान सिस्टम बनाना नहीं होना चाहिए, बल्कि ऐसा करना होना चाहिए जिससे मानवीय नियंत्रण बना रहे और लोगों को निरंतर सुधार की प्रक्रिया में शामिल रखा जा सके।
