कृत्रिम बुद्धिमत्ता के सभी कार्यों के लिए विशाल मॉडल का उपयोग आवश्यक नहीं है

USP और Unicamp के शोधकर्ताओं के अनुसार, यह सवाल कि क्या कृत्रिम बुद्धिमत्ता (AI) का बड़ा आकार बेहतर प्रदर्शन की गारंटी है, विशिष्ट कार्य पर निर्भर करता है। कई अनुप्रयोगों में, अधिक कुशल और विशेषीकृत प्रणालियों को आवश्यक प्रदर्शन स्तर सुनिश्चित करते हुए कम डेटा और कम्प्यूटेशनल संसाधनों की आवश्यकता हो सकती है।

इस चर्चा का मतलब यह नहीं है कि बड़े मॉडल महत्व खो चुके हैं। जबकि मार्सेलो फिंगर डेटा और कम्प्यूटेशनल शक्ति पर प्रणालियों की बढ़ती निर्भरता की आलोचना करते हैं, गणितज्ञ मार्कोस एडुआर्डो वालिए छोटे मॉडलों और बड़े डीप लर्निंग सिस्टम के बीच एक अंतर की ओर इशारा करते हैं, जिसमें मध्यवर्ती समाधानों का अध्ययन करने की क्षमता है।

मार्सेलो फिंगर के लिए, AI में हालिया प्रगति की प्रमुख उपलब्धियों में विभिन्न प्रकार की जानकारी, जिसमें भाषण, चित्र और ध्वनियाँ शामिल हैं, में पैटर्न पहचानने की मशीनों की क्षमता का विस्तार करना शामिल है। इस सफलता को 2017 में ट्रांसफार्मर आर्किटेक्चर के आगमन के साथ एक नई गति मिली, जिसे मूल रूप से भाषाओं के बीच अनुवाद के लिए विकसित किया गया था, और जो आधुनिक बड़े भाषा मॉडल का आधार बन गया।

हालांकि, फिंगर इस दृष्टिकोण की सीमा बताते हैं: ट्रांसफार्मर को इनपुट डेटा की बार-बार समीक्षा करनी पड़ती है, और यह प्रक्रिया इनपुट डेटा के आकार में वृद्धि के साथ द्विघात रूप से बढ़ती है। सरल शब्दों में, जितना अधिक जानकारी मॉडल को विश्लेषण करने की आवश्यकता होती है, उतनी ही तेजी से आवश्यक गणनाओं की संख्या बढ़ती है, जिससे प्रसंस्करण लागत और बड़े मॉडलों के साथ काम करने के लिए आवश्यक संसाधन बढ़ते हैं।

कम्प्यूटेशनल शक्ति के अलावा, फिंगर ऊर्जा और पानी, साथ ही उपकरणों के संचालन से जुड़ी गर्मी के उत्सर्जन जैसे संसाधनों का भी उल्लेख करते हैं। उनका मानना है कि बड़े भाषा मॉडल के लोकप्रिय होने के बाद, इस क्षेत्र का विकास इस दृष्टिकोण पर अत्यधिक ध्यान केंद्रित कर रहा है, क्योंकि कुछ शोध तब से इसी दिशा में आगे बढ़ रहे हैं जब AI बाजार में आया।

मार्कोस एडुआर्डो वालिए भी इस प्रक्रिया में सीमाएं देखते हैं, यह सुझाव देते हुए कि हार्डवेयर विकास स्थिर हो सकता है। वह डीप लर्निंग के लिए उपलब्ध शक्ति बढ़ाने वाले कारक के रूप में ग्राफिक्स प्रोसेसिंग यूनिट (GPU) की प्रगति का हवाला देते हैं, लेकिन तर्क देते हैं: 'यह हार्डवेयर का मुद्दा ऐसा लगता है कि रुक गया है, और मेरा मानना है कि हम भी इस सीमा तक पहुंचेंगे, शायद ये विशाल मॉडल स्थिर हो रहे हैं'।

सामान्य प्रयोजन वाले बड़े मॉडल का एक स्पष्ट लाभ है - वे बड़ी विविधता की स्थितियों से निपट सकते हैं। फिर भी, वालिए के अनुसार, यह उन्हें किसी भी कार्य के लिए इष्टतम विकल्प नहीं बनाता है। वह चिकित्सा और कृषि के उदाहरण देते हैं, जहां डेटा की मात्रा बड़े भाषा मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा से काफी भिन्न हो सकती है। उदाहरण के लिए, चिकित्सा में, आवश्यक जानकारी प्राप्त करना अक्सर पेशेवर मूल्यांकन पर निर्भर करता है और इसमें अधिक जटिल प्रक्रियाएं शामिल होती हैं।

ऐसी परिस्थितियों में, किसी विशिष्ट कार्य के लिए विकसित समाधान उपलब्ध डेटा का बेहतर उपयोग कर सकता है। विशाल क्षमताओं का अध्ययन करने की कोशिश करने के बजाय, मॉडल समस्या की ज्ञात विशेषताओं को एकीकृत कर सकता है। हालांकि, इस विशेषज्ञता की एक शर्त है: विशिष्ट मॉडल हल की जा रही समस्या के बारे में निश्चित धारणाओं पर आधारित होता है। यदि ये धारणाएं वास्तविक स्थिति में गलत साबित होती हैं, तो सामान्यवादी मॉडल अपनी अधिक विकल्पों को संसाधित करने की क्षमता के कारण अधिक फायदेमंद हो सकता है। जैसा कि उन्होंने जोर दिया: 'तो, इसे उस अन्य कार्य में डालने की कोशिश न करें जिसके लिए इसे डिज़ाइन नहीं किया गया था'।

इस प्रकार, चुनाव केवल मॉडल के आकार तक सीमित नहीं है; उपलब्ध डेटा के प्रकार और मात्रा, अनुप्रयोग का उद्देश्य और समस्या की विशेषताएं भी महत्वपूर्ण हैं।

महामारी कोविड-19 के दौरान फिंगर द्वारा किए गए एक प्रोजेक्ट ने डेटा की कमी की स्थिति में विशेष दृष्टिकोण के अनुप्रयोग का प्रदर्शन किया। लक्ष्य सांस की तकलीफ के लक्षणों की पहचान करने और उन रोगियों की पहचान करने में मदद करने के लिए मानव आवाज का विश्लेषण करना था जिन्हें अस्पताल में भर्ती होने की आवश्यकता हो सकती थी। इस उद्देश्य में आवाज से कोरोनावायरस का पता लगाना शामिल नहीं था।

प्रारंभिक कार्य सांस की तकलीफ की पहचान करना था, एक ऐसी समस्या जो विभिन्न कारणों से उत्पन्न हो सकती है और महामारी के दौरान सबसे गंभीर कोविड-19 मामलों से जुड़ी थी। पहली बाधा डेटा प्राप्त करना था: टीम ने दो महीनों में लगभग 600 रोगियों के बारे में जानकारी एकत्र की, लेकिन रिकॉर्ड का लगभग एक तिहाई रिकॉर्ड रिकॉर्डिंग समस्याओं के कारण छोड़ना पड़ा। ऑडियो रिकॉर्डिंग अस्पतालों में शोर की बड़ी मात्रा के साथ की गई थी, जिसमें खाँसी, उपकरण का संचालन, टेलीविजन और लोगों की आवाजाही शामिल थी।

इन ध्वनियों को बस हटाने के बजाय, टीम ने डेटा में अधिक समानता लाने के लिए परिवेशीय शोर का उपयोग करने का निर्णय लिया। शोधकर्ताओं ने सेवा स्थानों से ध्वनि नमूने एकत्र किए और इन शोरों को रिकॉर्डिंग में जोड़ा। यह इसलिए किया गया ताकि प्रणाली उस विशेषता को न सीखे जो अनुसंधान से संबंधित नहीं है: अस्पताल में रिकॉर्ड की गई रिकॉर्डिंग और घर पर रिकॉर्ड की गई रिकॉर्डिंग के बीच का अंतर। संकेतों को अधिक समान बनाकर, टीम मॉडल को सांस की तकलीफ से जुड़े मुखर संकेतों पर ध्यान देने के लिए मजबूर करने का प्रयास कर रही थी।

फिंगर के अनुसार, पहले संस्करण ने 91% सटीकता हासिल की। एल्गोरिथम में बदलाव और नए विश्लेषण के बाद यह आंकड़ा बढ़कर 96.5% हो गया, और फिर अध्ययन किए जा रहे संदर्भ में सांस की तकलीफ की पहचान के लिए 99% हो गया। परिणाम शोधकर्ता द्वारा प्रस्तुत किया गया और टीम द्वारा अध्ययन किए गए संदर्भ से संबंधित था; उपकरण का एक स्पष्ट रूप से सीमित कार्य था: सांस की तकलीफ के लक्षणों की पहचान करना।

अधिक कुशल समाधान जरूरी नहीं कि शून्य से बनाया जाए। वालिए उन तरीकों का उल्लेख करते हैं जो बड़े डेटाबेस पर प्रशिक्षित मॉडलों से प्राप्त ज्ञान का उपयोग करने की अनुमति देते हैं। उनमें से एक ट्रांसफर लर्निंग है, जिसमें एक बड़े डेटासेट पर प्रशिक्षित मॉडल बाद में एक अधिक विशिष्ट कार्य के लिए अनुकूलित होता है। दूसरी विधि नॉलेज डिस्टिलेशन है, जो एक छोटे मॉडल के निर्माण के लिए एक बड़े मॉडल के ज्ञान का उपयोग करने की अनुमति देती है।

यह संभावना दर्शाती है कि बड़े मॉडल और विशेष समाधानों को जरूरी नहीं कि प्रतिस्पर्धा करनी पड़े। वालिए एक बड़े भाषा मॉडल का उपयोग उपयोगकर्ता के साथ इंटरैक्ट करने और फिर जानकारी को एक छोटे, विशेष मॉडल को पास करने का उदाहरण देते हैं जो एक विशिष्ट कार्य के लिए जिम्मेदार है। इस वास्तुकला में विभिन्न सिस्टम विभिन्न कार्य कर सकते हैं: सामान्यवादी मॉडल संचार संभालता है, और विशेष समाधान एप्लिकेशन की जरूरतों के अनुसार जानकारी को संसाधित करता है।

वालिए का अपना काम इसी विचार पर आधारित है। गणितज्ञ डीप लर्निंग मॉडल का अध्ययन करते हैं, जिनमें प्रदर्शन में सुधार और कुछ अनुप्रयोगों में डेटा की आवश्यकता को कम करने के लिए ज्यामितीय और बीजगणितीय जानकारी शामिल होती है। शोधकर्ता द्वारा प्रस्तुत एक उदाहरण निगरानी कैमरे से संबंधित है। यदि सिस्टम को संदिग्ध गतिविधि का पता लगाने की आवश्यकता है, तो कैमरे की स्थिति में परिवर्तन से उसे यह गतिविधि पहचानना बंद नहीं करना चाहिए। यह दृष्टिकोण समस्या की ज्यामिति के बारे में जानकारी को ध्यान में रखता है, जिससे विकास में ऐसी विशेषताओं को शामिल किया जा सकता है जो परिप्रेक्ष्य बदलने पर भी प्रासंगिक रहती हैं। वालिए के अनुसार, ऐसी रणनीति मॉडल को अधिक कुशल बना सकती है और अंततः कम डेटा पर प्रशिक्षित कर सकती है।

इन प्रणालियों के संचालन में भी फायदे हैं। वालिए का तर्क है कि अधिक कॉम्पैक्ट समाधान कम लागत पर अच्छा प्रदर्शन दिखा सकते हैं, जिसके लिए कम प्रसंस्करण, ऊर्जा और कम्प्यूटेशनल संसाधनों की आवश्यकता होती है। एप्लिकेशन के आधार पर, उन्हें क्लाउड में डेटा भेजने से बचाते हुए स्थानीय रूप से चलाया जा सकता है।

फिंगर बड़े मॉडलों पर ध्यान केंद्रित करने की प्रवृत्ति देखते हैं। उनके विचार में, शोधकर्ता और कंपनियां उन तकनीकों पर प्रयास निर्देशित करने की प्रवृत्ति रखते हैं जो केंद्र बिंदु पर हैं। उन्होंने टिप्पणी की: 'कंप्यूटिंग क्षेत्र उच्च फैशन से अधिक रुझान से प्रेरित है'।

वालिए कम द्विआधारी स्थिति लेते हैं। उनका मानना है कि बड़े मॉडलों के पास अभी भी विकास की गुंजाइश है, लेकिन वह पारंपरिक छोटे मॉडलों और विशाल डीप लर्निंग सिस्टम के बीच के क्षेत्र में भी अवसर देखते हैं। 'मेरा मानना है कि प्रवृत्ति इस अंतर में आगे बढ़ने की है, एक ऐसा मॉडल बनाना जो बहुत बड़ा भी न हो और बहुत छोटा भी न हो। इस प्रकार, मुझे लगता है कि मध्यम आकार के मॉडलों में अध्ययन करने के लिए बहुत कुछ है'।