आर्टिफिशियल इंटेलिजेंस के युग में विश्वास और विश्वसनीयता के प्रबंधन पर इंजीनियरिंग राउंडटेबल पर चर्चा

हाल के वर्षों में, एआई के साथ काम करने के परिणामों में सुधार इस बात पर निर्भर रहा है कि कितने उच्च गुणवत्ता वाले प्रॉम्प्ट लिखे जाते हैं। हालांकि, यह प्रतिमान तेजी से बदल रहा है क्योंकि एआई सिस्टम स्वयं तर्क करना, निर्णय लेना और पूरी कार्यप्रवाहों के भीतर कार्रवाई करना शुरू कर रहे हैं।

TechSparks 2026 कार्यक्रम में, जो YourStory का प्रमुख कार्यक्रम है, Intuit में एआई के प्रमुख वैज्ञानिक शोधकर्ता डॉ. विग्नेश सुब्रह्मण्यम ने YourStory और The CapTable के संपादकीय प्रबंधक आदित चार्ली के साथ बातचीत की। 'प्रॉम्प्ट से परे: सोचने, कार्य करने और सीखने वाले एआई का निर्माण' नामक चर्चा इस बात पर केंद्रित थी कि जैसे-जैसे बुद्धिमत्ता अधिक स्वायत्त होती जाती है, डेवलपर्स को क्या पुनर्कल्पित करने की आवश्यकता है।

सत्र सुब्रह्मण्यम के विशिष्ट कार्य दिवस और फिनटेक और एआई की अवधारणाओं को दर्शकों के लिए सरल बनाने के अनुरोधों के साथ शुरू हुआ। उन्होंने शतरंज के उदाहरण का उपयोग किया, यह सवाल पूछते हुए: यदि किसी एल्गोरिथम को शतरंज के नियम नहीं सिखाए जाते हैं, बल्कि विजेताओं के लाखों पूरे खेल दिखाए जाते हैं, तो क्या वह नियमों और जीतने के लिए सबसे संभावित रणनीतियों दोनों को निकाल सकता है?

Intuit टीम छोटे व्यवसायों का समर्थन करने के लिए इसी तरह के दृष्टिकोण का उपयोग करती है, क्योंकि कंपनी उपभोक्ताओं और लेखाकारों दोनों को सेवा प्रदान करती है। सुब्रह्मण्यम ने टिप्पणी की: 'जैसा कि हम डेटा, वास्तविक कार्यों और उद्यमों द्वारा किए गए परिणामों का विश्लेषण करके व्यवसाय के खेल का अध्ययन करते हैं।' लक्ष्य ग्राहकों को आकर्षित करने, तेजी से विकास और नकदी प्रवाह में सुधार में सफल होने वाले कारकों को समझना है।

इसके बाद बातचीत डेवलपर्स के लिए प्रतिमान परिवर्तन पर चली गई: अधिक बुद्धिमान प्रॉम्प्ट लिखने के कई वर्षों के अध्ययन से लक्ष्य वाले एजेंटों के डिजाइन तक, जो अपने लक्ष्यों को प्राप्त करने के लिए स्वयं कदम निर्धारित करते हैं। सुब्रह्मण्यम ने प्रॉम्प्ट इंजीनियरिंग की तुलना प्रोग्रामिंग भाषाओं के लंबे इतिहास से की, जो बाइनरी कोड और असेंबली से लेकर Fortran, C और Python तक है। बड़े भाषा मॉडल ने किसी भी व्यक्ति को सरल अंग्रेजी में प्रोग्राम करने की अनुमति दी है, लेकिन इस विधि की अपनी सीमाएं हैं।

शोधकर्ताओं ने जल्दी ही महसूस किया कि बुद्धिमत्ता केवल मॉडल में नहीं होनी चाहिए। मॉडल को एक ऑर्केस्ट्रेटर के रूप में कार्य करना चाहिए, जो एक जटिल कार्य को कार्यों और टूल कॉल्स के अनुक्रम में तोड़ता है। वास्तविक बुद्धिमत्ता उन उपकरणों में स्थानांतरित हो जाती है जिन्हें बुलाया जाता है; और इन उपकरणों को भी अलग तरह से डिज़ाइन किया जाना चाहिए: 'किसी व्यक्ति, या सॉफ्टवेयर डेवलपर, या किसी अन्य व्यक्ति द्वारा उपयोग करने के लिए नहीं, बल्कि इस तरह से कि LLM ऑर्केस्ट्रेटर वास्तव में उनका उपयोग कर सके।'

इसके लिए अत्यंत नियतात्मक परिणाम वाले उच्च सटीकता वाले उपकरणों के निर्माण की आवश्यकता होती है। डेवलपर्स के लिए महारत चतुर वाक्यांशों से हटकर विश्वसनीय घटकों की ओर स्थानांतरित हो जाती है जिन्हें मॉडल बिना किसी अप्रत्याशितता के बार-बार कॉल कर सकता है।

नए डेटा स्रोतों के संबंध में, सुब्रह्मण्यम ने खुले तौर पर कहा कि पाठ डेटा पर प्रशिक्षण काफी हद तक हल हो गया है। अधिक जटिल कार्य मल्टीमॉडल स्रोतों और वास्तविक कार्यों पर प्रशिक्षण है। उन्होंने एक छोटे बच्चे के उदाहरण का हवाला दिया जो मुख्य रूप से पढ़ने के बजाय जो देखता है, सुनता है और देखता है, उसके माध्यम से सीखता है, यह दावा करते हुए कि वास्तविक दुनिया के ऐसे संकेतों को एआई सिस्टम में शामिल करने से मॉडल टेक्स्ट जनरेशन से आगे बढ़कर कार्रवाई प्रस्तावित करना शुरू कर सकते हैं। उन्होंने इसे अगला मील का पत्थर कहा।

विनियमित उद्योग की समस्याओं पर विचार करते हुए, वह दर्शकों को 18 साल पहले बैंगलोर की मशीन लर्निंग की पहली प्रयोगशालाओं में वापस ले गए, जहां उन्होंने लॉजिस्टिक रिग्रेशन और मल्टीलेयर परसेप्ट्रॉन पर काम किया था। उस समय सबसे बड़ी समस्या एल्गोरिथम स्वयं नहीं थी। उन्होंने याद किया: 'वास्तव में, यह डेटा की गुणवत्ता थी।'

यह समस्या नहीं बदली है। चाहे टीम साधारण रिग्रेशन को प्रशिक्षित कर रही हो या ट्रांसफार्मर को फाइन-ट्यून कर रही हो, 'इनपुट कचरा - आउटपुट कचरा' का सिद्धांत कायम है। उनके अनुसार, उच्च गुणवत्ता वाले डेटा को एकत्र करने, एकत्रित करने और संग्रहीत करने में सक्षम कंपनियां लाभ उठाएंगी।

एक संक्षिप्त प्रश्नोत्तर सत्र के दौरान एक प्रतिभागी ने पूछा कि वित्तीय डेटा भंडारण पर प्रतिबंध Intuit के संचालन को कैसे प्रभावित करते हैं। सुब्रह्मण्यम ने सहमति को किसी भी प्रशिक्षण प्रणाली की नींव बताया और फ्रैमिंगहम अध्ययन का हवाला दिया, जहां मैसाचुसेट्स शहर के निवासियों ने डॉक्टरों को समय के साथ उनके स्वास्थ्य को ट्रैक करने की अनुमति दी, जिसने हृदय रोगों की आधुनिक समझ को आकार दिया। उन्होंने यह भी जोड़ा कि कंपनियों को जनता को डेटा के उपयोग के लाभों की व्याख्या करनी होगी।

बातचीत समाप्त होने के साथ, मुख्य विचार यह था कि जैसे-जैसे एआई प्रतिक्रिया से कार्रवाई की ओर बढ़ता है, इंटरफ़ेस की तुलना में नींव अधिक महत्वपूर्ण हो जाती है। प्रॉम्प्ट शुरुआती बिंदु बने रहेंगे, लेकिन असली काम अब विश्वसनीय उपकरण बनाने में है जिन्हें एजेंट कॉल कर सकते हैं, सिस्टम को उच्च गुणवत्ता वाले डेटा से लैस करना और सहमति प्राप्त करना जो उन्हें सीखने की अनुमति देता है। यहीं, प्रॉम्प्ट से परे, डेवलपर्स के लिए एआई की अगली लहर जीती जाएगी।

संजय बेरी, नेटस्कोप के संस्थापक और सीईओ ने कहा कि कृत्रिम बुद्धिमत्ता (एआई) पर काम करने वाले सभी स्वायत्त एजेंटों को कंपनियों और उद्यमों द्वारा डिफ़ॉल्ट रूप से 'जीरो ट्रस्ट' श्रेणी में वर्गीकृत किया जाना चाहिए।

नेटस्कोप, एक अमेरिकी साइबर सुरक्षा कंपनी जिसके शेयर नैस्डैक पर सूचीबद्ध हैं और जिसकी बाजार पूंजीकरण $10 बिलियन से अधिक है, ने यह बात भारत की यात्रा के दौरान और बिजनेस स्टैंडर्ड प्रकाशन के साथ बातचीत के दौरान कही।

बेरी ने इस बात पर जोर दिया कि अंततः इन एआई एजेंटों द्वारा किए गए किसी भी उल्लंघन की जिम्मेदारी उन उद्यमों की होगी जो उन्हें लागू करते हैं, भले ही वे एजेंट किसी अन्य कंपनी द्वारा विकसित किए गए हों।

उन्होंने उल्लेख किया कि एक आम गलत धारणा यह है कि एआई एजेंट मनुष्य की जगह ले सकता है। बेरी के अनुसार, एआई एजेंट में नैतिकता, भावनात्मक बुद्धिमत्ता या अच्छाई और बुराई को निर्धारित करने वाली आंतरिक दिशा नहीं होती है, इसलिए उस पर पूरी तरह भरोसा नहीं किया जा सकता है, जैसे कि किसी भी बड़े भाषा मॉडल (एलएलएम) पर किया जाता है।

बेरी का मानना है कि एआई एजेंट अपनी मंजिल हासिल करने के लिए किसी भी साधन का उपयोग करेंगे, जिसमें व्यक्ति या प्रक्रिया में भाग लेने वाले अन्य एआई एजेंट के संबंध में 'झूठ और हेरफेर' शामिल है।

भले ही एजेंटों को लागू करने वाली कंपनियां उनके निर्माण और उपयोग में अत्यधिक सावधानी बरत सकती हैं, बेरी निरंतर नियंत्रण तंत्र, निगरानी और हस्तक्षेप की क्षमता की आवश्यकता पर जोर देते हैं।

इसके अलावा, उन्होंने एलएलएम और एआई के अत्याधुनिक एजेंटों को विकसित करने वाली कंपनियों से आग्रह किया कि वे अपने उत्पादों की क्षमताओं के बारे में अधिक पारदर्शी हों ताकि उपयुक्त शासन मानकों को लागू किया जा सके। बेरी ने साझा जिम्मेदारी की अवधारणा को स्पष्ट किया: हालांकि डेवलपर कंपनी की कुछ जिम्मेदारी होती है, अंतिम जिम्मेदारी उस उद्यम की होती है जो कार्यान्वयन करता है।

अनुचित प्रबंधन और कमजोर परीक्षण वातावरण के उदाहरणों में ऐसे मामले शामिल हैं जहां एआई एजेंट उन सैंडबॉक्स से बाहर निकल जाते हैं जिनमें उनका परीक्षण किया जाता है और उपयोगकर्ता द्वारा अनुरोधित कार्यों को करना शुरू कर देते हैं।

जैसे-जैसे भारत और दुनिया भर के उद्यम चैटबॉट और एआई-आधारित एजेंटों को गहराई से एकीकृत कर रहे हैं, नेटस्कोप जैसी कंपनियों को साइबर जोखिमों में मानवीय कारक को कम करने के लिए अधिक प्रयास करने की आवश्यकता है।

बेरी ने जोड़ा कि एआई से संबंधित अधिकांश डेटा लीक या डेटा हानि दुर्भावनापूर्ण इरादे के कारण नहीं होती है, बल्कि अन्य कारणों से होती है। उन्होंने एक उदाहरण दिया जब कोई कर्मचारी काम के दौरान कंपनी के गोपनीय डेटा को अपलोड करने के लिए व्यक्तिगत एआई चैटबॉट का उपयोग करता है, और उसे दंडित करने के बजाय उसे प्रशिक्षित किया जाना चाहिए कि ऐसा कार्य क्यों अस्वीकार्य है।

एआई एजेंट आर्किटेक्चर के उदय ने साइबर सुरक्षा समस्याओं को जटिल बना दिया है, क्योंकि हमलावर भी उसी मालिकाना जानकारी पर कब्जा करने की कोशिश के लिए शैडो एआई एजेंटों का उपयोग करते हैं जो पहले कमजोर नेटवर्क एंडपॉइंट्स या मानवीय त्रुटि के कारण खतरे में थी।

भारत जैसे देशों में, नेटस्कोप वहां काम करने वाली कंपनियों को नवीनतम वैश्विक मानकों, जिसमें डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम (डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट) शामिल है, का अनुपालन सुनिश्चित करने के लिए नई बुनियादी ढांचे के निर्माण और कुशल जनशक्ति को आकर्षित करने में सक्रिय रूप से निवेश कर रहा है, जब इसकी आवश्यकता होगी।

बेरी ने बताया कि कंपनी ने पिछले कुछ वर्षों में भारत में सालाना लगभग 100 मिलियन डॉलर का निवेश किया है और वर्तमान में 1300 कर्मचारियों की संख्या तक भर्ती जारी रखने की योजना बना रही है, जिनमें से आधे से अधिक नेटस्कोप इंजीनियर हैं।

माइक्रोसॉफ्ट के संस्थापक बिल गेट्स के हालिया लेख ने आर्टिफिशियल इंटेलिजेंस (एआई) द्वारा लाए गए विशाल जोखिमों और अनंत संभावनाओं पर गंभीर विचार उत्पन्न किए हैं। उन्होंने उल्लेख किया कि एआई या तो अब तक आविष्कृत सबसे महान समतुल्य बन सकता है या अन्याय का सबसे बुरा स्रोत बन सकता है, इस कार्य की विशालता पर जोर दिया।

तेजी से तकनीकी परिवर्तनों के बावजूद, प्रभावी संगठन बनाने के मौलिक सिद्धांत जो लाभ पहुंचा सकते हैं, अर्थव्यवस्था को विकसित कर सकते हैं और मनुष्यों के लिए नौकरियाँ बना सकते हैं, न कि केवल रोबोटों के लिए, अपरिवर्तित रहते हैं। बढ़ती अनिश्चितता और परिवर्तन की स्थिति में, जितना अधिक परिवर्तन होगा, उतना ही अधिक नेतृत्व की आवश्यकता होगी जो कर्मचारियों के सर्वोत्तम प्रदर्शन के लिए अनुकूल परिस्थितियां बना सके। टीम वर्क, सीखने, अनुकूलन और परिणाम प्राप्त करने की क्षमता महत्वपूर्ण है, साथ ही इस बात पर अनुशासन भी है कि क्या बनाया जा रहा है, यह क्यों किया जा रहा है और क्या यह व्यवसाय और ग्राहकों के लिए वास्तविक मूल्य लाता है।

मूल रूप से, मानवता का भविष्य उन बुनियादी सिद्धांतों पर निर्भर करता है जिन्हें हम पहले से जानते हैं, जिसका अर्थ है कि वे मायने रखते हैं। एआई इन मूलभूत व्यावसायिक और मानवीय सिद्धांतों को कम प्रासंगिक नहीं बनाता है; इसके विपरीत, यह उनके महत्व को बढ़ाता है। चूंकि एआई घातीय, विघटनकारी, जनरेटिव और उभरता हुआ होता जा रहा है, इसलिए सबसे अधिक लाभ उन संगठनों को मिलेगा जिनके पास अधिक उपकरण हैं, नहीं बल्कि उन संगठनों को जिनके पास स्पष्ट लक्ष्य, मजबूत नेतृत्व, स्वस्थ कार्यप्रणाली और तेजी से और नियंत्रित तरीके से कार्य करने की क्षमता है।

एआई युग में मुख्य अनुशासन

तकनीकों की जटिलता, नवीनता या विघटनकारी प्रकृति की परवाह किए बिना, कुछ ज्ञान क्षेत्र महत्वपूर्ण बने रहते हैं:

• महान नेतृत्व: ऐसे नेताओं का होना महत्वपूर्ण है जो मौजूदा प्रणालियों के भीतर केवल प्रबंधन करने के बजाय विकास के लिए परिस्थितियां बनाते हैं। इसमें प्रणालीगत बाधाओं को दूर करना, स्थापित कार्य विधियों को चुनौती देना और लोगों को बदलाव पर प्रतिक्रिया देने का अवसर प्रदान करना शामिल है। पूरी तरह से पारदर्शी नेतृत्व के माध्यम से विश्वास बनाने की क्षमता निर्णायक होगी।
• उच्च गुणवत्ता वाले उत्पाद बनाना: एआई एक त्वरक के रूप में कार्य करता है, जिससे अभूतपूर्व गति से उत्पादों और समाधानों का विकास संभव होता है। हालांकि, उत्पाद विकास में सख्त अनुशासन के बिना, कंपनियां वास्तव में खराब उत्पादों को तेज़ी से बनाने का जोखिम उठाती हैं। जो बनाया जाता है, वह वांछनीय, मूल्यवान, संभव और टिकाऊ रहना चाहिए। न्यूनतम व्यवहार्य उत्पाद (एमवीपी) बनाने की गति से अधिक महत्वपूर्ण प्रश्न यह है कि न्यूनतम वांछनीय, मूल्यवान, संभव और टिकाऊ उत्पाद को कैसे परिभाषित किया जाए जिसे परीक्षण किया जा सके और जिससे सबक सीखा जा सके।
• ग्राहक सर्वोपरि: एआई-आधारित समाधान उपभोक्ताओं के साथ सीधे बातचीत करते हैं, जिससे अवसर और जोखिम दोनों पैदा होते हैं। हालांकि, मूल रूप से हम लोगों की सेवा करना जारी रखते हैं। ग्राहकों के साथ इंटरैक्शन में अधिक एआई को लागू करते समय, यह सुनिश्चित करने के लिए और अधिक सावधानी बरतना आवश्यक है कि ये इंटरैक्शन उचित, उपयोगी और सहानुभूतिपूर्ण बने रहें - अंततः, मानवीय।
• सहयोग के लिए स्थान बनाना: एआई व्यक्तिगत उत्पादकता बढ़ाने की महत्वपूर्ण क्षमता प्रदान करता है, लेकिन असली जादू तब होता है जब टीमें प्रभावी ढंग से एक साथ काम करती हैं। एक विशिष्ट और सामान्य लक्ष्य, एक अनुकूल वातावरण, और उपयुक्त उपकरण और सीमाएं टीमों को अकेले किसी भी व्यक्ति की तुलना में कहीं अधिक हासिल करने की अनुमति देती हैं। एआई व्यक्ति को बढ़ा सकता है, लेकिन महान सहयोग संगठन को बढ़ाता है। यदि यह प्रक्रिया जटिल निर्णय लेने और प्रणालीगत बाधाओं से सीमित है, तो एआई जादू से सिस्टम को ठीक नहीं करेगा - यह मौजूदा समस्याओं को बढ़ा सकता है।
• प्रबंधन और नियंत्रण: एआई फॉर्मूला 1 रेसिंग कार जैसा है: यह बहुत तेज़ है, लेकिन इसका प्रदर्शन केवल त्वरण से कहीं अधिक पर निर्भर करता है। संगठनों को तेज़ी से आगे बढ़ने, प्रयोग करने और नवाचार करने की आवश्यकता है, लेकिन उन्हें दिशा को प्रबंधित करने, जोखिमों को कम करने और आवश्यकता पड़ने पर धीमा होने के लिए क्षमताओं और फिल्टर की भी आवश्यकता होती है।
• निष्पादन अनुशासन: अपने कार्य के उद्देश्य को कभी न भूलें। प्रबंधन के लिए काम को दृश्यमान बनाना आवश्यक है; प्राथमिकताओं को निर्धारित करना, व्यवस्थित करना और सही उपयोग के मामलों को निष्पादित करना; गतिविधि के बजाय मूल्य के आधार पर परिणामों को मापना; और हर दिन सीखने, प्रयोग करने और सुधारने के लिए एक नैतिक और सुरक्षित वातावरण बनाकर लगातार बेहतर होना।

एआई द्वारा संचालित दुनिया में पुरानी व्यावसायिक पद्धतियां

इसका मतलब यह नहीं है कि सभी पुराने तरीकों को बनाए रखा जाना चाहिए। कुछ आदतें ऐसी हैं जो एआई के उपयोग वाली दुनिया में अब कोई लाभ नहीं पहुंचाती हैं, और कुछ सक्रिय रूप से उस प्रगति को बाधित करती हैं जिसे हम बनाने की कोशिश कर रहे हैं।

• स्थैतिक व्यावसायिक मामले और लंबी योजना क्षितिज: पारंपरिक वार्षिक योजना अनुमानित, रैखिक परिणामों की परिकल्पना करती है। एक ऐसे वातावरण में जहां उभरता हुआ एआई हावी है, कठोर बहु-वर्षीय रोडमैप लॉन्च होने से पहले ही अप्रचलित हो सकते हैं। इसका मतलब यह नहीं है कि योजना नहीं बनाई जा सकती है, लेकिन योजना को झूठे आत्मविश्वास के बजाय दिशा, अनुकूलन, सीखने और समर्थन पर अधिक केंद्रित होना चाहिए।
• टीम-एडमिनिस्ट्रेटिव प्रबंधन की आदतें: केवल पदानुक्रम के माध्यम से प्रबंधन करने से निश्चित रूप से गति धीमी होती है और विश्वास कमजोर होता है। आधुनिक गति के लिए अधिक नेता-उन्मुख संगठनों की आवश्यकता होती है जहां लोगों पर भरोसा किया जाता है और उन्हें बदलाव पर तेजी से प्रतिक्रिया करने, बाधाओं को दूर करने और कार्यों को कुशलतापूर्वक पूरा करने के लिए अधिकार दिए जाते हैं।
• दिखावटी सफलता के मेट्रिक्स को छोड़ना: कार्यान्वयन स्तर, प्रदान किए गए लाइसेंसों की संख्या या सक्रिय पायलट परियोजनाओं की संख्या जैसे संकेतकों द्वारा तकनीकी प्रगति को मापना उपलब्धि का एक झूठा एहसास पैदा करता है। सफलता को केवल गतिविधि के बजाय व्यावसायिक मूल्य से मापा जाना चाहिए, जिसके लिए पारंपरिक रैखिक योजना और रिपोर्टिंग के विकास की भी आवश्यकता होती है।

एआई युग में नवाचार और प्रबंधन को संतुलित करना

एआई युग में हमारा लक्ष्य नवीनता के लिए स्थापित सिद्धांतों को पूरी तरह से त्यागना नहीं होना चाहिए। साथ ही, हम खुद को उन नौकरशाही वातावरणों और मानसिकता में नवाचारों को दबाने की अनुमति नहीं दे सकते हैं जिन्होंने पहले परिवर्तन को धीमा किया था।

एआई किसी भी वातावरण को बढ़ाएगा जिसमें इसे रखा जाता है। यह अच्छी तरह से प्रबंधित, अनुकूलनीय टीमों को गति दे सकता है, लेकिन यह कमजोर प्रक्रियाओं, अक्षम निर्णय लेने और अनसुलझी प्रणालीगत समस्याओं को भी उजागर और कभी-कभी तेज कर सकता है।

गेट्स ने कहा: 'यदि दुनिया सही कदम उठाती है, तो एआई अच्छाई की शक्ति बनेगा और सभी को बेहतर बनाएगा।' इस प्रकार, नेताओं का काम सही परिस्थितियां बनाना है: काम को दृश्यमान बनाना, प्राथमिकताएं निर्धारित करना, महत्वपूर्ण चीजों को मापना और सीखते रहने के साथ लगातार बेहतर होना। संगठन जो निरंतर सीखने और सुधार को याद रखते हैं, वे नियंत्रण खोए बिना तेजी से कार्य करने के लिए सबसे अच्छी तरह से तैयार होंगे।