चैटजीपीटी, क्लॉड और जेमिनी जैसे जेनरेटिव आर्टिफिशियल इंटेलिजेंस टूल का उपयोग करते समय, 'एल्गोरिथम फ्लर्टेशन' का जोखिम होता है, जहां चैटबॉट उपयोगकर्ता की मंजूरी के लिए उपयोगकर्ता की गलतियों से सहमत हो जाता है। हालांकि, इस समस्या का एक सामूहिक पैमाना भी है। साइंस एडवांसेज जर्नल में प्रकाशित एक अध्ययन से पता चला है कि जब सैकड़ों या हजारों एआई एजेंट नेटवर्क में परस्पर क्रिया करते हैं, तो वे बहुमत का पालन करना शुरू कर देते हैं और स्वतंत्र रूप से सर्वसम्मति पर पहुंचते हैं।
यानी, किसी मानवीय आदेश, केंद्रीय नेता या पुरस्कार के बिना, सिस्टम बस सबसे लोकप्रिय विकल्प की नकल करते हैं और एक स्वायत्त 'झुंड प्रभाव' बनाते हैं। इस प्रकार, यह खोज प्रदर्शित करती है कि मनुष्यों के साथ व्यक्तिगत बातचीत में देखा गया सहमति की प्रवृत्ति एल्गोरिदम की आपसी बातचीत में भी प्रकट होती है।
इसके अलावा, क्लॉड 3.5 सोनेट और जीपीटी-4 टर्बो जैसे उन्नत मॉडल (जिन्हें अब 'पुराना' माना जाता है) ने हजार से अधिक एजेंटों वाले समूहों में इस सामंजस्य को बनाए रखा। यह पैमाना मानव समाजों में अनौपचारिक समन्वय की सीमा (जिसे डार्बारे संख्या कहा जाता है, जिसका अनुमान 150-300 लोग है) से अधिक है और रोबोट द्वारा पूरी तरह से मानव नियंत्रण से बाहर बड़े पैमाने पर निर्णय लेने के जोखिम को उजागर करता है।
इस घटना के तंत्र को समझने के लिए, शोधकर्ताओं ने क्लॉड (एंथ्रोपिक), जीपीटी (ओपनएआई) और लामा (मेटा) मॉडल परिवारों पर काम करने वाले हजारों एआई एजेंटों के साथ सिमुलेटेड वातावरण बनाए। परीक्षण के दौरान प्रत्येक एजेंट को बिना किसी व्यावहारिक मूल्य के दो विकल्पों में से एक का चयन करना था। पिछले दौरों की स्मृति और सहयोग के निर्देशों के बिना, एजेंट केवल दूसरों के चयन का निरीक्षण करते थे। जल्द ही, एक छोटा बहुमत बढ़ता गया जब तक कि पूरा समूह एक ही उत्तर पर सहमत नहीं हो गया।
अध्ययन में पाया गया कि परीक्षण किए गए मॉडल एक गणितीय नियम का पालन करते हैं जो 'बहुमत की शक्ति' नामक पैरामीटर से निर्धारित होता है। यह संकेतक उस आकर्षण को मापता है जो सबसे लोकप्रिय विकल्प हर एजेंट पर डालता है। दिलचस्प बात यह है कि गतिशीलता भौतिकी के उसी पैटर्न का अनुसरण करती है जो फेरोमैग्नेटिक सामग्री के भीतर परमाणु स्पिनों को एक दिशा में संरेखित करके चुंबक बनाने का वर्णन करता है।
यह भी पाया गया कि मॉडल की तकनीकी क्षमता उस समूह के आकार को निर्धारित करती है जिसे वह एक साथ रख सकता है। कम परिष्कृत उपकरण छोटे समूहों में समन्वय खो देते थे और खंडित हो जाते थे। अधिक बुद्धिमान मॉडल हजार से अधिक रोबोटों के समूहों में एकरूपता बनाए रखते थे। यह दर्शाता है कि आर्टिफिशियल इंटेलिजेंस के क्षेत्र में प्रगति झुंड प्रभाव के पैमाने का विस्तार कर रही है।
समस्या यह है कि यह सहज सहमति चयन की शुद्धता या सुरक्षा की गारंटी नहीं देती है। संयुक्त कोड लेखन (वाइब कोडिंग) या वित्तीय लेनदेन जैसे व्यावहारिक कार्यों में, एजेंटों का नेटवर्क एक अक्षम समाधान, कोड में त्रुटि या जोखिम भरे पैटर्न को मजबूत कर सकता है। कारण सरल है: यह इसलिए होता है क्योंकि बहुमत इसका उपयोग करना शुरू कर देता है। इसे सामूहिक असहमति कहा जाता है, जिसमें हानिरहित एआई एजेंट समूह में काम करते समय स्वयं श्रृंखला विफलताएँ उत्पन्न करना शुरू कर देते हैं।
जैसे ही यह 'विचार बुलबुला' पारिस्थितिकी तंत्र में स्थापित होता है, गलती को ठीक करना बेहद मुश्किल हो जाता है। लेख हिस्टैरिसीस प्रभाव के बारे में चेतावनी देता है: प्रारंभिक स्थितियों को समायोजित करना या हटाना जिसने विफलता को प्रेरित किया, स्वचालित रूप से समूह द्वारा लिए गए निर्णय को रद्द नहीं करता है। व्यवहार में, समन्वित एआई नेटवर्क को पुन: उन्मुख करना अलग-थलग एआई मॉडल के व्यवहार को ठीक करने की तुलना में अनंत गुना अधिक कठिन है।
जब ये पारिस्थितिकी तंत्र प्रयोगशाला परीक्षणों से बाहर निकलते हैं और कंपनियों के भीतर काम करना शुरू करते हैं, तो सुरक्षा का कार्य मौलिक रूप से बदल जाता है। अंधाधुंध सामूहिक सहमति के जोखिम को कम करने के लिए, कंपनियों को प्रत्येक एआई एजेंट को 'गैर-मानवीय व्यक्तित्व' के रूप में मानना शुरू करना चाहिए, उसे व्यक्तिगत क्रेडेंशियल, सीमित कार्यक्षमता और अपने स्वयं के एक्सेस नियमों से लैस करना चाहिए। साइबर सुरक्षा विशेषज्ञ और सीओओ आईएएम ब्राजील, नतालीया कारमो ने ओल्हार डिजिटल को दिए गए साक्षात्कार में इस बारे में बताया।
यह प्रतिमान बदलाव मौलिक है, क्योंकि वितरित वातावरण में हजारों नेटवर्क क्रियाएं बिना किसी एकल अपराधी के एक खतरनाक मार्ग बना सकती हैं। विशेषज्ञ चेतावनी देती है कि प्राथमिकता अब एल्गोरिदम की पता लगाने की क्षमता सुनिश्चित करना है। साइबर सुरक्षा विशेषज्ञ समझाते हैं, 'कंपनी के पास वास्तविक समय में जवाब देने की क्षमता होनी चाहिए: किस एजेंट ने निश्चित कार्रवाई शुरू की, उसने किन अन्य एजेंटों के साथ बातचीत की, उसे किस डेटा तक पहुंच प्राप्त हुई, उसने किस उपकरण या एपीआई का उपयोग किया और, सबसे महत्वपूर्ण बात, किस व्यक्ति ने वास्तव में इस निष्पादन को अधिकृत किया'।
इस झुंड प्रभाव को नियंत्रण से बाहर होने से रोकने के लिए, कॉर्पोरेट प्रणालियों को नेटवर्क के असामान्य व्यवहार का पता लगाना चाहिए इससे पहले कि यह हिमस्खलन बन जाए। यदि कई एजेंट एक ही कार्य करना शुरू कर देते हैं, एपीआई कॉल की अधिकता करते हैं, या आपस में समाधान फैलाते हैं, तो बुनियादी ढांचे को अलार्म बजाना चाहिए। विचार टेलीमेट्री और व्यवहार निगरानी को संयोजित करना है ताकि बड़े पैमाने पर कार्रवाई होने से पहले समूह पैटर्न में परिवर्तन का पता लगाया जा सके।
हालांकि, यदि नेटवर्क फिर भी गलत या जोखिम भरे निर्णय की ओर बढ़ता है, तो पारंपरिक आपातकालीन स्टॉप बटन को सर्जिकल होना चाहिए। नतालीया कारमो के अनुसार, इंटरप्शन मैकेनिज्म (उद्योग में किल स्विच के रूप में जाना जाता है) को एआई मॉडल को निर्णय लेने की प्रक्रिया से डिस्कनेक्ट करना चाहिए और, इससे भी महत्वपूर्ण बात, उस स्तर पर कार्य करना चाहिए जहां कमांड निष्पादित होते हैं। संगठन को तुरंत एजेंटों के बीच संचार तोड़ना चाहिए, टोकन और क्रेडेंशियल्स वापस लेना चाहिए, एपीआई को ब्लॉक करना चाहिए और विशेषाधिकार प्राप्त पहुंच को निलंबित करना चाहिए, जिससे इस निर्णय को कॉर्पोरेट प्रणालियों में निष्पादित करना जारी रखने से रोका जा सके।
संक्षेप में, एल्गोरिदम के अंधाधुंध अनुपालन के खिलाफ गारंटी के लिए कॉर्पोरेट प्रणालियों की स्वायत्तता पर सीमाएं स्थापित करना आवश्यक है। वित्तीय लेनदेन, डेटा हटाने या आईटी बुनियादी ढांचे में परिवर्तनों जैसे संवेदनशील संचालन के लिए, अंतिम शब्द मानव पर्यवेक्षकों के पास रहना चाहिए। सुनहरा नियम यह है: एआई परिदृश्यों का विश्लेषण करने और अपनी सुरक्षा सीमाओं के भीतर निर्णय लेने के लिए स्वायत्तता रख सकता है, लेकिन उन्हें कभी भी सत्यापन के बिना निष्पादन की स्वतंत्रता नहीं होनी चाहिए।
