बैंकिंग संस्थानों, जिनमें नेटवेस्ट और बैंक ऑफ अमेरिका शामिल हैं, ने मंगलवार (22) को ऑनलाइन खरीदारी में आर्टिफिशियल इंटेलिजेंस (AI) एजेंटों के उपयोग से जुड़े खतरों के बारे में एक चेतावनी जारी की। रॉयटर्स द्वारा रिपोर्ट किए गए अनुसार, इन जोखिमों में घोटाले, धोखाधड़ी और गोपनीयता का उल्लंघन शामिल है।
वर्तमान में, AI तकनीक का उपयोग उपभोक्ताओं को उत्पादों पर शोध करने, वस्तुओं का चयन करने और लेनदेन को अंतिम रूप देने में सहायता करने के लिए किया जा रहा है। हालांकि, बैंक बताते हैं कि इस तकनीक का विकास सुरक्षा मानकों और उचित रक्षा तंत्रों के निर्माण से आगे निकल रहा है।
OpenAI, Anthropic, Google और Meta जैसी बड़ी कंपनियां खरीदारी के उपकरणों के रूप में चैटबॉट को बढ़ावा दे रही हैं। विचार यह है कि AI एजेंटों को उन चरणों में एकीकृत किया जाए जिनके लिए पारंपरिक रूप से उपभोक्ता के सीधे हस्तक्षेप की आवश्यकता होती है, जैसे कि सामान का चयन करना और ऑर्डर को निष्पादित करना।
खुदरा क्षेत्र भी इस नए परिदृश्य का लाभ उठाने की कोशिश कर रहा है, जिससे सिस्टम द्वारा दिए जाने वाले सुझाव प्रभावित हो रहे हैं। उदाहरण के लिए, सितंबर में, ब्रिटिश स्टोर जॉन लुईस ने बताया कि AI एजेंटों से उत्पन्न खोजें उनके ट्रैफिक का 2.5% थीं, जो एक साल पहले दर्ज किए गए 0.3% की तुलना में एक महत्वपूर्ण वृद्धि है।
वित्तीय संस्थानों ने इन चिंताओं को एक दस्तावेज़ में समेकित किया है जो 'एजेंट-मध्यस्थता व्यापार' नामक चीज़ पर केंद्रित है। हालांकि यह सामग्री इस तकनीक में जनता की रुचि को स्वीकार करती है, लेकिन यह चेतावनी देती है कि मौजूदा सुरक्षा और मानक अभी भी इन प्रणालियों की तेज गति के साथ तालमेल नहीं बिठा पाए हैं।
दस्तावेज़ में विस्तृत जोखिम
रिपोर्ट उन परिदृश्यों का विवरण देती है जो उपभोक्ताओं को नुकसान की स्थिति में डाल सकते हैं। एक उठाया गया बिंदु AI एजेंट की निर्णय लेने की क्षमता स्वयं है, क्योंकि दस्तावेज़ के अनुसार, 'उपभोक्ताओं को निश्चित रूप से पता नहीं होता है कि AI उनके हितों में कार्य करेगा या नहीं'।
एक अन्य गंभीर चिंता कार्ड डेटा तक पहुंच से संबंधित है। एक AI एजेंट इस जानकारी का अनुरोध कर सकता है और उसे सीधे किसी वेबसाइट में डाल सकता है। सिस्टम द्वारा ग्राहक को कम सुरक्षा वाले भुगतान विधियों की ओर मोड़ने का जोखिम भी है।
बैंकों द्वारा उजागर की गई समस्याओं में इस बात की अनिश्चितता भी शामिल है कि यदि किसी एजेंट द्वारा की गई खरीदारी विफल हो जाती है तो क्या होना चाहिए। उपभोक्ताओं को अभी भी स्पष्टता नहीं है कि क्या वे कानूनी रूप से सुरक्षित होंगे या उन्हें किससे संपर्क करना चाहिए।
बैंक नियामक और नीति निर्माताओं के साथ प्रस्तावों पर चर्चा करने की योजना बना रहे हैं। इन सुझावों में से एक यह मांग करना है कि जब भी कोई AI एजेंट किसी लेनदेन में शामिल हो तो उपभोक्ता को सूचित किया जाए। इसके अलावा, समूह सिस्टम अपने निर्णयों पर कैसे पहुंचते हैं, इस बारे में अधिक पारदर्शिता और ग्राहकों के डेटा की सुरक्षा के लिए विशिष्ट तंत्रों के कार्यान्वयन का समर्थन करता है।
रिपोर्ट इस आशंका पर जोर देती है कि AI एजेंट गलत वस्तुएं खरीद सकते हैं या अत्यधिक खर्च कर सकते हैं, या, अधिक गंभीर मामलों में, उपयोगकर्ता को घोटालों और धोखाधड़ी में फंसा सकते हैं।
संस्थान यह भी बचाव करते हैं कि उपभोक्ताओं और व्यापारियों दोनों को उन AI-आधारित व्यापार सेवाओं का चयन करने की स्वतंत्रता होनी चाहिए जिनका वे उपयोग करना चाहते हैं। एक अन्य महत्वपूर्ण पहलू सिस्टम के बीच अंतरसंचालनीयता है, जो विभिन्न तकनीकों को एक साथ काम करने की अनुमति देता है। ये प्रस्ताव पारदर्शिता, डेटा सुरक्षा और AI एजेंटों द्वारा किए गए लेनदेन के लिए जिम्मेदारी को परिभाषित करने जैसे महत्वपूर्ण विषयों पर चर्चा को केंद्रित करते हैं।