शोधकर्ताओं ने एक ऐसी तकनीक विकसित की है जो मस्तिष्क संकेतों के विश्लेषण के माध्यम से यह पहचानने में सक्षम है कि कृत्रिम बुद्धिमत्ता (एआई) ने मानव इरादों की गलत व्याख्या कब की। इस विकास का उद्देश्य एआई सिस्टम को बिना उपयोगकर्ता की मौखिक स्पष्टीकरण की आवश्यकता के 'यह वह नहीं था जो मेरा मतलब था' की स्थिति को समझने में सक्षम बनाना है।
यह कार्य कोरिया एडवांस्ड इंस्टीट्यूट ऑफ साइंस एंड टेक्नोलॉजी (KAIST) के वैज्ञानिकों द्वारा माइक्रोसॉफ्ट रिसर्च एशिया के सहयोग से किया गया था। न्यूरल वैल्यू अलाइनमेंट (NVA) नामक यह तकनीक वास्तविक समय में अपने व्यवहार को समायोजित करने के लिए इलेक्ट्रोएन्सेफलोग्राफी (ईईजी) का उपयोग करके प्राप्त डेटा का विश्लेषण करने के लिए ब्रेन-कंप्यूटर इंटरफ़ेस का उपयोग करती है।
मूल विचार मनुष्यों और मशीनों के बीच बातचीत की एक सामान्य समस्या से उभरा: एक ही मानवीय क्रिया विभिन्न उद्देश्यों से मेल खा सकती है, और एक ही उद्देश्य को कई तरीकों से प्राप्त किया जा सकता है। उदाहरण के लिए, व्यक्ति द्वारा कप उठाना जरूरी नहीं कि पीने का इरादा हो; व्यक्ति वस्तु को पास करना, उसे धोना या बस उसे दूसरी जगह रखना चाह सकता है।
इसी तरह, यदि उद्देश्य प्यास बुझाना है, तो व्यक्ति कप उठा सकता है, पानी की बोतल ढूंढ सकता है या किसी से पेय लाने के लिए कह सकता है। क्रिया और उद्देश्य के बीच यह अस्पष्टता यह कारण बनती है कि एआई सिस्टम कार्रवाई की सही व्याख्या कर सकते हैं, लेकिन मनुष्य की वास्तविक इच्छा में गलती कर सकते हैं, या उद्देश्य को समझ सकते हैं, लेकिन उपयोगकर्ता द्वारा अपेक्षित तरीके से इसे प्राप्त करने का एक अलग तरीका चुन सकते हैं।
प्रयोगों के दौरान, शोधकर्ताओं ने आरपीई, एसपीई या दोनों स्थितियों के एक साथ होने पर मस्तिष्क तरंगों में विभिन्न पैटर्न पाए। फिर उन्होंने ईईजी से कैप्चर किए गए संकेतों पर डीप लर्निंग विधियों को लागू किया। इसके परिणामस्वरूप सिस्टम एआई की कार्रवाइयों पर मानव की प्रतिक्रिया को वर्गीकृत करने में सक्षम हुआ।
व्यावहारिक रूप से, यह तकनीक दो परिदृश्यों में अंतर करने में सक्षम है: 'आपने मेरे उद्देश्य को गलत समझा' और 'आपने उद्देश्य को समझा, लेकिन इसे गलत तरीके से किया'। डिकोड किए गए संकेतों का उपयोग फिर एआई निर्णय लेने की प्रक्रिया के लिए फीडबैक के रूप में किया जाता है। एसपीई का पता चलने पर सिस्टम की व्याख्या करता है कि उद्देश्य सही है, लेकिन रणनीति में बदलाव की आवश्यकता है। जबकि आरपीई इंगित करता है कि उद्देश्य स्वयं गलत समझा गया था, और एआई को मानव के इरादे का पता लगाने की पुनः कोशिश करनी चाहिए।
KAIST के अनुसार, सिमुलेशन ने दिखाया कि यह विधि मौजूदा दृष्टिकोणों की तुलना में तेजी से अनुकूलित होती है, यहां तक कि अनिश्चितताओं की स्थिति में भी, जैसे कि मानव के उद्देश्य में अचानक परिवर्तन या तंत्रिका फीडबैक के कुछ हिस्सों की अनुपस्थिति। यह शोध अगस्त 2026 में 'न्यूरल वैल्यू अलाइनमेंट: ह्यूमन-एआई कोलैबोरेशन अंडर गोल-एक्शन एम्बिग्युइटी' शीर्षक से IEEE ट्रांजैक्शंस ऑन साइबरनेटिक्स पत्रिका में प्रकाशित हुआ था।
