ओपनएआई यूरोपीय संघ के भीतर चैटजीपीटी और कोडेक्स द्वारा बनाए गए ग्रंथों में एक अगोचर वॉटरमार्क जोड़ना शुरू करेगी। सोमवार (5) को की गई इस घोषणा में अगले कुछ हफ्तों में पात्र उपयोगकर्ताओं के लिए कार्यान्वयन का प्रावधान है, जो ईयू एआई एक्ट द्वारा स्थापित पारदर्शिता दिशानिर्देशों का पालन करने का हिस्सा है, जिसके तहत कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न सामग्री की पहचान अन्य प्रणालियों द्वारा की जा सकेगी।
यह तकनीक यूरोपीय संघ में चैटजीपीटी और कोडेक्स के सभी उपयोगकर्ता प्लान पर लागू होगी। ओपनएआई एपीआई का उपयोग करने वाले डेवलपर्स के लिए, यह वॉटरमार्क इस सोमवार से कुछ मॉडलों के लिए विश्व स्तर पर उपलब्ध होगा, हालांकि यह डिफ़ॉल्ट रूप से अक्षम रहेगा। कंपनी ने कहा कि फिलहाल इसकी वैश्विक मानक बनाने का कोई इरादा नहीं है।
वॉटरमार्क सामग्री पर किसी प्रतीक या दृश्य तत्व के रूप में प्रकट नहीं होता है। ओपनएआई के अनुसार, सिस्टम मॉडल द्वारा चुने गए शब्दों में सूक्ष्म संशोधन करता है, जिससे एक सांख्यिकीय पैटर्न बनता है जिसे एक विशिष्ट उपकरण द्वारा पता लगाया जा सकता है। यह 'टेक्स्टग्रेन' नामक तकनीक स्वयं पाठ में एकीकृत हो जाती है, कॉपी और पेस्ट किए जाने पर भी उसके साथ रहती है।
ओपनएआई आश्वासन देती है कि वॉटरमार्क उपयोगकर्ता की पहचान नहीं करता है और उनके परीक्षणों से पता चला है कि सक्रिय सुविधा के साथ मॉडलों के प्रदर्शन में कोई महत्वपूर्ण बदलाव नहीं आया है। तकनीकी विधि मॉडल के बाद के शब्द भविष्यवाणियों की संरचना के लिए एक गुप्त कुंजी का उपयोग करती है। इन परिवर्तनों की पुनरावृत्ति एक डिटेक्टर को पाठ में पैटर्न खोजने और ओपनएआई के वॉटरमार्क की उपस्थिति की जांच करने की अनुमति देती है।
सिस्टम के काम करने के बावजूद, ओपनएआई अपनी सीमाओं को स्वीकार करती है। एक परीक्षण में, दस प्रतिशत शब्दों को पर्यायवाची शब्दों से बदलने से पहचान दर लगभग नौ सौ बीस प्रतिशत से घटकर छियास प्रतिशत हो गई। परीक्षणों से यह भी पता चला है कि विश्लेषण किए गए पाठ की मात्रा बढ़ने पर पहचान बेहतर होती है, जिससे छोटे पाठ, गणितीय उत्तर और अनुवादित सामग्री की पहचान करना अधिक कठिन हो जाता है।
ओपनएआई द्वारा जोर दिया गया एक अन्य पहलू यह है कि वॉटरमार्क की अनुपस्थिति यह साबित नहीं करती है कि पाठ किसी इंसान द्वारा लिखा गया था। ऐसा इसलिए है क्योंकि सामग्री बहुत संक्षिप्त हो सकती है, उसमें कई संपादन हो सकते हैं, या वह किसी अन्य कंपनी के एआई द्वारा बनाई गई हो सकती है। इसके अलावा, यह संकेत यह निर्धारित नहीं करता है कि पाठ के निर्माण में मानवीय योगदान क्या था; यह केवल इंगित करता है कि क्या ओपनएआई की किसी प्रणाली ने सामग्री का कुछ हिस्सा उत्पन्न या संसाधित किया है, जिसमें शामिल मानवीय निर्णय, संपादन या रचनात्मकता की डिग्री का खुलासा नहीं होता है।
शुरुआत में, ओपनएआई ने वॉटरमार्क डिटेक्टर तक पहुंच को केवल मान्यता प्राप्त शोधकर्ताओं और विशेष संगठनों तक सीमित करने का विकल्प चुना। इस सीमा का उद्देश्य प्रौद्योगिकी और इसके जिम्मेदार उपयोगों की विश्वसनीयता का मूल्यांकन करना है। यह उपकरण केवल तभी सूचित करेगा जब उसे ओपनएआई का वॉटरमार्क मिलेगा, उपयोगकर्ता, उपयोग किए गए कमांड या सामग्री से जुड़े वार्तालापों को उजागर किए बिना, संभावित झूठे सकारात्मक और झूठे नकारात्मक के विचार के कारण।
कंपनी प्रौद्योगिकी, मानकों और वॉटरमार्क के कामकाज पर सबूतों के विकास के अनुसार अपनी रणनीति की समीक्षा करने की योजना बना रही है। अन्य संस्थाओं को इस पर आधारित समाधान विकसित करने की अनुमति देने के लिए प्रौद्योगिकी को ओपन सोर्स में उपलब्ध कराने की भी योजना है। ओपनएआई दोहराती है कि वॉटरमार्क का कार्य सीमित है: यह पाठ के स्वामित्व, सामग्री के उपयोग की वैधता या इसके लिए किसे जिम्मेदार ठहराया जाना चाहिए को परिभाषित नहीं करता है, न ही यह सत्यापित करता है कि जानकारी सत्य है, भ्रामक है, हानिकारक है या सही ढंग से प्रासंगिक है।
