एन्थ्रोपिक ने क्लॉड द्वारा उत्पादित ग्रंथों के लिए एक अदृश्य वॉटरमार्क के कार्यप्रणाली को स्पष्ट किया है। यह तकनीक गूगल डीपमाइंड द्वारा विकसित SynthID-Text का उपयोग करती है, और इसे प्रतिक्रियाओं उत्पन्न करने की प्रक्रिया के दौरान एकीकृत किया जाएगा।
इस पहल का मुख्य उद्देश्य स्वयं प्लेटफॉर्म द्वारा उत्पन्न सामग्री के लिए सत्यापन विधि स्थापित करना है, जो यूरोपीय संघ के आर्टिफिशियल इंटेलिजेंस कानून के दिशानिर्देशों के अनुरूप है। यह यूरोपीय विनियमन 2 अगस्त को लागू हुआ, जिसमें एआई उपकरणों द्वारा बनाई गई सामग्री को पता लगाने योग्य होना आवश्यक है, जो अन्य मॉडलों में भी इसी तरह की तकनीकों को अपनाने का सुझाव देता है।
हालांकि SynthID पहले से ही वीडियो, छवि और ऑडियो जैसी मीडिया पर वॉटरमार्क लागू करने के लिए जाना जाता है, जिसमें मानव आंख के लिए अगोचर सूक्ष्म संशोधन शामिल होते हैं, SynthID-Text मॉडल द्वारा चुने गए शब्दों के पैटर्न को बदलकर काम करता है, जिससे पाठ की गुणवत्ता से समझौता नहीं होता है।
वॉटरमार्क कैसे काम करता है?
एक आधिकारिक बयान में, एन्थ्रोपिक ने बताया कि पहचान सहायक द्वारा उत्पन्न शब्दों के आधार पर क्रमिक रूप से बनाई जाती है। भाषा मॉडल पिछले संदर्भ को ध्यान में रखते हुए प्रत्येक शब्द की सांख्यिकीय संभावना की गणना करके पाठ का निर्माण करते हैं, और यहीं पर वॉटरमार्क कार्रवाई में आता है।
उदाहरण के लिए, 'आज मौसम ठंडा था और...' जैसे वाक्य में, एआई मूल्यांकन करेगा कि असंभावित निरंतरता 'मीठा' होगी, लेकिन यह 'बादलदार' या 'धूसर' भी हो सकता है। जब पर्यायवाची शब्दों के कई विकल्प होते हैं, तो मॉडल कौन सा शब्द उपयोग करना है, इस पर एक यादृच्छिक निर्णय लेता है। वॉटरमार्क के कार्यान्वयन के साथ, एक क्रिप्टोग्राफ़िक कुंजी इस चयन का मार्गदर्शन करती है।
इसके बाद, क्लॉड यह विश्लेषण करेगा कि पाया गया पैटर्न उसके द्वारा उत्पन्न पाठ के अनुरूप है या नहीं। कंपनी इस बात पर जोर देती है कि इसका मतलब यह नहीं है कि क्लॉड पाठ के बीच में अनुपयुक्त शब्द डालना शुरू कर देगा, क्योंकि गूगल डीपमाइंड द्वारा किए गए आंतरिक परीक्षणों और SynthID-Text अध्ययनों से पता चला है कि यह तकनीक अंतिम सामग्री को प्रभावित नहीं करती है।
पता लगाने में कहाँ विफलता हो सकती है?
जिस तरह से लेखन पैटर्न में वॉटरमार्क लागू किया जाता है, उसके कारण एन्थ्रोपिक इंगित करता है कि पाठ में सरल संशोधन विश्लेषण को नुकसान पहुंचा सकते हैं, और सामग्री की संरचना में पर्याप्त परिवर्तन मार्किंग को हटा देते हैं।
इसके अलावा, अन्य परिस्थितियां भी हैं जिनमें पता लगाने में विफलता हो सकती है, जैसे कि जब अंश बहुत छोटे होते हैं, जब उत्तर किसी सटीक तथ्यात्मक डेटा पर आधारित होता है, गणितीय संचालन में, प्रोग्रामिंग कोड में, या मनुष्यों द्वारा लिखे गए पाठ में, लेकिन बाद में सहायक द्वारा संशोधित किए जाते हैं।
अंत में, एन्थ्रोपिक ने घोषणा की कि वह जल्द ही एक डिटेक्शन एपीआई उपलब्ध कराएगी, जिससे डेवलपर्स, संस्थानों और प्लेटफॉर्म को क्लॉड द्वारा उत्पन्न पाठ की संभावित उत्पत्ति की जांच करने की अनुमति मिलेगी।