चीनी कंपनी Z.ai ने शुक्रवार (14 तारीख) को घोषणा की कि उसके आर्टिफिशियल इंटेलिजेंस मॉडल GLM-5.3 ने सॉफ्टवेयर में कमजोरियों का पता लगाने के लिए किए गए परीक्षण में Anthropic के Mythos 5 से थोड़ा बेहतर प्रदर्शन किया। यह परिणाम चीनी तकनीक को साइबर सुरक्षा के क्षेत्र में जटिल कार्य करने में सक्षम एआई सिस्टम की श्रेणी में रखता है।
कोड का विश्लेषण करने, त्रुटियों को खोजने और उनकी शोषण क्षमता की पुष्टि करने वाले CyberGym मूल्यांकन के हिस्से के रूप में, GLM-5.3 ने Mythos 5 के 83.8% की तुलना में 84.5% स्कोर किया। हालांकि, ये आंकड़े Z.ai द्वारा प्रकाशित किए गए थे और अभी तक स्वतंत्र रूप से सत्यापित नहीं हुए हैं।
चीनी मॉडल का लाभ हमले के अधिक व्यावहारिक चरण में समाप्त हो गया। ExploitBench परीक्षण में, Z.ai मॉडल ने 54.4% अंक प्राप्त किए, जबकि Anthropic प्रणाली ने 78% हासिल किया, जो दर्शाता है कि जब कार्य में पहचानी गई कमजोरियों को वास्तविक एक्सप्लॉइट्स में बदलने की आवश्यकता होती है तो Mythos 5 महत्वपूर्ण बढ़त बनाए रखता है।
Z.ai लगभग दो सप्ताह में GLM-5.3 को सार्वजनिक करने की योजना बना रहा है। इससे पहले, कंपनी का दावा है कि वह सुरक्षा मूल्यांकन पूरी कर लेगी और दुर्भावनापूर्ण उपयोग को रोकने के लिए डिज़ाइन किए गए तंत्रों में सुधार करेगी। सबसे संवेदनशील कार्यों को शुरू में विश्वसनीय पहुंच कार्यक्रम के माध्यम से सत्यापित उपयोगकर्ताओं तक ही सीमित रखा जाएगा।
यह रणनीति उस मॉडल के लिए एक महत्वपूर्ण बदलाव का प्रतिनिधित्व करती है जिसे कंपनी खुले तौर पर वितरित करने का इरादा रखती है। मुख्य चिंता यह है कि कमजोरियों को खोजने में सक्षम सिस्टम हमलों को भी बढ़ावा दे सकते हैं, खासकर यदि उनके भार डाउनलोड, संशोधित और अन्य उपकरणों के साथ जोड़ा जा सकता है।
कंपनी का दावा है कि उसने इस जोखिम को कम करने के लिए विभिन्न बाधाएं विकसित की हैं। इनमें संभावित रूप से खतरनाक प्रश्नों के लिए फ़िल्टर, मॉडल गतिविधि ट्रैकिंग तंत्र और सिस्टम को दुर्भावनापूर्ण माने जाने वाले अनुरोधों को अस्वीकार करने के लिए विशेष प्रशिक्षण शामिल हैं।
Z.ai के अनुसार, इन सुरक्षा उपायों का उद्देश्य आक्रामक कार्रवाइयों को समस्या निवारण, डिजिटल सुरक्षा अध्ययन और अधिकृत सिस्टम ऑडिट जैसे वैध उपयोगों से अलग करना है। आलोचकों का तर्क है कि इन नियंत्रणों का कुछ हिस्सा तब अपनी प्रभावशीलता खो सकता है जब मॉडल स्वतंत्र रूप से वितरित होना शुरू हो जाता है और तीसरे पक्ष द्वारा बदला जा सकता है।
मॉडल की खुलेपन के बारे में चिंताएं कंपनी द्वारा सीमित पहुंच अवधि स्थापित करने के कारणों में से एक बन गई हैं। प्रारंभिक लॉन्च चयनित भागीदारों के लिए होगा, जिसके बाद Z.ai द्वारा वर्णित क्रमिक और जिम्मेदार प्रक्रिया के आधार पर विस्तार होगा।
कॉन्कॉर्डिया एआई के एआई प्रबंधन शोधकर्ता गैब्रियल वागनर ने मूल्यांकन किया कि यह निर्णय चीनी सुरक्षा मॉडल के खुले परिदृश्य के लिए महत्वपूर्ण है। उनके विचार में, सुरक्षा विचारों के कारण लॉन्च में देरी एआई सिस्टम के भार के प्रसार से जुड़े जोखिम प्रबंधन प्रथाओं की परिपक्वता का संकेत है।
यह रणनीति Anthropic की Project Glasswing परियोजना के साथ भी समानता स्थापित करती है, जो Mythos 5 तक पहुंच को केवल पूर्व-मूल्यांकित संगठनों तक सीमित करती है। हालांकि, चीनी मामले में Z.ai मॉडल की खुलेपन को अपने प्रस्ताव के केंद्र के रूप में प्रस्तुत करने की कोशिश कर रहा है, न कि एक वाणिज्यिक या सुरक्षा भेद्यता के रूप में।
Z.ai का तर्क है कि उन्नत डिजिटल सुरक्षा प्रणालियों को कुछ बंद मॉडल आपूर्तिकर्ताओं पर केंद्रित नहीं होना चाहिए। कंपनी का मानना है कि ओपन-सोर्स परियोजनाओं के डेवलपर्स और छोटी सुरक्षा टीमों को भी ऐसे संसाधनों का उपयोग करने में सक्षम होना चाहिए।
इस प्रस्ताव के हिस्से के रूप में, कंपनी ने Open Source Shield की घोषणा की - एक पहल जिसका उद्देश्य कुछ ओपन-सोर्स परियोजनाओं का मूल्यांकन करना, रक्षात्मक उद्देश्यों के लिए मॉडल के उपयोग की अनुमति देना और ZCode में कोड ऑडिट सुविधाओं को शामिल करना है, जो प्रोग्रामिंग पर केंद्रित उसका उत्पाद है।
GLM-5.3 के प्रदर्शन का विश्लेषण उन कार्यों में भी किया जाना चाहिए जिनमें अधिक अवधि की आवश्यकता होती है। Z.ai ने एक अलग मूल्यांकन में बताया कि सिस्टम ने दो घंटे में 105 हमले विकास कार्य पूरे किए और छह घंटों में 130 पूरे किए। समान समय अवधि में Mythos 5 ने क्रमशः 181 और 247 कार्य पूरे किए।
Anthropic ने Mythos के संबंध में अधिक प्रतिबंधात्मक रणनीति अपनाई। कंपनी ने Claude Fable 5 पर आधारित एक प्रणाली जारी की, जिसमें साइबर सुरक्षा की दूरस्थ कार्यक्षमताएँ थीं, जो केवल पूर्व-मूल्यांकित संगठनों के लिए थी।
GLM-5.3 को विशेष रूप से सुरक्षा उपकरण के रूप में नहीं बनाया गया था। Z.ai इसे एक सामान्य प्रोग्रामिंग मॉडल के रूप में प्रस्तुत करता है जिसे साइबर सुरक्षा के क्षेत्र में अपनी गतिविधियों का विस्तार करने के लिए अतिरिक्त प्रशिक्षण और सुदृढीकरण शिक्षण दिया गया है। कंपनी का दावा है कि उसने GLM-5.2 के समान आधार से शुरुआत की और अधिक व्यापक और विविध कार्य वातावरणों के साथ प्रशिक्षण का विस्तार किया।
यह कदम विभिन्न देशों के डेवलपर्स के बीच GLM-5.2 की लोकप्रियता बढ़ने के बाद आया। पिछले मॉडल ने अपनी प्रोग्रामिंग क्षमताओं और एजेंट के रूप में काम करने की क्षमता के कारण लोकप्रियता हासिल की, जिसमें उपयोगकर्ताओं और विश्लेषकों ने अत्याधुनिक उत्तरी अमेरिकी प्रणालियों के करीब प्रदर्शन लेकिन काफी कम लागत पर ध्यान दिया।
प्रतिस्पर्धा में अन्य चीनी कंपनियां भी शामिल हैं। जून में, साइबर सुरक्षा कंपनी 360 ने दावा किया कि उसके Tulongfeng सिस्टम ने एआई मॉडल, सुरक्षा जानकारी और स्वचालित उपकरणों को मिलाकर Mythos के समकक्ष क्षमता हासिल कर ली है। यह दावा, Z.ai द्वारा GLM-5.3 के बारे में प्रस्तुत आंकड़ों की तरह, स्वतंत्र रूप से सत्यापित नहीं किया गया है।
पिछले महीने Hugging Face ने बताया कि उसने OpenAI के एआई एजेंट द्वारा किए गए घुसपैठ से बचाव के लिए GLM-5.2 का उपयोग किया था। इस घटना ने रक्षात्मक संचालन में चीनी मॉडलों के उपयोग में रुचि को मजबूत किया और दिखाया कि प्रौद्योगिकी पहले से ही वास्तविक सुरक्षा परिदृश्यों में लागू की जा रही थी।
