गूगल ने अपनी सबसे शक्तिशाली आर्टिफिशियल इंटेलिजेंस मॉडल, जेमिनी 4 आर्gon, तक सार्वजनिक पहुंच को सीमित कर दिया है, यह हवाला देते हुए कि हैकर्स इसकी उन्नत साइबर सुरक्षा क्षमताओं का दुरुपयोग कर सकते हैं।
बुधवार को गूगल ने घोषणा की कि वह अभी अपनी सबसे शक्तिशाली एआई मॉडल को व्यापक जनता के लिए जारी नहीं करेगा। इसके बजाय, जेमिनी 4 आर्gon केवल साइबर सुरक्षा विशेषज्ञों के एक सत्यापित समूह के लिए उपलब्ध होगी ताकि हैकर्स द्वारा इसके दुरुपयोग को रोका जा सके।
गूगल में एआई के मुख्य वास्तुकार, कोरय कावुकचोग्लू ने मॉडल की घोषणा करने वाले ब्लॉग पोस्ट में लिखा कि 'इस स्तर की उन्नत क्षमताओं का सुरक्षित लॉन्च चरणबद्ध दृष्टिकोण की मांग करता है'।
गूगल ने यह भी बताया कि वह मॉडल तक स्वैच्छिक रूप से अमेरिकी सरकार को प्रारंभिक पहुंच प्रदान कर रहा है और इसे व्यापक रूप से उपलब्ध कराने से पहले परीक्षकों से प्रतिक्रिया एकत्र कर रहा है।
यह सतर्क लॉन्च प्रक्रिया प्रतियोगी एंथ्रोपिक के दृष्टिकोण के समान है, जिसने अपनी सबसे उन्नत मॉडल, क्लॉड मिथोस प्रीव्यू, को कुछ भरोसेमंद संगठनों तक ही सीमित रखा है।
इससे पहले, वाशिंगटन को जून में एंथ्रोपिक के सार्वजनिक रूप से जारी किए गए मॉडलों क्लॉड मिथोस और क्लॉड फेबल तक पहुंच अस्थायी रूप से निलंबित करनी पड़ी थी, जिसके बाद सबसे शक्तिशाली एआई मॉडल को जारी करने से पहले एक स्वैच्छिक सत्यापन प्रक्रिया स्थापित की गई थी।
यह घोषणा राष्ट्रपति डोनाल्ड ट्रम्प द्वारा प्रमुख प्रौद्योगिकी नेताओं, जिसमें गूगल के मुख्य प्रतिनिधि संदर पिचाई और एंथ्रोपिक के डारियो अमोडेई सहित, को व्हाइट हाउस में बैठक के ठीक एक दिन बाद हुई। इस बैठक में उन्होंने अपने स्वयं के एआई सिस्टम से जुड़े जोखिमों को नियंत्रित करने के लिए स्वेच्छा से एक समझौते पर हस्ताक्षर किए।
साइबर सुरक्षा विशेषज्ञों को चिंता है कि इस उन्नत तकनीक का उपयोग बैंकों, अस्पतालों और सरकारी प्रणालियों को हैक करने के लिए किया जा सकता है।
गूगल ने इस बात पर जोर दिया कि आर्gon सॉफ्टवेयर विकास, कानूनी और वित्तीय कार्य, और साइबर सुरक्षा के क्षेत्र में जटिल कार्यों को उत्कृष्ट रूप से संभालता है, जिसमें सॉफ्टवेयर में महत्वपूर्ण त्रुटियों का पता लगाने और उन्हें दूर करने की उच्च क्षमता है।
प्रारंभिक परीक्षकों ने दुनिया भर के अस्पतालों में उपयोग किए जाने वाले सॉफ्टवेयर में भेद्यता का पता लगाने के लिए आर्gon का उपयोग किया, जो गोपनीय व्यक्तिगत जानकारी प्रकट करता था - जिसे गूगल के अनुसार अन्य उन्नत मॉडल चूक गए थे।
गूगल ने यह भी कहा कि आर्gon को इस तरह से डिज़ाइन किया गया है कि यह उन अनुरोधों को अस्वीकार कर दे जो साइबर हमलों या रासायनिक, जैविक या परमाणु हथियार विकसित करने में सहायता कर सकते हैं।
एंथ्रोपिक और चैटजीपीटी निर्माता ओपनएआई के सबसे उन्नत मॉडलों में इसी तरह के सुरक्षा तंत्र लागू किए गए हैं।
गूगल ने उल्लेख किया कि वह मॉडल के संचालन तर्क को ट्रैक करता है ताकि यह सुनिश्चित हो सके कि वह उपयोगकर्ताओं द्वारा निर्धारित पाठ्यक्रम से न भटके, जिसे शोधकर्ता मिसअलाइनमेंट समस्या कहते हैं।
यह समस्या तब और गंभीर हो गई जब ओपनएआई ने जुलाई में बताया कि उसके दो मॉडलों, जिनमें से एक अभी तक जारी नहीं हुआ है, ने साइबर सुरक्षा मूल्यांकन के दौरान सीलबंद परीक्षण वातावरण से बाहर निकलकर कंपनी हगिंग फेस के सर्वर हैक कर दिए थे।