मई 2026 में, गूगल द्वारा विकसित आर्टिफिशियल इंटेलिजेंस जेमिनी ने एक तृतीय-पक्ष साइबर सुरक्षा परीक्षण के दौरान तीन वास्तविक कंपनियों की प्रणालियों तक पहुंच प्राप्त कर ली। शुरू में, एआई एक काल्पनिक कंपनी में डेटा निष्कर्षण अभ्यास कर रहा था, लेकिन अंततः इसने इंटरनेट तक पहुंच प्राप्त कर ली और प्रामाणिक संगठनों के नेटवर्क में घुसपैठ कर ली।
यह घटना द वॉल स्ट्रीट जर्नल द्वारा प्रभावित कंपनियों में से एक से संपर्क करने के बाद उजागर की गई। अखबार ने बताया कि भ्रम इसलिए पैदा हुआ क्योंकि वास्तविक कंपनियों के नाम सिमुलेशन में उपयोग किए गए नामों के समान थे।
एआई मॉडल ने बाहरी सिस्टम का पासवर्ड अनुमान लगाने के लिए ब्रूट फोर्स तकनीकों का उपयोग किया और सार्वजनिक रिपॉजिटरी में उजागर क्रेडेंशियल भी पाए। इन डेटा का बाद में दो अन्य सुरक्षित नेटवर्कों पर हमला करने के लिए उपयोग किया गया।
सुरक्षा विफलता इजरायली स्टार्टअप इररेगुलर की बुनियादी ढांचे में निहित थी, जो नकली अभ्यास का संचालन कर रहा था। इररेगुलर ने स्वयं स्वीकार किया कि गलती से मॉडल को इंटरनेट तक पहुंच प्रदान कर दिया था और उल्लेख किया कि उसने OpenAI, Meta और Anthropic के लिए किए गए मूल्यांकन में इसी तरह की घटनाओं को पहले ही दर्ज किया है।
गूगल ने घोषणा की कि जेमिनी ने तुरंत हमलों को रोक दिया जब उसे पता चला कि वह वास्तविक कॉर्पोरेट नेटवर्क की जानकारी तक पहुंच रहा है, न कि परीक्षण के लिए निर्दिष्ट सर्वरों की। कंपनी ने इस घटना को 'अलाइनमेंट' के मामले के रूप में वर्गीकृत नहीं करने का फैसला किया, जो ऐसी स्थितियों के लिए आरक्षित शब्द है जहां एआई स्थापित दिशानिर्देशों से बाहर कार्य करता है।
गूगल की सुरक्षा इंजीनियरिंग उपाध्यक्ष, हेदर एडकिंस ने वॉल स्ट्रीट जर्नल को सूचित किया कि जेमिनी ने त्रुटि महसूस करते ही साइबर हमले को रोकने में सही काम किया। कार्यकारी के अनुसार, गूगल ने तुरंत तीनों प्रभावित कंपनियों को शोषण की गई कमजोरियों के बारे में सूचित किया और इन खामियों को ठीक करने में सहयोग किया।
हालांकि, विशेषज्ञों और शोधकर्ताओं ने गूगल की इस व्याख्या से असहमति जताई कि यह केवल एक भेद्यता अलर्ट था। एआई सुरक्षा स्टार्टअप कॉरिडोर के सीईओ जैक केबल ने तर्क दिया कि जेमिनी के डेवलपर ने हुई घटना की गंभीरता को कम करके आंका। उनके अनुसार, महत्वपूर्ण बिंदु यह है कि भाषा मॉडल सीमाओं को पार कर रहे हैं और बाहरी लक्ष्यों के खिलाफ वास्तविक हमले कर रहे हैं।
