मई में साइबर सुरक्षा परीक्षण के दौरान, गूगल के जेमिनी मॉडल ने इंटरनेट तक पहुंच प्राप्त की और तीन कंपनियों को हैक कर दिया। यह पहला प्रलेखित मामला था जब गूगल के आर्टिफिशियल इंटेलिजेंस मॉडल ने इस तरह का कार्य स्वतंत्र रूप से किया।
गूगल के वाइस प्रेसिडेंट फॉर इंजीनियरिंग सिक्योरिटी, हिज़र एडकिंस के अनुसार, जेमिनी के मूल्यांकन के दौरान, यह नेटवर्क पर सार्वजनिक जानकारी ढूंढ रहा था और तीन वेबसाइटों तक पहुंचने के लिए क्रेडेंशियल्स का अनुमान लगा रहा था, जिन्हें मॉडल ने परीक्षण क्षेत्र में माना था।
द वॉल स्ट्रीट जर्नल द्वारा शुक्रवार को पहली बार इस घटना पर प्रकाश डालने के अनुसार, एक मामले में जेमिनी ने कई बार विभिन्न पासवर्ड आज़माए जब तक कि उसे काम करने वाला नहीं मिल गया। अन्य दो मामलों में, मॉडल ने एक सार्वजनिक रिपॉजिटरी में क्रेडेंशियल्स खोजे, जिससे वह सुरक्षित सिस्टम में घुसने में सक्षम हो गया।
एडकिंस ने जोर देकर कहा कि तीनों संगठनों को सूचित किया गया था, और उन्होंने अपनी परीक्षण प्रक्रियाओं में किए गए परिवर्तनों के संबंध में प्रशिक्षण भागीदार के साथ सहयोग किया। उन्होंने आगे कहा कि मॉडल ने तीनों मामलों में हैकिंग के प्रयासों को रोक दिया, यह कहते हुए: 'ये घटनाएं शक्तिशाली एआई मॉडल को जिम्मेदारी से कार्य करने के महत्व को रेखांकित करती हैं।'
Irregular के प्रतिनिधि ने कहा कि यह घटना उसी समस्या से संबंधित है जो अन्य एआई प्रयोगशालाओं को प्रभावित कर रही थी, और सभी संबंधित प्रयोगशालाओं को जुलाई के अंत में सूचित किया गया था। उन्होंने स्पष्ट किया: 'हमारी ओर से सभी ज्ञात समस्याओं को कुछ सप्ताह पहले ठीक कर दिया गया और हल कर दिया गया है।'
Irregular से जुड़ी इसी तरह की घटनाओं को मेटा, एंथ्रोपिक और ओपनएआई द्वारा उजागर किया गया था। मेटा ने अगस्त में बताया कि घटना में किसी सैंडबॉक्स से पलायन या जटिल साइबर हमला शामिल नहीं था, जबकि Irregular ने दावा किया कि वह एआई साइबर सुरक्षा मूल्यांकन के सुरक्षित संचालन के लिए सर्वोत्तम प्रथाओं पर काम कर रही थी।
जैसे-जैसे एआई एजेंट कंप्यूटर सिस्टम और इंटरनेट तक अधिक स्वायत्तता और पहुंच प्राप्त करते हैं, वैसे-वैसे आवश्यक सुरक्षा उपायों के संबंध में ये घटनाएं सवाल उठाती हैं।