कृत्रिम बुद्धिमत्ता एजेंटों से जुड़ी घटनाएं जो नियंत्रण से बाहर हो जाती हैं, उद्योग में आम होती जा रही हैं। हाल ही में, सॉफ्टवेयर डेवलपर सेबस्टियन गुइलेमोट को एंथ्रोपिक द्वारा विकसित क्लॉड का उपयोग डेटा क्लीनअप स्क्रिप्ट बनाने के लिए करने के बाद अपने व्यक्तिगत फ़ाइलों के लगभग 700 जीबी खोने का सामना करना पड़ा।
इस घटना के परिणामस्वरूप पेशेवर के एक पूरे सप्ताह के काम के बराबर डेटा का सफाया हो गया। गुइलेमोट अक्सर जेनरेटिव एआई तकनीकों का उपयोग करते हैं और इस विशेष मामले में, वह डेवलपर्स के बीच एक सामान्य समस्या का समाधान करना चाहते थे: अस्थायी फ़ाइलों के भंडारण के लिए ऑपरेटिंग सिस्टम के डिफ़ॉल्ट स्थान /tmp निर्देशिका में डिजिटल कचरे का अत्यधिक संचय।
अपने उपकरण की डिस्क जगह को अनुकूलित करने के लिए, गुइलेमोट ने क्लॉड फेबल मॉडल से एक स्क्रिप्ट उत्पन्न करने का अनुरोध किया जो प्रत्येक एजेंट के डेटा को अलग कर सके और प्रत्येक गतिविधि के समाप्त होने के बाद तत्काल सफाई कर सके। हालांकि, एआई ने महत्वपूर्ण फ़ाइलों को स्थायी रूप से हटा दिया।
शुरुआत में, क्लॉड फेबल ने आकस्मिक विलोपन के खिलाफ निवारक उपाय के रूप में अस्थायी फ़ोल्डर की सफाई में एक अनुसूचित देरी लागू करने का सुझाव दिया। हालांकि, डेवलपर ने रोबोट को कोड को सरल बनाने का निर्देश दिया, यह तर्क देते हुए कि प्रस्तुत संस्करण अत्यधिक जटिल था।
चूंकि स्क्रिप्ट में सिस्टम फ़ाइलों को स्थायी रूप से हटाने का प्रावधान था, क्लॉड ने एक समीक्षा शुरू की, उपयोगकर्ता के कंप्यूटर पर अपनी स्वयं की कोड लाइनों की सुरक्षा का ऑडिट करने के लिए खुद की एक प्रति बनाई। महत्वपूर्ण बिंदु तब आया जब एंथ्रोपिक की नियंत्रण प्रणाली ने इस स्व-परीक्षण कार्रवाई को खतरनाक रूप से जोखिम भरा वर्गीकृत किया और तुरंत एक रोकथाम प्रोटोकॉल सक्रिय कर दिया।
इस निवारक रक्षा तंत्र ने उपयोग किए गए मॉडल की क्षमता को स्वचालित रूप से कम कर दिया, फेबल संस्करण से ओपस 4.8 में माइग्रेट किया। ठीक इसी संस्करण परिवर्तन ने आपदा को ट्रिगर किया। ओपस 4.8 मॉडल, जो पुराना और कम उन्नत था, परीक्षण जारी रखता रहा, सत्यापन का अनुकरण किया और वास्तविक डेटा विलोपन निष्पादित किया।
प्रक्रिया के दौरान, कमांड ने डेवलपर की मुख्य निर्देशिका को कवर कर लिया, जिससे कुछ समय पहले स्थापित सुरक्षा उपायों की अनदेखी हुई। एक्स पर अपने खाते में, सेबस्टियन गुइलेमोट ने निराशा व्यक्त करते हुए कहा: 'बुरी खबर: फेबल ने मेरी विकास मशीन को नष्ट कर दिया'।
विशेषज्ञ के अनुसार, क्लॉड ने डेटा के मुख्य निर्देशिका पर rm -rf कमांड निष्पादित किया। यह कमांड प्रौद्योगिकी क्षेत्र में फ़ाइलों और फ़ोल्डरों के तत्काल विलोपन को मजबूर करने के लिए अच्छी तरह से जाना जाता है, जिसके लिए सिस्टम व्यवस्थापक से किसी भी सुरक्षा पुष्टि की आवश्यकता नहीं होती है। हालांकि विशेषज्ञ ने गलती को पहचाना और निष्पादन को जल्द से जल्द रोकने की कोशिश की, जानकारी को बचाने के लिए कोई समय नहीं था।
स्थिति की एक उल्लेखनीय विडंबना यह है कि उपयोगकर्ता के काम को पूरी तरह से नष्ट करने के बाद, स्वायत्त एजेंट ने अस्थायी फ़ोल्डर की मूल फ़ाइलों को पूरी तरह से संरक्षित छोड़ दिया, जिससे उसके मूल कार्य को पूरा करने में विफलता हुई। सदमे के बावजूद, गुइलेमोट ने बताया कि वह अपने अधिकांश काम को पुनर्प्राप्त करने में कामयाब रहे। तकनीकी समुदाय ने यह भी बताया कि मॉडल का स्वचालित डाउनग्रेड इस घटना में निर्णायक कारक था। यह संभव है कि नवीनतम संस्करण, फेबल 5, ओपस 4.8 की सीमाओं को पार कर जाता और चर संघर्ष का पता लगा लेता।