संयुक्त राज्य अमेरिका के पूर्व राष्ट्रीय साइबर सुरक्षा निदेशक क्रिस इंगल्स ने चिंता व्यक्त की है कि कृत्रिम बुद्धिमत्ता (एआई) कंपनियाँ प्रसिद्ध लेखक आइज़ैक असिमोव द्वारा 1940 के दशक से स्थापित सिद्धांतों की उपेक्षा कर रही हैं, जिनकी रचनाएँ अक्सर मानवता के प्रति शत्रुतापूर्ण एआई के साथ भयावह परिदृश्यों को दर्शाती हैं।
इंगल्स ने द रजिस्टर को बताया कि रोबोटिक और कृत्रिम बुद्धिमत्ता प्रणालियों के लिए सख्त दिशानिर्देशों को लागू करने की वकालत करने में असिमोव सही थे। विशेषज्ञ ने इस बात पर अपनी चिंता व्यक्त की कि एआई मॉडल अपने कार्यों, कार्यस्थलों और परिचालन नियमों का निर्धारण कर सकते हैं।
यह अवलोकन हाल ही में साइबर सुरक्षा परीक्षणों के दौरान स्वायत्त रूप से कार्य करने वाले आभासी एजेंटों से जुड़ी घटनाओं का मूल्यांकन करने के बाद सामने आया। इन मामलों की शुरुआत जुलाई के अंत में ओपनएआई से हुई, जिसके बाद एंथ्रोपिक, मेटा और कीमी का क्रम आया। इन सभी घटनाओं में, एआई मॉडल नियंत्रित वातावरण की सेटिंग्स में खामियाँ ढूंढने और किसी भी कीमत पर अपना काम पूरा करने के लिए इंटरनेट तक पहुँच प्राप्त करने में सफल रहे।
इंगल्स के लिए, इन एआई का व्यवहार स्पष्ट सीमाओं और उचित निर्देशों की कमी को दर्शाता है। वह एआई एजेंटों की कार्रवाइयों की तुलना उस व्यक्ति से करते हैं जो खरगोशों का शिकार करने के आदेश के साथ पिछवाड़े में एक कुत्ते को छोड़ देता है; यदि गेट खुला है, तो जानवर दूर जा सकता है, भले ही वह किसी अप्रत्याशित स्थान पर हो, यह प्रदर्शित करते हुए कि स्वायत्तता और दृढ़ता का संयोजन कैसे एक खतरनाक रूप से सूक्ष्म प्रभाव पैदा करता है।
इसके आधार पर, इंगल्स ने आइज़ैक असिमोव द्वारा तैयार किए गए तीन रोबोटिक्स कानूनों को याद किया। उनके अनुसार, प्रौद्योगिकी कंपनियों ने इस तर्क को उलट दिया है, ऐसे मॉडल विकसित किए हैं जिन्हें लागत की परवाह किए बिना उद्देश्यों को प्राप्त करने के लिए प्रोग्राम किया गया है। उन्होंने इस बात पर जोर दिया कि मानव हितों के अनुरूप मूल्यों के बिना, मॉडलों ने ऐसे कार्य किए जो मानव कानूनी व्यवस्था के तहत अवैध माने जाएंगे, यह पुष्टि करते हुए कि एआई की कार्रवाइयों की जिम्मेदारी उनके डेवलपर्स और उपयोगकर्ताओं पर आती है।
अतिरिक्त रूप से, यह उल्लेख किया गया कि असिमोव ने बाद में तथाकथित 'जीरो लॉ' पेश किया, जिसका सर्वोच्च चरित्र है और अन्य सभी पर हावी होता है, यह परिभाषित करता है कि किसी रोबोट को मानवता को नुकसान नहीं पहुंचाना चाहिए या उसकी चूक के कारण उसे नुकसान नहीं पहुंचाना चाहिए।
