एन्थ्रोपिक ने सूचित किया कि उसने उन वैज्ञानिकों को रोका जो अपने आर्टिफिशियल इंटेलिजेंस मॉडल का उपयोग ऐसे शोधों में कर रहे थे जो जैविक हथियारों के विकास में सहायता कर सकते थे। हालांकि कंपनी यह निर्धारित नहीं कर सकी कि परियोजनाओं का इरादा वैध था या दुर्भावनापूर्ण, लेकिन शामिल जोखिमों के कारण काम रोक दिया गया।
एक उल्लेखनीय घटना में एक शोधकर्ता शामिल था जिसने चिकनगुनिया वायरस को अधिक आक्रामक बनाने के लिए संशोधित करने में सहायता मांगी थी। एन्थ्रोपिक ने पता लगाया कि यह शोध एक सैन्य संस्थान में किया जा रहा था, जिससे परिणामों के संभावित उपयोग के बारे में चिंता बढ़ गई।
एन्थ्रोपिक के लिए केंद्रीय चुनौती एक वैध वैज्ञानिक जांच और नुकसान पहुंचाने के संभावित प्रयास के बीच अंतर करने की क्षमता में निहित है। हालांकि जैविक अध्ययन चिकित्सा प्रगति को बढ़ावा दे सकते हैं, जैसे कि टीकों का विकास, इसी तरह के ज्ञान का उपयोग संक्रामक एजेंटों की खतरनाकता को बढ़ाने के लिए भी किया जा सकता है।
एन्थ्रोपिक में खतरे की खुफिया के प्रभारी जैकब क्लाइन ने द न्यूयॉर्क टाइम्स को बताया कि स्थिति बेहद जटिल है, क्योंकि यह जैविक हथियार बनाने का कोई स्पष्ट परिदृश्य नहीं है।
इस अनिश्चितता के कारण, कंपनी ने सतर्क रुख अपनाया। शोधकर्ताओं ने नियंत्रण तंत्रों को दरकिनार करने की भी कोशिश की जो कुछ क्षेत्रों के उपयोगकर्ताओं की पहुंच को प्रतिबंधित करते थे और सुरक्षा उपायों से बचने के लिए अपने शोध के उद्देश्य को छिपाने की कोशिश की। संबंधित खातों को निलंबित कर दिया गया।
कंपनी द्वारा पहचानी गई मुख्य बातें
कंपनी द्वारा इंगित सबसे प्रासंगिक पहलुओं में से एक मई का मामला है, जहां एक वैज्ञानिक ने क्लॉड से मच्छर द्वारा संचारित और महीनों तक तीव्र दर्द और अन्य लक्षणों का कारण बनने वाले चिकनगुनिया वायरस का अध्ययन करने के लिए फंडिंग प्रस्ताव लिखने में सहायता मांगी थी।
परियोजना की योजना जीवित जानवरों में लगातार संक्रमण के दौरान इसकी विषाणुता बढ़ाने के लिए वायरस में आनुवंशिक परिवर्तन पेश करना थी। इस प्रकार के अध्ययन, जिसे फंक्शनल गेन कहा जाता है, के वैध अनुप्रयोग हैं, जिसमें टीकों का निर्माण शामिल है, लेकिन यह वायरस के अधिक खतरनाक वेरिएंट भी उत्पन्न कर सकता है।
इस तथ्य ने कि काम एक सैन्य अनुसंधान केंद्र में निर्धारित था, एन्थ्रोपिक के मूल्यांकन को महत्वपूर्ण रूप से प्रभावित किया। क्लाइन ने कहा कि भले ही वे नहीं जानते थे कि क्या शोध को हथियार में बदल दिया जाएगा, लेकिन फंक्शनल गेन अनुसंधान में एक सैन्य संस्थान की भागीदारी चिंता का विषय थी।
पिछले साल किए गए मूल्यांकन से पता चला कि एन्थ्रोपिक के पुराने मॉडल अभी भी खतरनाक जैविक अनुसंधान में पर्याप्त सहायता प्रदान करने में सक्षम नहीं थे। हालांकि, कंपनी की वर्तमान प्रणालियाँ जटिल वैज्ञानिक जांच करने में अधिक सक्षम हैं, जिसने अधिक कठोर सुरक्षा नियमों को लागू करने के लिए प्रेरित किया।
और पढ़ें:
सुसान मोनारेज़, माइक्रोबायोलॉजिस्ट और सार्वजनिक स्वास्थ्य विशेषज्ञ, ने जोर देकर कहा कि ये मामले एआई का उपयोग करके जैविक एजेंट बनाने की संभावना बढ़ाने के इरादे से गुप्त प्रयासों का ठोस प्रमाण प्रदान करते हैं।
उन्होंने यह भी जोर दिया कि ये ही तकनीकी क्षमताएं चिकित्सा खोजों में तेजी ला सकती हैं। बड़ी चुनौती यह तय करना है कि कब एक जांच जो सही लगती है, वास्तव में हानिकारक इरादे को छिपा रही हो।
एन्थ्रोपिक ने क्लॉड के अन्य दुरुपयोगों की भी सूचना दी, जिसमें निगरानी, प्रचार फैलाना और पारंपरिक हथियार विकसित करना शामिल है। हालांकि, जैविक मामले सबसे अधिक चिंताजनक माने जाते हैं क्योंकि ईमानदार वैज्ञानिक अनुसंधान को नुकसान पहुंचाने की तैयारी से अलग करना मुश्किल है।
कंपनी ने यह साबित किए बिना भी पहचाने गए मामलों को ब्लॉक करने का निर्णय लिया कि शोधकर्ताओं का इरादा हथियार बनाना था। यह घटना दर्शाती है कि कैसे अधिक परिष्कृत एआई मॉडल उन शोधों के पीछे छिपे जोखिमों का मूल्यांकन करना कठिन बना देते हैं जो पहली नज़र में कानूनी लगते हैं।