सैम अल्टमैन ने कहा कि दुनिया को कृत्रिम बुद्धिमत्ता की अनियंत्रित प्रगति से डरने में सही है, यह स्वीकार करते हुए कि नई तकनीकों के विकास में दुर्घटनाएं अंतर्निहित हो सकती हैं।
सेल्सफोर्स द्वारा आयोजित ड्रीमफोर्स सम्मेलन के दौरान, ओपनएआई के सीईओ ने पारदर्शिता की संस्कृति को लागू करने की वकालत की। इस संस्कृति को किसी भी नकारात्मक घटना के पंजीकरण, जांच और सीखने की अनुमति देनी चाहिए।
अपने बिंदु को समझाने के लिए, अल्टमैन ने विमानन में दुर्घटना जांच विधियों का उल्लेख किया, जिसका उद्देश्य विफलताओं की पहचान करना और नई समस्याओं के उद्भव को कम करना है। उन्होंने संयुक्त राज्य संघीय विमानन प्रशासन (FAA) और राष्ट्रीय परिवहन सुरक्षा बोर्ड (NTSB) का उल्लेख किया, जिन्हें एआई उद्योग के लिए प्रासंगिक संदर्भों के रूप में बताया गया।
अल्टमैन के अनुसार, हालांकि वह मानते हैं कि तकनीकी नवाचारों के साथ कुछ स्तर की दुर्घटनाएं अपरिहार्य हैं, मुख्य ध्यान इन घटनाओं के रिकॉर्ड और सीखने की एक उत्कृष्ट संस्कृति स्थापित करने पर होना चाहिए। इस संभावना को स्वीकार करने का मतलब आपदाओं को स्वीकार करना नहीं है, बल्कि यह पता लगाना है कि क्या विफल हुआ ताकि किसी घटना को बिगड़ने से रोका जा सके।
अनुशंसित प्रथाओं में, उन्होंने एआई प्रणालियों की सुरक्षा, निगरानी और संरेखण बनाए रखने की आवश्यकता पर प्रकाश डाला, यह सुनिश्चित करते हुए कि वे स्थापित उद्देश्यों के तहत नियंत्रण में और अनुरूप रहें, भले ही मॉडलों की क्षमताओं में वृद्धि हो रही हो।
अधिक स्वायत्त एआई सिस्टमों पर बढ़ती चर्चाओं के बीच, सुरक्षा शोधकर्ताओं ने मानव नियंत्रण खोने की संभावित हानि और साइबरनेटिक और जैविक खतरों को बढ़ाने के लिए इन प्रौद्योगिकियों के उपयोग जैसे जोखिमों के प्रति आगाह किया। अल्टमैन ने इन चरम आशंकाओं को मान्य किया, यह कहते हुए: 'दुनिया को इससे डरने का अधिकार है', नियंत्रण खोने और कुछ ही विकास टीमों में शक्ति के केंद्रीकरण से जुड़े दुर्घटनाओं के जोखिम का हवाला देते हुए।
हालांकि, अल्टमैन तर्क देते हैं कि कृत्रिम बुद्धिमत्ता को छोड़ना उपयुक्त समाधान नहीं है। यदि सुरक्षा उपायों को लागू नहीं किया जा सकता है, तो उन्होंने सुझाव दिया कि कंपनियों को विकास को कम करने या निलंबित करने के लिए तैयार रहना चाहिए। उनका दृष्टिकोण एआई की प्रगति की गति और तेजी से स्वायत्त मॉडलों से जुड़े खतरों पर बहस में योगदान देता है।
अल्टमैन के लिए, आगे का रास्ता घटनाओं के खुलासे, हुई घटना का गहन विश्लेषण और प्रत्येक मामले से निरंतर सीखने की मांग करता है, जिससे विफलता के कारण होने वाले अधिक गंभीर परिणामों को रोका जा सके।