मेटा ने बच्चों के बारे में आपत्तिजनक सुझाव देने वाले टूल के बाद एआई असिस्टेंट को ठीक किया

शिक्षा मंत्रालय से संबद्ध राष्ट्रीय शिक्षा परिषद (CNE) ने पिछले मंगलवार (1 तारीख) को नए दिशानिर्देशों को मंजूरी दी, जो ब्राज़ीलियाई शैक्षिक प्रणाली में कृत्रिम बुद्धिमत्ता (AI) के उपयोग को नियंत्रित करते हैं। एक मुख्य नियम सभी स्तरों पर निबंधों और वर्णनात्मक परीक्षाओं में सुधार, मूल्यांकन या ग्रेड देने के लिए AI के उपयोग पर रोक लगाता है।

यह नियमों का समूह ब्राज़ीलियाई शिक्षा में कृत्रिम बुद्धिमत्ता के उपयोग के दिशा-निर्देशों का हिस्सा है, एक ऐसा दस्तावेज़ जो सीखने की प्रक्रियाओं में इस तकनीक को शामिल करने के लिए स्कूलों, विश्वविद्यालयों और सार्वजनिक तथा निजी दोनों तरह की शिक्षण प्रणालियों के लिए राष्ट्रीय मानक परिभाषित करता है।

नए दिशानिर्देश प्रारंभिक बचपन की शिक्षा और प्राथमिक विद्यालय के शुरुआती वर्षों (विशेष रूप से 5वीं कक्षा तक) के बच्चों के लिए AI उपकरणों तक सीधी पहुंच पर भी प्रतिबंध लगाते हैं, जिसमें हमेशा पर्यवेक्षण की आवश्यकता होती है।

ये नियम संघीय आधिकारिक गजट (DOU) में प्रकाशन के बाद लागू होंगे, जिससे शिक्षण प्रणालियों और संस्थानों को परिवर्तनों के अनुकूल होने के लिए 12 महीने का समय मिलेगा। हालांकि, राय में निर्धारित प्रतिबंध तत्काल प्रभाव से लागू होंगे।

प्रौद्योगिकी का नैतिक-शैक्षणिक उद्देश्य

CNE के अनुसार, इन दिशानिर्देशों का उद्देश्य स्कूल और विश्वविद्यालय के वातावरण में प्रौद्योगिकी के उपयोग के लिए एक 'नैतिक-शैक्षणिक फिल्टर' स्थापित करना है। ये दिशानिर्देश शिक्षा के सभी तरीकों, चरणों और स्तरों को कवर करते हैं, इस सिद्धांत पर आधारित हैं कि AI को मानवीय और शैक्षिक क्षमताओं को बढ़ाने के लिए काम करना चाहिए, न कि कभी भी मानवीय निर्णय, शैक्षणिक मध्यस्थता या जिम्मेदारी को प्रतिस्थापित करना चाहिए।

विशेष रूप से, AI सिस्टम का उपयोग ग्रेड सुझाने या निबंधों और वर्णनात्मक परीक्षाओं का मूल्यांकन करने के लिए नहीं किया जा सकता है। वस्तुनिष्ठ परीक्षाओं के मामले में, प्रौद्योगिकी का उपयोग सहायता के रूप में किया जा सकता है, लेकिन अंतिम परिणाम को एक इंसान द्वारा मान्य किया जाना चाहिए। इसके अलावा, CNE निर्धारित करता है कि छात्रों की स्वीकृति या ग्रेड से संबंधित महत्वपूर्ण निर्णय केवल स्वचालित प्रणालियों द्वारा नहीं लिए जा सकते हैं।

शिक्षण संस्थानों को AI डिटेक्टर का उपयोग करते समय भी सावधानी बरतनी चाहिए ताकि AI द्वारा उत्पन्न पाठ की पहचान की जा सके; इन डिटेक्टरों के परिणाम का उपयोग किसी छात्र को दंडित करने के आधार के रूप में अकेले नहीं किया जा सकता है, जिसका उद्देश्य यह सुनिश्चित करना है कि किसी छात्र को कथित तौर पर प्रौद्योगिकी के अनुचित उपयोग के लिए जिम्मेदार ठहराने का एकमात्र प्रमाण स्वचालित मूल्यांकन न हो।

सबसे छोटे छात्रों की सुरक्षा के लिए, एक अन्य नियम मजबूत करता है कि प्रारंभिक बचपन की शिक्षा और प्राथमिक विद्यालय के शुरुआती वर्षों (5वीं कक्षा तक) के बच्चे बिना निगरानी के AI उपकरणों के साथ सीधे बातचीत नहीं कर सकते हैं। संस्थान इस बात के लिए भी जिम्मेदार हैं कि वे AI के बारे में शिक्षा को प्रगतिशील और पारगमन तरीके से एकीकृत करें, यह सुनिश्चित करते हुए कि छात्र अपने प्रशिक्षण के दौरान विषय के बारे में ज्ञान प्राप्त करें, न कि केवल अलग से।

इसके अतिरिक्त, स्कूलों और विश्वविद्यालयों को छात्रों के डेटा की सुरक्षा के लिए मजबूत उपाय लागू करने और शैक्षिक वातावरण में उपयोग किए जाने वाले प्रौद्योगिकी आपूर्तिकर्ताओं की निगरानी करने की आवश्यकता है, ताकि AI-आधारित सेवाओं द्वारा छात्र जानकारी के प्रबंधन पर अधिक नियंत्रण प्राप्त किया जा सके।

विश्वविद्यालयों की जिम्मेदारियाँ

विश्वविद्यालय नई जिम्मेदारियां लेंगे, उन्हें अपनी शिक्षण, अनुसंधान, विस्तार और प्रबंधन गतिविधियों में AI के प्रबंधन के लिए विशिष्ट आंतरिक नीतियां बनानी होंगी। यह निर्धारण स्वीकार करता है कि प्रौद्योगिकी को उच्च शिक्षा के विभिन्न क्षेत्रों में लागू किया जा सकता है, जिसके लिए प्रत्येक संदर्भ के लिए अनुकूलित नियमों की आवश्यकता होती है।

दिशानिर्देश उन प्रथाओं को भी सूचीबद्ध करते हैं जिन्हें शैक्षिक क्षेत्र में प्रतिबंधित किया गया है। संक्षेप में, नए नियम शिक्षा में AI के लिए स्पष्ट सीमाएं निर्धारित करते हैं, इसे केवल पर्यवेक्षण और मानवीय जिम्मेदारी के तहत सहायता के रूप में उपयोग करने की अनुमति देते हैं। संस्थानों के पास DOU में प्रकाशन के बाद नीतियों और अनुबंधों को समायोजित करने के लिए 12 महीने हैं, हालांकि प्रतिबंध तत्काल लागू होते हैं।