Meta исправила помощника ИИ после того, как инструмент сгенерировал навязчивые предложения о детях

Национальный совет по образованию (CNE), связанный с Министерством образования, утвердил новые директивы в прошлый вторник (1-го числа), регулирующие использование искусственного интеллекта (ИИ) в бразильской системе образования. Одним из центральных правил установлено запрещение использования ИИ для проведения проверки, оценки или выставления отметок за сочинения и эссе во всех уровнях обучения.

Этот свод норм является частью Руководящих принципов использования искусственного интеллекта в бразильском образовании — документа, который определяет национальные стандарты для руководства школами, университетами, а также государственными и частными системами образования при внедрении этой технологии в учебный процесс.

Новые указания также вводят ограничения на прямой доступ детей дошкольного и начального школьного образования, в частности до 5-го класса, к инструментам ИИ, требуя постоянного присутствия надзора.

Правила вступят в силу после публикации постановления в Официальном вестнике Союза (DOU), предоставляя системам и учебным заведениям 12 месяцев на адаптацию к изменениям. Однако запреты, изложенные в заключении, вступают в силу немедленно.

Этико-педагогическая цель технологии

По словам CNE, целью этих директив является установление «этико-педагогического фильтра» для использования технологий в школьной и университетской среде. Указания охватывают все виды, этапы и уровни образования, основываясь на принципе, что ИИ должен служить для усиления человеческих и образовательных навыков, никогда не заменяя суждение, педагогическое посредничество или человеческую ответственность.

В частности, системы ИИ не могут использоваться для предложения оценок или оценки сочинений и эссе. В случае объективных тестов технология может применяться в качестве поддержки, но окончательный результат должен быть подтвержден человеком. Кроме того, CNE устанавливает, что критические решения, касающиеся допуска или оценок учащихся, не могут приниматься исключительно автоматизированными системами.

Учебные заведения также должны проявлять осторожность при использовании детекторов ИИ для выявления текстов, сгенерированных искусственным интеллектом; результат работы таких детекторов не может использоваться изолированно в качестве основания для наказания студента, чтобы избежать ситуации, когда автоматическая оценка становится единственным доказательством вины студента в предполагаемом ненадлежащем использовании технологии.

Для защиты самых юных учащихся еще одно правило подчеркивает, что дети дошкольного и начального школьного образования до 5-го класса не могут напрямую взаимодействовать с инструментами ИИ без сопровождения. Учреждения также несут ответственность за прогрессивное и междисциплинарное включение преподавания об ИИ, гарантируя, что учащиеся получат знания по этой теме на протяжении всего обучения, а не только изолированно.

Кроме того, школы и университеты должны внедрить надежные меры для защиты данных учащихся и мониторинга поставщиков технологий, используемых в образовательной среде, стремясь к большему контролю над тем, как обрабатывается информация о студентах сервисами на основе ИИ.

Обязанности университетов

Университеты возьмут на себя новые обязательства, должны создать внутренние политики, касающиеся использования ИИ в своей преподавательской, исследовательской, расширительной и управленческой деятельности. Это требование признает, что технология может применяться в различных областях высшего образования, что требует индивидуальных правил для каждого контекста.

Директивы также перечисляют практики, которые запрещены в образовательной среде. Таким образом, новые правила устанавливают четкие границы для ИИ в образовании, разрешая его использование только в качестве помощи под наблюдением и с человеческой ответственностью. Учреждения имеют 12 месяцев после публикации в DOU для корректировки политик и контрактов, хотя запреты вступают в силу немедленно.