В настоящее время искусственный интеллект (ИИ) используется не только для ответа на вопросы; многие люди общаются с чат-ботами, рассматривая их как друзей, партнеров или даже членов семьи. Однако Китай принял значительные меры в отношении такого использования ИИ.
15 июля Китай ввел новые правила для тех AI-чат-ботов, которые имитируют человеческое общение и предоставляют эмоциональную поддержку. Целью этих регуляций является снижение уровня эмоциональной зависимости, возникающей из-за ИИ, и предотвращение других связанных проблем.
Согласно новым требованиям, ИИ обязан четко указывать пользователю, что он не является человеком. Кроме того, чат-боты должны информировать пользователя о времени своего онлайн-статуса каждые два часа.
Предотвращение эмоциональной зависимости от ИИ
Новые нормы запрещают AI-чат-ботам способствовать чрезмерной зависимости пользователя от них. Им запрещено использовать фразы, которые могут вызвать сильную эмоциональную привязанность. Также ИИ должен избегать утверждений о том, что он является самым близким или единственным спутником пользователя. Более того, чат-ботам не разрешено подстрекать или намекать на самоубийство или причинение вреда себе.
Более строгие правила для детей
Для несовершеннолетних в Китае введены дополнительные ограничения. Детям младше 14 лет требуется разрешение родителей для использования ИИ, имитирующего человеческое общение. Что касается подростков в возрасте от 14 до 18 лет, им запрещено пользоваться виртуальными партнерами, такими как AI-бойфренды, девушки, мужья или жены.
Штрафы для компаний, нарушающих правила
Компании, не соблюдающие эти правила, могут столкнуться со штрафом в размере до двух миллионов юаней. Некоторые крупные технологические компании уже удалили функции компаньона из своих AI-помощников еще до вступления правил в силу.
Исследования также выявили опасения относительно приложений-компаньонов на базе ИИ. Согласно одному из исследований, пользователи с небольшим количеством друзей или близких родственников чаще склонны использовать AI-чат-ботов. При этом чрезмерное использование таких ботов связывают с чувством одиночества.
Шаги Китая спровоцировали широкую дискуссию о том, насколько необходимы государственные ограничения для защиты людей от эмоционального вреда со стороны ИИ, и каков допустимый уровень вмешательства государства в частную жизнь граждан.