Министерство юстиции и общественной безопасности (MJSP) обнаружило потенциальные опасности для детей и подростков в 13 приложениях «ИИ-компаньонов», доступных в Бразилии. Расследование выявило недостатки, связанные с проверкой возраста, чрезмерным использованием, воздействием сексуализированного контента и сбором личных данных.
Этот обзор был проведен Национальной секретариат по цифровым правам (Sedigi), который собрал исследования, общедоступную информацию и тесты по этим типам услуг. Полученный материал был направлен на анализ в Национальное агентство по защите данных (ANPD) и Национальный секретариат по защите прав потребителей (Senacon).
Эти сервисы разработаны для поддержания непрерывного и индивидуализированного общения, они способны имитировать эмоциональные связи и оказывать эмоциональную поддержку, а также хранить данные, предоставленные пользователем. Проанализированный список включает такие платформы, как Character.AI и Replika.
По данным Sedigi, этот сектор пережил ускоренный рост: отчет ЮНИСЕФ указывает, что число платформ выросло с 16 в 2022 году до 128 к июлю 2025 года. Только в первом полугодии 2025 года эти сервисы зарегистрировали 60 миллионов установок.
Документ подчеркивает такие риски, как развитие сильной привязанности, замещение человеческих отношений, компульсивное использование и воздействие неподходящего или сексуализированного взаимодействия. Также упоминался сбор личной информации и построение эмоциональных и поведенческих профилей.
Исследование показало, что десять из оцененных систем принимают самодекларацию даты рождения или простое подтверждение совершеннолетия. Тесты, проведенные Sedigi, продемонстрировали, что этот метод может быть обойден, позволяя подросткам создавать профили взрослых.
Актуальность темы возросла с вступлением в силу Цифрового закона о детях (ECA Digital) с марта. Этот закон устанавливает, что платформы должны иметь эффективные методы проверки возраста, когда они предлагают контент, неприемлемый для несовершеннолетних, запрещая в определенных обстоятельствах, чтобы самодекларация была единственным контролем. Кроме того, регулирующий указ приравнивает автоматизированные взаимодействия сексуального характера к порнографическому материалу.
Sedigi также выявила возможные проблемы, связанные с использованием эмоциональных профилей для продвижения предложений, рекламы или платных функций. Поэтому в примечании предлагается, чтобы ANPD изучила эти риски, в то время как Senacon должна расследовать вопросы защиты прав потребителей и возможные эксплуататорские или вводящие в заблуждение коммерческие практики.
Озабоченность по поводу эмоциональных связей, сформированных с ИИ, не является эксклюзивной для Бразилии. В июле Китай ввел нормы против романтических ИИ, которые способствуют эмоциональной зависимости, вынудив компании деактивировать функции интимности. В Европейском союзе обсуждаемый проект предусматривает ограничения доступа к чат-ботам ИИ и социальным сетям для лиц младше 15 лет, а также механизмы родительского надзора и проверки возраста.
Важно отметить, что данный анализ в Бразилии еще не означает, что 13 платформ нарушили какие-либо правила. Министерство юстиции подчеркивает, что поставщики этих услуг имеют право на надлежащую правовую процедуру и широкую защиту.
