Быстрое развитие искусственного интеллекта (ИИ) затрудняет создание норм его функционирования, в то время как правительства стремятся установить ограничения для систем, которые уже используются в повседневных услугах и принятии решений. С постоянным появлением новых возможностей дебаты выходят за рамки простого решения о регулировании ИИ; крайне важно определить, какие риски следует контролировать, кто должен нести ответственность, что компании должны делать для соблюдения правил и как поддерживать законодательство в актуальном состоянии на фоне быстрых технологических изменений.
По словам Луки Белли, профессора FGV Direito Rio, необходимость регулирования неразрывно связана с опасностями, которые могут породить эти системы. ИИ может работать иначе, чем предполагалось разработчиками, давать неудовлетворительные результаты или быть уязвимым для атак. Таким образом, по мнению профессора, руководящие принципы должны служить для выявления таких рисков и внедрения механизмов смягчения последствий.
Возможность операционного сбоя, неправильной работы или подверженности кибератакам стимулирует потребность в регулировании, требуя определения мер для картирования существующих рисков и принятия всех необходимых действий для их минимизации или устранения.
Различные глобальные подходы к ИИ
Эта проблема усугубляется тем, что разные страны выбрали различные пути управления этой технологией, отражая не только заботы о правах и безопасности, но и стратегические и экономические интересы.
Европейский союз стал пионером в создании всеобъемлющего законодательства об ИИ, приняв модель, основанную на рисках, и отдавая приоритет защите основных прав. На практике это означает, что приложения с высоким потенциалом воздействия на людей подлежат более строгим требованиям, устанавливая корреляцию между риском системы и степенью применяемого контроля.
Однако Белли указывает на пробел в европейском опыте: его регуляторная стратегия изначально не предусматривала срочности разработки собственных альтернатив для снижения зависимости от внешних технологий. В этом отношении США и Китай продвинулись со стратегиями, объединяющими регулирование с политикой технологического развития.
В Соединенных Штатах ИИ рассматривается также с точки зрения национальной безопасности и технологического лидерства, используя промышленные политики и ограничения доступа к определенным технологиям для укрепления своих позиций в секторе. Китай следует аналогичному курсу стимулирования развития, но интегрирует эту промышленную политику с конкретными нормативными актами для приложений с социальным воздействием, такими как правила для дипфейков и алгоритмических рекомендаций.
Этот стратегический разрыв демонстрирует, что регулирование ИИ не ограничивается установлением ограничений для корпораций; правила также формируют инвестиции, конкурентоспособность, разработку моделей и способность страны строить собственную технологическую цепочку.
Для Бразилии это сравнение имеет решающее значение, поскольку стране необходимо адаптировать международные модели к ее специфической экономической и технологической реальности.
Бразильские дебаты и модель риска
Дебаты в Бразилии вышли за начальную стадию обсуждения необходимости регулирования ИИ. Проект PL 2.338/2023 был одобрен Сенатом в декабре 2024 года и в настоящее время находится на рассмотрении в Палате депутатов. Этот проект принимает методологию, основанную на рисках, стремясь дифференцировать приложения ИИ в зависимости от их потенциального воздействия и устанавливать пропорциональные требования, вместо применения унифицированных обязательств.
Леандро Альваренга, консультант по конфиденциальности и безопасности и обозреватель Olhar Digital, утверждает, что фокус бразильских дискуссий сместился с существования регулирования на практическую модель, которую страна хочет принять, подтверждая, что сенатский текст следует логике регулирования, основанного на рисках.
Однако эта классификация требует многочисленных обсуждений: необходимо определить, что представляет собой высокий риск, какие системы будут иметь самые строгие обязательства и как эти требования будут применяться к компаниям разного размера и возможностей.
Здесь возникает серьезное беспокойство производственного сектора. В то время как крупные корпорации обладают финансовыми, техническими и человеческими ресурсами для соблюдения сложных правил, стартапы и малые предприятия могут не иметь такой структуры. По мнению Альваренги, проблема заключается в поиске надлежащего баланса: системы, затрагивающие основные права, требуют надзора, но чрезмерные обязательства могут нанести ущерб национальному инновационному потенциалу.
Он предупреждает, что чрезмерное регулирование может привести к экспорту инноваций и импорту технологий, в то время как недостаточное регулирование может привести к импорту проблем и экспорту прав.
Риск слишком обременительного надзора заключается в том, что стоимость станет барьером для входа, принося пользу более крупным компаниям и наказывая мелкие. Эта ситуация может иметь технологические последствия, поскольку если бразильские компании столкнутся с большими трудностями в разработке ИИ, в то время как крупные иностранные компании будут соблюдать нормы, регулирование может изменить структуру рынка.
Поэтому Альваренга выступает за то, чтобы Бразилия черпала вдохновение в лучших международных практиках, но не копировала слепо модели, созданные для других экономических и институциональных контекстов.
Несмотря на обеспокоенность инновациями, причины для создания правил сохраняются, поскольку ИИ уже может участвовать в принятии решений с конкретными последствиями для жизни людей. Система, используемая для найма или анализа кредитоспособности, может дать дискриминационные или несправедливые результаты, даже при защите данных.
Альваренга подчеркивает это изменение в дебатах: риски ИИ не ограничиваются обработкой персональных данных; система также может принимать проблематичные решения. Следовательно, регуляторный фокус должен быть не только на контроле технологии, но и на ситуациях, когда она создает воздействие, включая человеческий надзор при принятии критически важных решений.
Генеративный ИИ усугубил эти проблемы: инструменты, генерирующие реалистичные тексты, изображения, видео и аудио, усиливают опасения по поводу мошенничества и дипфейков. Однако Альваренга утверждает, что концентрация регулирования на этих случаях может привести к правилам, сосредоточенным только на исключениях, игнорируя бесчисленное множество положительных применений ИИ.
Это подкрепляет логику регулирования, основанного на рисках: различные приложения с различными воздействиями не должны подпадать под один и тот же уровень требований.
Проблемы скорости и внедрения
Даже при выявленных рисках существует еще одно препятствие: скорость развития ИИ. Законодательный процесс известен своей медлительностью — от разработки до внедрения, — в то время как технология может претерпевать кардинальные изменения за несколько месяцев, появляясь новые модели и приложения.
Артур Игреа, эксперт по технологиям и инновациям, подчеркивает это несоответствие, отмечая, что ИИ стал более мощным и приобрел новые возможности в темпе, который не успевает законодательство.
Это не оправдывает отказ от регуляторных дебатов; напротив, по мнению Игреа, технологическая скорость делает проактивность в создании правил еще более жизненно важной. Белли согласен, заявляя, что закон — это максимум портрет состояния искусства и лучших практик на момент его принятия, что проблематично, учитывая крайнюю скорость развития ИИ.
Слишком детализированное законодательство может быстро устареть, в то время как слишком широкие правила могут вызвать правовую неопределенность. Белли предлагает адаптивную модель, в которой закон устанавливает принципы и обязательства, но механизмы исполнения позволяют вносить корректировки по мере возникновения новых обстоятельств.
Трудность заключается в том, чтобы сбалансировать эту гибкость, не превращая законодательство в нечто непредсказуемое для пользователей и компаний.
Кроме того, существует этап внедрения после принятия. Поскольку ИИ проникает во многие секторы экономики, надзор может включать несколько государственных органов. Один закон может потребовать координации ведомств по различным вопросам, делая структуру внедрения столь же критичной, как и текст, одобренный Конгрессом.
Белли предупреждает, что формулировка хороших правил бесполезна, если они не применяются на практике. Он ставит под сомнение ожидание автоматической координации между органами при наличии сложного законодательства, утверждая, что структура сотрудничества должна быть спланирована с самого начала для определения обязанностей и предотвращения конфликтов юрисдикции.
Этот момент жизненно важен, поскольку системы ИИ могут действовать в финансах, здравоохранении, образовании, торговле и безопасности. Таким образом, регулирование не заканчивается ратификацией закона; необходимо определить, как он будет интерпретироваться, кто будет осуществлять надзор и как система будет обновляться с учетом новых применений.
Регуляторная дискуссия также затрагивает будущую роль Бразилии в индустрии ИИ, в то время как США и Китай консолидируют инфраструктуру и модели, а другие страны стремятся к технологической автономии.
