Президент Microsoft заявил, что необходимы срочные глобальные правила регулирования для искусственного интеллекта, которые должны включать независимых оценщиков для проверки новых разработок. Он предупредил, что в настоящее время ИИ имеет меньше требований безопасности, чем молочные продукты.
В интервью BBC, опубликованном в понедельник, Брэд Смит отметил, что должны существовать всеобщие правила безопасности. Эти правила должны обязывать информировать «пострадавшего» в случае взлома его системы злонамеренным агентом ИИ — программным обеспечением, которое выполняет задачи самостоятельно. Кроме того, должна быть предусмотрена возможность активации «аварийного тормоза».
Он также подчеркнул необходимость юридического требования для компаний составлять «отчеты об инцидентах». Смит пояснил: «Мы знаем, как это делать для других продуктов. Мы должны использовать эти знания и подумать о том, как применять их к ИИ».
Он сравнил ситуацию, заявив: «Сейчас ваша стиральная машина подпадает под большее количество правил безопасности, чем ИИ. Каждый пакет молока, который вы видите в продуктовом магазине, подлежит проверкам и правилам безопасности».
Технологические компании, такие как Anthropic и OpenAI, начали раскрывать случаи нежелательного или злонамеренного поведения агентов ИИ в рамках глобальных дискуссий о быстро развивающейся технологии. Эти дебаты включают предупреждения исследователей о потенциальной экзистенциальной угрозе человечеству.
Некоторые фирмы выступают за замедление разработки ИИ, однако это вызвало споры о том, имеют ли руководители скрытые мотивы, например, установление правил для сохранения лидерства своих компаний, предотвращение более широкой реакции правительства или просто замедление стремительных расходов.
Роль Великобритании в регулировании ИИ
Смит из Microsoft предположил, что Великобритания является одной из стран, наиболее подходящих для руководства в вопросах регулирования ИИ благодаря Институту безопасности ИИ, который был создан при премьер-министре Риши Сунаке. Смит отметил, что чиновники в Вашингтоне рассматривают Лондон иначе, чем Брюссель, который регулирует ИИ на основе уровня риска через свой Акт об ИИ.
Институт Великобритании получает доступ к основным моделям ИИ до их развертывания на основании добровольных соглашений с компаниями-разработчиками. Это позволяет институту оценивать возможности и риски этих моделей. Министр ИИ Канишка Нараян сообщил Reuters, что Великобритания рассмотрит регулирование передовых моделей, если существующая система окажется недостаточной.