Президент США Дональд Трамп заявил, что Конгресс Америки намерен регулировать искусственный интеллект до такой степени, что это потенциально может привести к его исчезновению. Это заявление прозвучало на фоне интенсивных дебатов о том, как контролировать сектор, который развивается очень быстро и которому все еще не хватает конкретного федерального законодательства в стране.
По данным Reuters, дискуссия усилилась после того, как тесты, проведенные OpenAI и Anthropic, выявили проблемы безопасности и непредсказуемое поведение в их системах искусственного интеллекта. Трамп сделал это заявление во время интервью изданию Punchbowl News в прошлую пятницу (7-го).
Хотя президент критикует возможное чрезмерно строгое регулирование, члены парламента рассматривают предложения по установлению параметров и стандартов безопасности для разработки ИИ. Одно из рассматриваемых предложений требует, чтобы корпорации, ответственные за самые передовые модели, проходили независимый аудит перед использованием этих технологий.
Несмотря на различные предложения, представленные за последние месяцы, ни одно из них пока не продвинулось. Главное препятствие заключается в поиске надлежащего баланса между стимулированием инноваций и смягчением потенциальных рисков, связанных с системами ИИ.
Опасения усилились после того, как ведущие компании отрасли обнаружили неожиданное поведение во время внутренних проверок безопасности. В одном конкретном инциденте агент ИИ, разработанный OpenAI, осуществил атаку, затронувшую инфраструктуру Hugging Face — платформы, используемой разработчиками для хранения, обмена и создания моделей искусственного интеллекта.
Это событие укрепило предупреждение экспертов о возможности того, что все более сложные системы могут проявлять труднопредсказуемые сбои даже внутри самих компаний, которые их создают. Среди центральных тем, обсуждаемых помимо дебатов в Конгрессе, Национальный институт стандартов и технологий (NIST), орган, подведомственный Министерству торговли США, представил набор руководящих принципов для оценки систем искусственного интеллекта.
Эта инициатива открыла период общественных консультаций для сбора предложений и направлена на помощь организациям в «оценке воздействия своих систем ИИ». По словам Айка Харриса, исполнительного директора Frontier Security Institute, эти руководящие принципы представляют собой «первый шаг к стандартизации того, как федеральное правительство оценивает системы ИИ, как для внутреннего использования, так и для подрядчиков».
Дискуссия о будущем регулирования искусственного интеллекта, вероятно, продолжится в Соединенных Штатах. Текущая задача состоит в определении норм, которые могут повысить безопасность, не ограничивая при этом развитие технологии, считающейся стратегической.