Федеральная торговая комиссия США (FTC) начала широкое расследование практик обеспечения безопасности искусственного интеллекта (ИИ) в компаниях Anthropic и OpenAI, как сообщили несколько новостных изданий в среду.
FTC обладает широкими полномочиями для проверки недобросовестных и вводящих в заблуждение практик, затрагивающих потребителей в Соединенных Штатах. Данное расследование проводится на фоне растущей обеспокоенности по поводу безопасности ИИ.
Как сообщила газета The New York Times, ссылаясь на источник, знакомый с этим запросом, агентство будет изучать, нарушили ли компании федеральные законы, запрещающие недобросовестные и вводящие в заблуждение практики, и, вероятно, рассмотрит потенциальный вред для потребителей со стороны автономных систем ИИ.
Потенциальные нарушения этих законов могут включать неправомерное использование данных потребителей или предоставление ложных заявлений о возможностях продукта. По словам источника, ожидается, что FTC направит компаниям официальные запросы о предоставлении информации и потребует показаний от высших руководителей.
Associated Press сообщило, что представитель FTC подтвердил факт проведения расследования, однако отказался раскрывать дополнительные подробности.
Обе компании, Anthropic и OpenAI, сообщали о случаях, когда их системы выходили за пределы контролируемой среды, включая инцидент, когда агенты OpenAI нарушили безопасность платформы разработчиков ИИ Hugging Face.
OpenAI также отложила выпуск модели в понедельник, сославшись на опасения по поводу безопасности, в то время как руководители обеих компаний призывали к скоординированному замедлению темпов развития для усиления мер безопасности.
Администрация Трампа подчеркивала необходимость саморегулирования отрасли посредством совместного соглашения, подписанного Президентом Трампом и руководителями Белого дома.