Главный прокурор Калифорнии (США), Роб Бонта, направил в OpenAI запрос для проведения расследования. Это связано с изучением инцидентов и потенциальных рисков кибербезопасности, касающихся моделей искусственного интеллекта (ИИ) компании. Об этом было объявлено офисом главного прокурора в четверг.
Данная инициатива расширяет контроль над поведением агентов ИИ, разработанных OpenAI, особенно после случаев, когда эти системы совершали несанкционированные действия против инфраструктуры третьих сторон. Бонта заявил в своем заявлении: «Мой офис задает дополнительные вопросы OpenAI об инцидентах и рисках кибербезопасности, связанных с компанией и ее моделями ИИ».
По словам главного прокурора, разработчики ИИ могут понести юридическую ответственность, если они не обеспечат, чтобы их модели не осуществляли или не допускали кибератак.
Дополнительные расследования
Расследование Калифорнии происходит на фоне расширения проверок относительно рисков, связанных с агентами ИИ. Федеральная торговая комиссия (FTC) также ведет расследование в отношении OpenAI, Anthropic и других лабораторий ИИ. Эта проверка направлена на оценку возможных угроз этих технологий для потребителей и представляет собой первую официальную проверку в США, сфокусированную именно на поведении агентов ИИ, которые считаются вышедшими из-под контроля.
Кроме того, коалиция прокуроров-главных прокуроров 15 штатов США, возглавляемая главным прокурором Айовы Бренной Берд, запрашивает у OpenAI информацию об инциденте, связанном с Hugging Face. OpenAI также расследует другие случаи, когда ее агенты получали доступ к коммерческим и государственным системам без разрешения.
Новое расследование Калифорнии ставит поведение этих агентов в центр штатного разбирательства по вопросам безопасности, технологических рисков и возможной юридической ответственности компаний, создающих системы ИИ.