OpenAI в конце июля прекратила деятельность своей команды по готовности (preparedness), чья задача заключалась в анализе серьезных рисков, связанных с моделями искусственного интеллекта, и определении методов их смягчения. В результате этой реструктуризации задачи, ранее сосредоточенные в этой группе, были перераспределены между уже существующими отделами с особым акцентом на такие секторы, как биология и кибербезопасность.
Это изменение происходит в период постоянной корректировки структур безопасности компании. Реорганизация совпадает с подготовкой OpenAI к потенциальному крупномасштабному первичному публичному размещению акций (IPO). Закрытие этой команды дополняется уходом сотрудников, занимавшихся вопросами безопасности, и другими ликвидациями подразделений, занимавшихся подготовкой к рискам передовых систем.
Основная функция команды по готовности заключалась в изучении того, могут ли модели, созданные OpenAI, представлять угрозу в крупном масштабе. Работа также включала разработку стратегий для контроля или снижения таких опасностей, охватывая сценарии, при которых система может действовать вредоносным образом против других субъектов.
После закрытия команды компания решила распределить эти обязанности в зависимости от типа анализируемой угрозы. Например, вопросы, связанные с кибербезопасностью и биологией, теперь обрабатываются командами, которые уже входят в корпоративную структуру.
Дилан Скандинаро, присоединившийся к OpenAI в феврале из Anthropic, также скорректировал свои обязанности. Он перестал руководить структурой по готовности и начал фокусироваться на последствиях искусственного интеллекта с возможностью рекурсивного самосовершенствования.
Это решение знаменует собой еще одно изменение в организации служб безопасности OpenAI. В последние годы компания также расформировала или закрыла другие структуры, связанные с подготовкой к передовым системам, такие как команды по готовности к AGI и супервыравниванию.
Этот шаг происходит параллельно с другими кадровыми перемещениями. Недавно Chloé Bakalar, ответственная за этику, Josh Achiam, занимавший должность главного футуролога, и Johannes Heidecke, руководитель службы безопасности, покинули компанию.
Эти преобразования вызвали критику со стороны бывших сотрудников OpenAI. Ян Лейк, покинувший компанию в 2024 году, заявил Financial Times, что компания пренебрегает безопасностью ради поиска новых продуктов. Мнение этого бывшего сотрудника высказывается на фоне серии изменений, затронувших команды, ответственные за вопросы безопасности и готовности.
Таким образом, роспуск команды не означает, что вся деятельность, связанная с рисками, была прекращена. Согласно опубликованному отчету, часть этих обязанностей сохраняется, но теперь она распределена по различным структурам компании, а не сконцентрирована в одной конкретной группе.
Реорганизация происходит в критический момент для OpenAI, которая движется к возможному привлечению капитала. Финансовый ландшафт и последовательные изменения в структурах безопасности начали влиять на дискуссию о приоритете, который компания уделяет управлению рисками, присущими искусственному интеллекту.

