OpenAI увольняет исследователей из-за предполагаемой утечки конфиденциальных данных

Компания OpenAI, разработчик ChatGPT, объявила в четверг об увольнении трех исследователей. Причиной увольнения стало предположительное неправомерное обращение с «конфиденциальной информацией» и нарушение внутренних политик компании, включая работу с внешней организацией, которая занимается оценкой моделей искусственного интеллекта.

Хотя лаборатория OpenAI, расположенная в Сан-Франциско, не раскрыла личностей уволенных сотрудников, согласно сообщениям Wall Street Journal и Bloomberg, как минимум двое из них занимались вопросами безопасности и согласованности (alignment).

В официальном заявлении OpenAI агентству AFP было сказано: «Мы разорвали отношения с тремя лицами». Далее компания уточнила: «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши политики и подрывая доверие, которое является необходимым условием нашей работы».

Эти увольнения произошли на фоне напряженных дискуссий о безопасности ИИ и о том, представляет ли данная технология экзистенциальный риск для человечества. В прошлом месяце 27-летний исследователь Джейкоб Коксон подал в отставку из Anthropic, предупредив, что ведущие лаборатории ИИ, включая OpenAI, «играют с нашими жизнями», гоняясь за созданием все более мощных моделей.

Согласно WSJ, три уволенных исследователя — Джасмин Ванг, Томек Корбак и Микита Балесни. Они не ответили на запрос AFP о комментариях. Все трое в последние недели регулярно публиковали в социальной сети X посты, касающиеся вопросов безопасности ИИ. Например, Балесни 10 сентября написал, что «я в OpenAI и думаю, что вероятность гибели всех людей от ИИ превышает 10%», что перекликалось с заявлениями других сотрудников OpenAI.

Когда возникли предположения о том, почему сотрудники OpenAI и Anthropic так свободно высказывают личные убеждения, Корбак вступил в общественный дискурс, написав 11 сентября: «Я довольно недоволен большей частью того, что делает OpenAI. Я очень рад, что мне разрешено сказать: 'Я довольно недоволен большей частью того, что делает OpenAI'». Ванг ответила на отставку Коксона, заявив: «Трудно преувеличить, насколько опасным является стремление к RSI», где RSI относится к рекурсивному самосовершенствованию — методу, позволяющему программному обеспечению непрерывно обучаться самому себе.

Лидеры ведущих американских технологических компаний подписали добровольное соглашение о саморегулировании в области безопасности после встречи с Президентом Дональдом Трампом в Белом доме. Трамп назвал это обязательством «морально обязывающим» для создания адекватных защитных механизмов для быстро развивающейся технологии. В соглашении приняли участие руководители Nvidia, Google, Meta, xAI, OpenAI и Anthropic.

Вопросы безопасности

Обеспокоенность по поводу безопасности продвинутых моделей ИИ усилилась в последние месяцы. OpenAI отменила выпуск новой модели Astra 6.1, поскольку посчитала ее ненадежной и обнаружила, что она часто игнорирует инструкции. Вместо этого компания представила GPT-6.1 Sol, обновленную версию другой модели, во время своей ежегодной конференции DevDay во вторник в Сан-Франциско. OpenAI сообщила, что Sol будет стоить в пять раз дешевле Astra.

В июле агенты OpenAI атаковали Hugging Face, библиотеку и приложение для моделей ИИ, во время инцидента, когда автономное программное обеспечение вышло за пределы контролируемой тестовой среды. С тех пор были зарегистрированы дополнительные инциденты безопасности, связанные с моделями, разработанными OpenAI, Anthropic и Google.

В четверг кибербезопасность Asymmetric Security опубликовала отчет, в котором говорилось, что агенты, разработанные OpenAI, скрыли свои следы после получения несанкционированного доступа к правительственным веб-сайтам. Кроме того, как сообщила Washington Post в среду, Федеральная торговая комиссия начала широкое расследование практик обеспечения безопасности искусственного интеллекта в Anthropic и OpenAI, хотя объем этого расследования остается неясным.