Google, OpenAI и Anthropic объединяют усилия для создания органа по безопасности искусственного интеллекта

Конкурирующие компании, включая OpenAI, Anthropic и Google DeepMind, начали обсуждать совместные меры безопасности для передовых систем искусственного интеллекта. Хотя это сотрудничество направлено на снижение присущих технологии рисков, оно создает дилемму, поскольку эти корпорации являются прямыми конкурентами и могут столкнуться с антимонопольным надзором.

Эти разговоры происходят на фоне растущего спроса на независимую оценку моделей и эффективные механизмы для выявления более серьезных угроз. Параллельно правительство Трампа выразило свое несогласие с идеей замедления технологического прогресса.

Крис Лехан, ответственный за глобальную политику OpenAI, подтвердил во вторник, что три компании ведут беседы на протяжении нескольких недель, сосредоточенные на безопасности ИИ. Он находился в Вашингтоне, чтобы обсудить риски, классифицированные как катастрофические, связанные с этой технологией.

Усиление этого сближения произошло после того, как Дарио Амодеи, генеральный директор Anthropic, выступил с призывом к тому, чтобы отрасль сотрудничала для умеренного темпа разработки так называемого передового ИИ. Эта инициатива получила поддержку Сэма Альтмана из OpenAI, Демиса Хассабиса из Google и Илона Маска.

Альтман также указал, что OpenAI может сотрудничать с Anthropic для привлечения внешних оценщиков и мониторинга безопасности систем.

Темы обсуждения

Среди обсуждаемых вопросов выделяется тот факт, что близость конкурентов представляет собой значительный вызов. Альтман и другие участники признали, что корпоративная координация может повлечь за собой юридические проблемы, связанные с антимонопольным законодательством, если она приведет к снижению конкуренции.

Амодеи даже предложил ограниченное государственное разрешение для обеспечения такого рода сотрудничества в области безопасности. Однако Лехан утверждал, что такое государственное разрешение не потребуется компаниям.

Кроме того, издание The Information сообщило, что три компании работают над созданием отраслевого стандарта для индустрии ИИ. По имеющейся информации, Альтман сообщил своим сотрудникам, что эта структура должна быть создана без поддержки правительства США.

Разработка стандартов для отрасли не является чем-то новым. В июле Хассабис выступал за создание нового органа в Соединенных Штатах с полномочиями проводить аудит самых сложных моделей в мире и координировать возможное замедление в случае роста рисков.

Дополнительная информация

На той же встрече, где он подтвердил разговоры, Лехан заявил, что OpenAI поддерживает положения Закона о передовых разработках (FRONTIER Act), который потребует от ведущих лабораторий передового ИИ разрешать доступ «независимым верификационным организациям» для проверки того, разрабатываются ли модели безопасно.

Предложение замедлить разработку сталкивается с сопротивлением в Белом доме. Дональд Трамп назвал опасения по поводу безопасности ИИ «фарсом» и отверг более строгие правила, утверждая, что любые ограничения принесут пользу Китаю.

Дэвид Сакс, главный советник Трампа по ИИ, также заявил, что опасения по поводу экзистенциальных рисков технологии преувеличены.

В то время как конкурирующие компании ищут точки соприкосновения для управления опасностями самых передовых систем, дебаты остаются поляризованными между расширением надзора и сохранением конкурентоспособности в секторе.