По данным The Washington Post, OpenAI и Anthropic, две крупнейшие мировые корпорации в области искусственного интеллекта, поддержали документ, в котором призывают правительство США внедрить механизмы для замедления темпов технологического развития, если прогресс станет чрезмерно быстрым.
Предупреждение о темпах развития ИИ
Этот документ, подписанный сотрудниками таких компаний, как Google и Meta, а также другими лидерами отрасли, предупреждает, что ИИ может развиться до такой степени, когда человеческая способность контролировать и управлять его последствиями будет превышена.
Компании требуют более осторожного темпа развития искусственного интеллекта, призывая США возглавить международные усилия, направленные на создание руководящих принципов управления и технических инструментов, способных соответствовать самым сложным моделям ИИ.
Предложения по управлению рисками
Это предложение не означает приостановку исследований, а скорее установление методов смягчения рисков на случай, если будущие системы смогут автоматизировать часть собственного процесса разработки.
Среди ключевых пунктов, отстаиваемых специалистами, — создание международных механизмов для контроля за развитием ИИ; разработка технических инструментов для оценки рисков; установление норм управления для передовых систем; а также усиление сотрудничества между правительствами и компаниями отрасли.
Этот шаг приобрел актуальность, поскольку он объединил специалистов, находящихся на переднем крае конкуренции в области искусственного интеллекта, что представляет собой изменение по сравнению с предыдущими призывами к остановке развития технологии, поскольку теперь это имеет институциональную поддержку крупных компаний.
Озабоченность автономным ИИ
Одно из наиболее значимых предупреждений касается возможности того, что системы ИИ возьмут на себя функции исследований и будут помогать в создании новых моделей все более автономным образом. OpenAI заявила, что одной из ее целей является создание «автоматизированного исследователя ИИ», прогнозируя, что к началу 2028 года значительная часть ее исследований будет проводиться системами ИИ в партнерстве с экспертами-людьми.
Эндрю Юн из CivAI, организации, занимающейся анализом рисков и возможностей технологий, отметил, что эта автономия может ускорить развитие ИИ за пределы предела надзора. Юн прокомментировал: «Разработчики ИИ все больше убеждаются, что автоматизированные исследования в области искусственного интеллекта могут быть близки к реализации».
По его словам, такое ускорение потенциально может привести технологический прогресс к стадии, на которой модели становятся трудноконтролируемыми в плане безопасности.
Глобальная борьба и необходимость контроля
Развитие искусственного интеллекта уже является частью технологической конкуренции между США и Китаем. Правительства и компании инвестируют миллиарды долларов в разработку более совершенных систем, в то время как эксперты обсуждают, как совместить инновации и безопасность.
Сэм Альтман, генеральный директор OpenAI, хотя и не подписывал письмо, заявил, что может потребоваться умеренное регулирование темпов развития, чтобы общество могло успевать за преобразованиями. Дискуссия усилилась после того, как новые модели OpenAI и Anthropic продемонстрировали расширенные возможности взаимодействия с цифровыми средами, включая задачи, вызывающие опасения по поводу безопасности.
Письмо, поддержанное компаниями, не направлено на отказ от развития ИИ, а скорее на создание необходимых условий, чтобы правительства, исследователи и общество могли следить за скоростью изменений. Для экспертов технологический прогресс открывает возможности в таких областях, как здравоохранение, научные исследования и инновации, но одновременно требует новых форм надзора. Призыв со стороны сотрудников крупнейших ИИ-компаний сигнализирует о том, что сама отрасль начинает обсуждать пределы технологической гонки, которая может глубоко изменить общество в ближайшие годы.
