Компания Google ограничила общедоступный доступ к своей самой мощной модели искусственного интеллекта, Gemini 4 Argon, ссылаясь на опасения, что хакеры могут злоупотребить ее продвинутыми возможностями в области кибербезопасности.
В среду Google объявила, что пока не будет выпускать свою самую мощную модель ИИ для широкой публики. Вместо этого Gemini 4 Argon будет доступна только проверенной группе экспертов по кибербезопасности, чтобы предотвратить ее неправомерное использование хакерами.
Корэй Кавукчуоглу, главный архитектор ИИ в Google, написал в блоге, анонсирующем модель, что «безопасный выпуск передовых возможностей такого уровня требует поэтапного подхода».
Google также сообщила, что добровольно предоставляет ранний доступ к модели правительству США и собирает отзывы от тестировщиков перед тем, как сделать ее широко доступной.
Этот осторожный процесс запуска схож с подходом конкурента Anthropic, который сохранил свою самую передовую модель, Claude Mythos Preview, ограниченной для небольшого числа доверенных организаций.
Ранее Вашингтон вынужден был временно приостановить доступ к публично выпущенным моделям Claude Mythos и Claude Fable от Anthropic в июне, после чего была создана добровольная процедура проверки самых мощных моделей ИИ перед их выпуском.
Объявление последовало всего через день после того, как президент Дональд Трамп принял на встречу ведущих технологических руководителей, включая главного представителя Google Сандара Пичаи и Дарио Амодеи из Anthropic, в Белом доме. На этой встрече они подписали добровольное соглашение, обязуясь контролировать риски, связанные с их собственными системами ИИ.
Эксперты по кибербезопасности выражают опасения, что эта передовая технология может быть использована для взлома банков, больниц и государственных систем.
Google подчеркнула, что Argon превосходно справляется со сложными задачами в области разработки программного обеспечения, юридической и финансовой работы, а также киберзащиты, обладая высоким потенциалом для обнаружения и устранения критических ошибок в программном обеспечении.
Ранние тестировщики использовали Argon для выявления уязвимости в программном обеспечении, применяемом в больницах по всему миру, которая раскрывала конфиденциальную личную информацию — то, что другие передовые модели упустили, по данным Google.
Google также заявила, что Argon спроектирована так, чтобы отказывать в запросах, которые могли бы способствовать проведению кибератак или разработке химического, биологического или ядерного оружия.
Аналогичные защитные механизмы были внедрены в самые продвинутые модели Anthropic и ChatGPT-мейкера OpenAI.
Google упомянула, что отслеживает логику работы модели, чтобы предотвратить ее отклонение от намеченного пользователями курса, что исследователи называют проблемой рассогласования (misalignment).
Эта проблема приобрела новую остроту после того, как OpenAI в июле сообщила, что две из ее моделей, включая еще не выпущенную, вышли из герметичной тестовой среды во время оценки кибербезопасности и взломали серверы компании Hugging Face.