OpenAI объявила в понедельник о расширении Daybreak, своего сервиса киберзащиты, запущенного в начале этого года, и одновременно выпустила новую модель искусственного интеллекта (ИИ), предназначенную для задач цифровой безопасности.
Эта инициатива появилась на фоне растущего распространения атак, оркестрируемых агентами ИИ, включая взломы Hugging Face, атаки на веб-сайт академии и создание фальшивых профилей для целей социальной инженерии.
Daybreak консолидирует доступ к моделям, инструментам и рабочим процессам, предназначенным для специалистов по защите. С этим расширением сервис начинает работать в двух уровнях, названных Blue и Red, предоставляя предварительно одобренным клиентам доступ к самым передовым моделям компании, которые ранее имели значительные ограничения на использование пользователями.
Модели передового рубежа являются самыми сложными из доступных и уже вызвали споры; например, администрация Трампа искала сотрудничества с компаниями, занимающимися ИИ, для запуска этих моделей, упоминая опасения, связанные с безопасностью.
Анализ сценария атак и защиты
Критики утверждают, что рост числа атак, осуществляемых агентами ИИ, также представляет собой маркетинговую возможность для самих лабораторий, разрабатывающих такие модели. OpenAI вписала расширенный Daybreak в этот сценарий, заявив в публикации в своем блоге:
«Мир кибербезопасности быстро меняется — угрожающие агенты будут все чаще использовать ИИ для проведения кибератак с беспрецедентной скоростью и масштабом, в том числе полностью автономными способами. По мере того как эти возможности распространяются, у защитников становится все меньше времени для подготовки».
Параллельно другие корпорации проявляют интерес к привлечению защиты, предлагаемой лабораториями ИИ, именно потому, что они обладают прямыми знаниями о рисках безопасности. Anthropic, конкурент OpenAI, уже выпустила собственную модель, ориентированную на кибербезопасность, под названием Mythos.