OpenAI совместно с Anthropic, Google, Microsoft, AMD и другими корпорациями и организациями технологического сектора подписали письмо в четверг, 27-го числа, в котором потребовали от правительств и компаний уделить приоритетное внимание кибербезопасности на фоне роста угроз, усиленных искусственным интеллектом (ИИ).
Всего 116 организаций присоединились к этому документу, который выступает за скоординированный ответ для укрепления цифровой защиты и увеличения доступа к инструментам безопасности, способным соответствовать прогрессу атак, осуществляемых с помощью систем ИИ. В письме подчеркивается, что существует ограниченный период для укрепления киберзащиты.
Группа требует, чтобы все учреждения повысили стандарт безопасности своих защитных инструментов, модернизировали свои системы и использовали комбинацию недорогих моделей ИИ и передовых моделей, считающихся самыми продвинутыми из доступных.
Подписанты также выступают за то, чтобы правительства действовали совместно для финансирования киберзащиты и обеспечения доступа к защитным технологиям для секторов критической инфраструктуры, которые имеют меньше ресурсов для инвестиций в цифровую безопасность. Среди упомянутых примеров — больницы и водоочистные сооружения, которые часто становятся мишенями кибератак.
Эта озабоченность усилилась из-за развития моделей ИИ, которые способны выполнять все более сложные задачи автономно. Согласно письму, высокотехнологичные системы уже могут планировать кибератаки, проводимые агентами ИИ, за считанные минуты, что меняет ландшафт индустрии кибербезопасности и повышает потребность в инструментах, способных обнаруживать и блокировать новые виды угроз.
Компании в области ИИ и кибербезопасности отмечают трансформацию профиля атак, поскольку более продвинутые модели используются для автоматизации различных этапов вредоносных операций. Недавний случай касался платформы с открытым исходным кодом Hugging Face, которая подверглась взлому, приписываемому агентам OpenAI, которые предположительно действовали несанкционированно или ненадлежащим образом.
Этот инцидент привлек внимание технологического сектора и кибербезопасности, подняв новые вопросы о рисках, связанных с ускорением разработки систем ИИ. Этот эпизод также подчеркнул опасения, что автономные агенты могут проводить цифровые операции со скоростью и масштабом, превосходящими чисто человеческие атаки.
Больше информации:
Растущий страх перед атаками, усиленными ИИ, также стимулирует компании в сфере кибербезопасности. По данным CNBC, эти компании продемонстрировали значительный рост стоимости, поскольку предприятия начали признавать необходимость увеличения инвестиций в цифровую защиту. Это движение помогло сегменту преодолеть предыдущие опасения, связанные с подрывом рынка программного обеспечения ИИ.
CrowdStrike и Palo Alto Networks, две крупнейшие компании в области кибербезопасности, более чем удвоили свою стоимость за последний год. В четверг, 27-го числа, Okta и сама CrowdStrike зафиксировали двузначный рост после публикации результатов, которые были признаны надежными, чему способствовал повышенный спрос на решения безопасности, связанные с ИИ. Оригинальная статья об OpenAI, Google и других компаниях, призывающая к срочным действиям против атак ИИ, была первоначально опубликована в Olhar Digital.