Новые передовые модели искусственного интеллекта (ИИ) кардинально меняют сферу кибербезопасности. Согласно заявлению исполнительного органа, ИИ может быть использован неправомерно для обнаружения уязвимостей, автоматизации атак и увеличения масштаба и скорости киберинцидентов до беспрецедентного уровня.
План действий ЕС по защите цифрового пространства
В связи с этим учреждение разрабатывает план действий, который объединит государства-члены, промышленность и европейские организации для укрепления защиты европейского цифрового пространства перед лицом уязвимостей, связанных с продвинутым ИИ. При этом подчеркивается существование единой правовой базы ЕС в вопросах искусственного интеллекта и кибербезопасности.
Создание европейских систем оценки
План предусматривает создание европейской возможности для оценки моделей ИИ, включая область кибербезопасности. Эта система должна начать функционировать в 2027 году, что позволит проводить независимую оценку возможностей и рисков систем искусственного интеллекта.
Сотрудничество и тестирование технологий
Европейская комиссия также намерена сотрудничать с Агентством Европейского Союза по кибербезопасности (ENISA) для разработки руководящих принципов. Эти принципы должны облегчить доступ государственных и частных организаций к передовым моделям ИИ, применяемым для цифровой защиты. Кроме того, запланировано создание безопасной платформы для тестирования приложений ИИ в кибербезопасности с использованием симулированных сред, предназначенной для критически важных секторов, таких как энергетика, здравоохранение, транспорт, финансы и государственное управление.
Поддержка и развитие ИИ в ЕС
План стимулирует организации использовать уже имеющиеся инструменты ИИ, включая модели с открытым исходным кодом, чтобы быстрее находить и исправлять уязвимости, улучшая тем самым предотвращение и реагирование на кибератаки. В рамках этой информации Брюссель также объявляет о запуске Великого Европейского конкурса ИИ для кибербезопасности, инициативы, направленной на продвижение европейских решений в этой области и сближение компаний, исследователей и организаций.
Правовая основа и автономия
Европейская комиссия акцентирует внимание на необходимости дальнейших инвестиций ЕС в собственные возможности передового искусственного интеллекта через такие инфраструктуры, как ИИ-фабрики и будущие гигафабрики, стремясь укрепить технологическую автономию Европы. Европейский Союз располагает всеобъемлющей законодательной базой в сфере ИИ и кибербезопасности, которая устанавливает правила для оценки рисков, повышения защиты цифровой инфраструктуры и обеспечения большей безопасности при разработке и использовании новых технологий. Эта структура включает Регламент об ИИ, требующий идентификации и смягчения рисков, связанных с передовыми моделями; директиву NIS2, усиливающую безопасность критических секторов, таких как энергетика и транспорт; Регламент DORA, повышающий цифровую устойчивость финансового сектора; а также регламент по кибербезопасности, вводящий требования безопасности на этапе проектирования для аппаратного и программного обеспечения.