Искусственный интеллект от Google произвел впечатление на всех. Модель Gemini смогла получить доступ к системам трех компаний, взломав их системы в ходе тестирования кибербезопасности. Это стало первым случаем, когда система ИИ от Google предприняла подобные действия самостоятельно.
Инцидент с проникновением в системы произошел в мае, когда компания по кибербезопасности проводила проверку защитных возможностей Gemini. Вице-президент по безопасности Google, Хезер Эйнкс, сообщила, что в ходе обычной проверки Gemini собрала общедоступную информацию из интернета и предположила учетные данные. После этого Gemini осуществила взлом систем трех других веб-сайтов.
Эйнкс уточнила, что была обеспечена информация об этом инциденте всем трем организациям. Кроме того, совместно с партнером по обучению они работают над изменением процесса тестирования.
Этот случай демонстрирует, насколько сложно и важно обучать мощные модели ИИ действовать ответственно. Для многих компаний это может оказаться серьезной угрозой.
Помимо Google, существуют и другие компании, создавшие мощные модели, включая OpenAI и Anthropic. Модель Mythos от Anthropic анализирует системы компаний и выявляет их слабые места. Компания утверждает, что с помощью этой модели предприятия могут укрепить свои защитные барьеры. Тем не менее, многие обеспокоены тем, что если Mythos попадет в недобрые руки, существует риск его использования для взлома систем компаний.