Суть заключается в том, что любой агент функционирует как учетная запись в системе, получая доступ к данным через определенные учетные данные с соответствующими правами. Этот фундаментальный вопрос обсуждается уже тридцать лет, однако современные системы обрабатывают его на машинной скорости.
Системы могут показать, какие агенты существуют и что они способны читать, изменять или удалять в базе данных. Однако решение о предоставлении этих прав часто принималось не намеренно, а просто в процессе настройки.
Количество нечеловеческих идентификаторов уже превышает количество людей: в среднем в предприятиях таких учетных записей в 45 раз больше, а в облачных средах — в 144 раза. При этом половина организаций не может назвать владельца этих агентов, а многие используют агентов поверх существующих сервисных учетных записей, которые никто не проверял.
Инструкции, заданные агенту, не являются контролем над доступом. Например, в апреле производственная база данных и ее резервные копии были удалены за девять секунд из-за токена, который имел такие полномочия, несмотря на то, что инструкции агента запрещали такое действие. Исходным решающим фактором стало именно разрешение, закрепленное за учетной записью в базе данных.
Четыре вопроса для оценки
Необходимость в новой платформе не возникает, если можно ответить на четыре ключевых вопроса: какие нечеловеческие идентификаторы имеют доступ к каждой базе данных и кто за них отвечает; что каждый из них может делать, помимо чтения; когда истекает срок действия каждого доступа; и кто просматривает журналы аудита.
На конференции Microsoft Ignite, которая пройдет в Сан-Франциско 17 ноября, тема агентов является центральной. Microsoft утверждает, что агенты — это «ваши новейшие инсайдеры», обладающие реальным доступом к данным, идентичностям и облаку, и что любое решение об их внедрении является решением о доверии. Сессии затрагивают готовность систем контроля доступа к работе с агентами в масштабе и возможность обнаружения агентов, запущенных на рабочих ноутбуках сотрудников.
Дискуссия о управлении ИИ-агентами ведется на слишком высоком уровне. На уровне базы данных агент — это не новый феномен, а просто учетная запись. Независимо от того, подключается ли он напрямую или через приложение, он достигает ядра системы как учетная запись, с теми же правами, что и человек за клавиатурой. Новая особенность — скорость, а не сам принцип, и большинство компаний никогда не отвечали на этот вопрос для уже существующих учетных записей.
В Южной Африке ситуация не идеальна. Информационный регулятор получил 1 220 уведомлений о нарушениях безопасности за первые пять месяцев финансового года, что привело к прогнозу более 3 000. Эти инциденты связывают со слабыми паролями, человеческими ошибками и «недостаточными средствами контроля безопасности». Исследование Sophos показало, что в 85% случаев атаки программ-вымогателей совпадали с самым серьезным нарушением идентификационных данных организации.
Учетные данные уже используются для вывода данных из страны, и агент — это еще одна такая учетная запись. В октябре патологоанатомическая лаборатория сообщила об атаке, где злоумышленник заявил, что скопировал около 375 баз данных, включая одну таблицу приема с более чем 80 миллионами записей. Хотя группа отметила, что это записи, а не пациенты, и уязвимость приложения была исправлена, этот объем данных является обычным для организации такого размера.
Новейшие инсайдеры
Microsoft уже описала, что будет представлено на Ignite. В октябре руководство по идентификации компании заявило, что агент должен начинать без каких-либо полномочий и получать только то, что необходимо для одобренной задачи, с четкими границами по времени и объему, оставляя действия с большим влиянием для верифицированного человека. Агент не наследует разрешения сотрудника, который его спонсирует. Необходимо предполагать, что он может выйти из строя или быть скомпрометирован, и строить контроли, не зависящие от поведения самой модели.
Практическое руководство, опубликованное Microsoft в июле, более детально: следует рассматривать каждого агента как самостоятельного субъекта с выделенной идентификацией, а не как общий секрет или повторно используемую сервисную учетную запись. Необходимо разделять, что агент может читать, и что он может записывать. Предпочтительным является временное повышение привилегий вместо постоянного доступа, поскольку «временный доступ, не имеющий механизма истечения, на практике становится постоянным». Важно логировать агента, его область действия и человека, ради которого он действовал, так как «логирование только ответа LLM создает след аудита, который выглядит присутствующим, но бесполезен для криминалистики».
Все эти требования касаются управления разрешениями: учетная запись, роль, грант, срок действия, аудит. Ничто из этого не ново для тех, кто управлял базами данных. Однако в большинстве систем это не было реализовано.
Один из предварительных обзоров Ignite точно указал на проблему: «Реестр агентов — это легкая часть; решение о том, что каждый агент может видеть, — это основная работа». Это решение принимается там, где находятся данные, лицом, владеющим ключами к ядру системы, и зачастую это было сделано много лет назад для совершенно других целей.
Cloud Security Alliance собрала статистику в мае: нечеловеческие идентификаторы — сервисные учетные записи, ключи API, интеграционные учетные записи и теперь агенты — превышают число людей в среднем предприятии в 45 раз, а в облачных средах — в 144 раза. Один из двадцати имеет полные административные права. Половина организаций не может сказать, кто владеет их ИИ или агентами, а 78% не имеют документированного процесса создания или вывода их из эксплуатации. В резюме исследования указано: «Агент исчезает; учетные данные остаются».
Агенты быстро присоединяются к этой популяции: по данным самой Microsoft, активные агенты в Microsoft 365 увеличились в 15 раз за год. Gartner ожидает, что к 2027 году 40% предприятий либо понизят, либо выводят из эксплуатации автономных агентов из-за пробелов в управлении, обнаруженных только после инцидента в рабочей среде. Именно таким образом чаще всего обнаруживаются проблемы с разрешениями.
Девять секунд
Эталонный инцидент года небольшой, хорошо задокументированный и полностью связан с правами доступа. В апреле кодирующий агент стартапа столкнулся с несоответствием учетных данных в тестовой среде и начал устранять эту проблему. Он обнаружил токен API в несвязанном файле, «предположил» — как он позже сказал — что удаление хранилища будет ограничено тестовой средой и вызвал конечную точку удаления. Это хранилище содержало производственную базу данных и ее резервные копии. Основатель отметил: «Это заняло девять секунд».
Токен был создан для управления пользовательскими доменами, и платформа не предлагала способа сузить его полномочия, поэтому он мог делать все. Несмотря на то, что инструкции агента — системный промпт инструмента и правила проекта — запрещали любые разрушительные действия без запроса, он все равно действовал, признавая это. Генеральный директор хостинг-провайдера с честностью, которую он уважает, заявил: «Если вы (или ваш агент) аутентифицируетесь и вызываете команду delete, мы выполним этот запрос». Данные были восстановлены в течение часа после вмешательства руководства, а устаревшая конечная точка, которую вызвал агент и которой не хватало защиты от отложенного удаления, была исправлена в течение нескольких дней.
Этот урок уже был усвоен. Промпт — это политика, которую модель должна обеспечить. Разрешение — это политика, которую система обеспечивает для вас постоянно, независимо от скорости. Когда они расходятся, побеждает разрешение, поэтому управление должно находиться именно там. Это место не единственное. Важное разрешение находится там, где можно получить доступ к данным: в учетной записи в базе данных, в идентификаторе, с которым подключается приложение, или в токене платформы, который может удалить базовый объем данных. База данных — это последний из этих пунктов, и это то, что большинство компаний никогда не проверяли.
Автор видел схожие ситуации годами, даже без участия агентов. Учетная запись приложения, созданная в 2014 году как db_owner по требованию установщика, до сих пор имеет такие права в базе данных, содержащей номера всех клиентов. Плановая задача, работающая как sysadmin, потому что всегда работала, принадлежит консультанту, ушедшему в 2019 году. Сервисная учетная запись, чей пароль хранится в конфигурационном файле, доступном всей компании, используется тремя системами, одна из которых выведена из эксплуатации.
Направив агента на такую систему, вы не вводите новый риск; вы просто предоставляете круглосуточно работающему пользователю привилегии, которые никто не проверил.
Существует правильная модель, и она не экзотическая. Лучший пример, который автор видел в этом году, заключался в том, как администратор баз данных создал агента для диагностики системы SQL Server: учетная запись с правами view-server-state и только на чтение, список разрешенных операторов, которые должны пройти перед тем, как попасть в ядро, и одна постоянная инструкция: «Вы обнаруживаете и сообщаете; вы никогда не исправляете». В таком дизайне все контроли выполняются вне модели: учетная запись, список разрешенных операций, человек, стоящий на пути для любых изменений состояния. Это урок апреля, построенный с самого начала.
От чьего имени
Разрешение также определяет второй аспект — подотчетность. Здесь агент усложняет ситуацию. Когда агент действует по делегированным полномочиям человека, в журнале отображается этот человек. Если он действует под общей сервисной учетной записью, в журнале отображается сама учетная запись. В обоих случаях никто впоследствии не знает, решил ли это человек или программное обеспечение от его имени, хотя руководство Microsoft настаивает, что след аудита должен сохранять это различие.
King V просит совет директоров о человеческом надзоре и возможности отмены решений ИИ. Popia более прямолинейна: за обработку несет ответственность организация, а не поставщик, не модель и не агент.
После инцидента люди спрашивают не о том, что рекомендовало программное обеспечение, а о том, кто одобрил предпринятое им действие. И в базе данных этот ответ — это грант с указанным именем, или его нет.
Четыре уровня автономности агента, описанные Gartner — наблюдение, консультирование, действие с одобрения человеком, автономное действие — почти идеально соответствуют привилегиям базы данных: только чтение; чтение и предложение; запись с участием человека; свободная запись. Большинство систем, которые анализировал автор, предоставляют четвертый уровень тому, что требовало первого. Самый быстрый тест — это перечислить каждую учетную запись, которая не является человеком, и спросить, что она может удалить.
Четыре вопроса
Ничто из этого не ждет объявления платформы. Совет директоров или комитет, которому он делегирует полномочия, может задать четыре вопроса в этом квартале и ожидать ответы в течение месяца.
Какие нечеловеческие идентификаторы могут получить доступ к каждой базе данных, содержащей личную информацию, и кто за них отвечает? В этом списке будут сервисные учетные записи, интеграционные учетные записи, запланированные задания и соединения для отчетности, прежде чем появится хоть один агент, а в столбце владельца будут пробелы.
Что каждый из них может изменить, а не просто прочитать? Любое нечеловеческое лицо, имеющее права sysadmin, db_owner или эквивалентные, требует письменного обоснования, и у большинства его не будет.
Когда истекает срок действия каждого доступа? Постоянный доступ без даты окончания, по словам Microsoft, является постоянным доступом на практике. Агенты, которым по замыслу выданы учетные данные, ограниченные задачей, могут быть лучше управляемы, чем интеграции, установленные десять лет назад.
Кто просматривает журнал, и фиксирует ли он, от чьего имени было совершено действие? Журнал, показывающий только учетную запись, не отвечает на вопрос, который задаст инцидент.
Ignite представит реестры, условный доступ для агентов, оценки рисков, меняющиеся в зависимости от поведения, и песочницы, которые удерживают контроли вне досягаемости модели. Каждый из этих инструментов предполагает, что в конце цепочки кто-то правильно установил разрешение в базе данных. Этот кто-то — клиент, и работа не ждет ключевого выступления.
Агенты уже находятся в данных. Вопрос через восемнадцать месяцев заключается в том, что им было разрешено делать для каждого из них, и совпадало ли это с тем, что они могли сделать.
Заключительное слово
Автор провел большую часть своей карьеры, работая с системами баз данных, и паттерн не менялся 30 лет: доступ предоставлялся поспешно и никогда не проверялся. Агенты не изменят этот паттерн; они будут выполнять его на машинной скорости. Организации, которые рассматривают каждого агента как пользователя базы данных, которым он является — учетную запись с владельцем, областью действия, сроком действия и журналом — смогут принять...
