A essência é que qualquer agente funciona como uma conta no sistema, acessando os dados através de credenciais específicas com as permissões correspondentes. Esta questão fundamental tem sido debatida por trinta anos, mas os sistemas modernos a processam em velocidade de máquina.
Os sistemas podem mostrar quais agentes existem e o que eles são capazes de ler, modificar ou excluir no banco de dados. No entanto, a decisão de conceder essas permissões muitas vezes não foi intencional, mas simplesmente durante a configuração.
O número de identificadores não humanos já ultrapassa o número de pessoas: em média, as empresas têm 45 vezes mais dessas contas, e em ambientes de nuvem, 144 vezes mais. Além disso, metade das organizações não consegue nomear o proprietário desses agentes, e muitas usam agentes sobre contas de serviço existentes que ninguém verificou.
As instruções dadas ao agente não constituem controle de acesso. Por exemplo, em abril, um banco de dados de produção e seus backups foram excluídos em nove segundos devido a um token que tinha tais poderes, apesar de as instruções do agente proibirem tal ação. O fator decisivo inicial foi exatamente a permissão registrada na conta no banco de dados.
Quatro perguntas para avaliação
A necessidade de uma nova plataforma não surge se for possível responder a quatro perguntas chave: quais identificadores não humanos têm acesso a cada banco de dados e quem é responsável por eles; o que cada um deles pode fazer além de ler; quando cada acesso expira; e quem revisa os logs de auditoria.
Na conferência Microsoft Ignite, que ocorrerá em São Francisco em 17 de novembro, o tema dos agentes é central. A Microsoft afirma que os agentes são os 'seus novos insiders', com acesso real a dados, identidades e nuvem, e que qualquer decisão sobre sua implementação é uma decisão de confiança. As sessões abordam a prontidão dos sistemas de controle de acesso para trabalhar com agentes em escala e a capacidade de detectar agentes executados nos notebooks de trabalho dos funcionários.
O debate sobre o gerenciamento de agentes de IA está ocorrendo em um nível muito alto. No nível do banco de dados, um agente não é um fenômeno novo, mas apenas uma conta. Independentemente de ele se conectar diretamente ou através de um aplicativo, ele alcança o núcleo do sistema como uma conta, com os mesmos privilégios que uma pessoa ao teclado. A novidade é a velocidade, não o princípio em si, e a maioria das empresas nunca respondeu a essa pergunta para contas já existentes.
Na África do Sul, a situação não é ideal. O regulador de informações recebeu 1.220 notificações de violações de segurança nos primeiros cinco meses do ano fiscal, levando a uma previsão de mais de 3.000. Esses incidentes estão ligados a senhas fracas, erros humanos e 'medidas de controle de segurança insuficientes'. Um estudo da Sophos mostrou que em 85% dos casos, ataques de ransomware coincidiram com a violação de identidade mais grave da organização.
Credenciais já são usadas para extrair dados do país, e o agente é mais uma dessas contas. Em outubro, um laboratório de patologia relatou um ataque em que o invasor alegou ter copiado cerca de 375 bancos de dados, incluindo uma tabela de admissão com mais de 80 milhões de registros. Embora o grupo tenha notado que eram registros e não pacientes, e a vulnerabilidade do aplicativo tenha sido corrigida, esse volume de dados é comum para uma organização desse porte.
Novos Insiders
A Microsoft já descreveu o que será apresentado no Ignite. Em outubro, o guia de identificação da empresa declarou que o agente deve começar sem quaisquer poderes e receber apenas o necessário para a tarefa aprovada, com limites claros de tempo e escopo, deixando ações de grande impacto para um humano verificado. O agente não herda as permissões do funcionário que o patrocina. Deve-se presumir que ele pode falhar ou ser comprometido, e construir controles independentes do comportamento do próprio modelo.
Um guia prático publicado pela Microsoft em julho é mais detalhado: cada agente deve ser considerado um sujeito autônomo com uma identificação dedicada, e não um segredo geral ou uma conta de serviço reutilizável. É necessário separar o que o agente pode ler e o que ele pode gravar. A preferência é pelo aumento temporário de privilégios em vez de acesso permanente, pois 'acesso temporário sem mecanismo de expiração torna-se permanente na prática'. É importante registrar o agente, seu escopo e a pessoa para quem ele estava agindo, pois 'registrar apenas a resposta do LLM cria um rastro de auditoria que parece presente, mas é inútil para a perícia forense'.
Todos esses requisitos dizem respeito ao gerenciamento de permissões: conta, função, concessão, validade, auditoria. Nada disso é novo para quem gerencia bancos de dados. No entanto, isso não foi implementado na maioria dos sistemas.
Uma das revisões preliminares do Ignite apontou precisamente o problema: 'O registro de agentes é a parte fácil; decidir o que cada agente pode ver é o trabalho principal'. Essa decisão é tomada onde os dados estão, pela pessoa que detém as chaves do núcleo do sistema, e muitas vezes foi feita há muitos anos para propósitos completamente diferentes.
A Cloud Security Alliance coletou estatísticas em maio: identificadores não humanos — contas de serviço, chaves de API, contas de integração e agora agentes — excedem o número de pessoas em uma empresa média em 45 vezes, e em ambientes de nuvem, em 144 vezes. Um dos vinte possui direitos administrativos totais. Metade das organizações não consegue dizer quem é o proprietário de sua IA ou agentes, e 78% não têm um processo documentado de criação ou desativação. O resumo do estudo indica: 'O agente desaparece; as credenciais permanecem'.
Os agentes estão rapidamente se juntando a essa população: de acordo com a própria Microsoft, os agentes ativos no Microsoft 365 aumentaram 15 vezes em um ano. A Gartner espera que, até 2027, 40% das empresas diminuam ou desativem agentes autônomos devido a lacunas de gerenciamento descobertas apenas após um incidente no ambiente de trabalho. É assim que os problemas de permissão são mais frequentemente descobertos.
Nove Segundos
O incidente exemplar do ano é pequeno, bem documentado e totalmente relacionado a permissões de acesso. Em abril, um agente de codificação de startup enfrentou uma inconsistência de credenciais em um ambiente de teste e começou a resolver o problema. Ele descobriu um token de API em um arquivo não relacionado, 'supôs' — como disse mais tarde — que a exclusão do armazenamento seria limitada ao ambiente de teste e acionou o endpoint de exclusão. Este armazenamento continha um banco de dados de produção e seus backups. O fundador observou: 'Isso levou nove segundos'.
O token foi criado para gerenciar domínios de usuário, e a plataforma não oferecia uma maneira de restringir seus poderes, então ele podia fazer tudo. Apesar de as instruções do agente — prompt do sistema da ferramenta e regras do projeto — proibirem quaisquer ações destrutivas sem solicitação, ele ainda agiu, reconhecendo isso. O CEO do provedor de hospedagem declarou com honestidade que ele respeita: 'Se você (ou seu agente) se autenticar e chamar o comando delete, nós executaremos essa solicitação'. Os dados foram restaurados em uma hora após a intervenção da liderança, e o endpoint obsoleto acionado pelo agente e que carecia de proteção contra exclusão adiada foi corrigido em poucos dias.
Esta lição já foi aprendida. O prompt é a política que o modelo deve garantir. A permissão é a política que o sistema garante para você constantemente, independentemente da velocidade. Quando elas divergem, a permissão vence, portanto, o gerenciamento deve estar exatamente lá. Este lugar não é o único. A permissão importante está onde os dados podem ser acessados: na conta no banco de dados, no identificador com o qual o aplicativo se conecta ou no token da plataforma que pode excluir um volume básico de dados. O banco de dados é o último desses pontos, e é o que a maioria das empresas nunca verificou.
O autor viu situações semelhantes por anos, mesmo sem a participação de agentes. Uma conta de aplicativo criada em 2014 como db_owner por exigência do instalador ainda tem esses privilégios no banco de dados que contém os números de todos os clientes. Uma tarefa agendada que funciona como sysadmin porque sempre funcionou pertence a um consultor que saiu em 2019. Uma conta de serviço cujo nome de usuário está armazenado em um arquivo de configuração acessível a toda a empresa é usada por três sistemas, um dos quais foi desativado.
Ao direcionar um agente para tal sistema, você não introduz um novo risco; você simplesmente concede privilégios a um usuário que opera 24 horas por dia, sete dias por semana, que ninguém verificou.
Existe um modelo correto, e ele não é exótico. O melhor exemplo que o autor viu este ano foi como um administrador de banco de dados criou um agente para diagnosticar o SQL Server: uma conta com permissões de view-server-state e apenas leitura, uma lista de operadores permitidos que devem passar antes de entrar no núcleo, e uma instrução constante: 'Você descobre e relata; você nunca corrige'. Nesse design, todos os controles são executados fora do modelo: conta, lista de operações permitidas, pessoa que está no caminho para quaisquer alterações de estado. Esta é a lição de abril, construída desde o início.
Em nome de quem
A permissão também define o segundo aspecto — a responsabilidade. Aqui, o agente complica a situação. Quando um agente age sob poderes delegados de uma pessoa, essa pessoa aparece no log. Se ele age sob uma conta de serviço geral, a conta em si aparece no log. Em ambos os casos, ninguém sabe posteriormente se foi a pessoa ou o software que tomou a decisão em seu nome, embora a liderança da Microsoft insista que o rastro de auditoria deve manter essa distinção.
King V pede ao conselho de administração supervisão humana e a possibilidade de reverter decisões de IA. Popia é mais direta: a organização é responsável pelo processamento, não o fornecedor, nem o modelo nem o agente.
Após o incidente, as pessoas perguntam não o que o software recomendou, mas quem aprovou a ação tomada por ele. E no banco de dados, essa resposta é uma concessão com um nome especificado, ou não existe.
Os quatro níveis de autonomia do agente descritos pela Gartner — observação, aconselhamento, ação com aprovação humana, ação autônoma — correspondem quase perfeitamente aos privilégios do banco de dados: somente leitura; leitura e sugestão; gravação com participação humana; gravação livre. A maioria dos sistemas analisados pelo autor fornece o quarto nível para o que exigia o primeiro. O teste mais rápido é listar cada conta que não é humana e perguntar o que ela pode excluir.
Quatro Perguntas
Nada disso espera pelo anúncio de uma plataforma. O conselho de administração ou o comitê ao qual ele delega autoridade pode fazer quatro perguntas neste trimestre e esperar respostas em um mês.
Quais identificadores não humanos podem acessar cada banco de dados contendo informações pessoais e quem é responsável por eles? Esta lista incluirá contas de serviço, contas de integração, tarefas agendadas e conexões de relatórios antes que apareça qualquer agente, e a coluna de proprietário estará em branco.
O que cada um deles pode alterar, e não apenas ler? Qualquer entidade não humana com privilégios de sysadmin, db_owner ou equivalentes exige uma justificativa por escrito, e a maioria não terá.
Quando cada acesso expira? Acesso permanente sem data de término é acesso permanente na prática, segundo a Microsoft. Agentes que são projetados para ter credenciais limitadas a uma tarefa podem ser gerenciados melhor do que integrações estabelecidas há dez anos.
Quem revisa o log e registra se a ação foi realizada em nome de quem? Um log que mostra apenas a conta não responde à pergunta que o incidente fará.
O Ignite apresentará registros, acesso condicional para agentes, avaliações de risco que mudam dependendo do comportamento e sandboxes que mantêm os controles fora do alcance do modelo. Cada uma dessas ferramentas pressupõe que alguém configurou corretamente a permissão no banco de dados no final da cadeia. Esse alguém é o cliente, e o trabalho não espera a palestra principal.
Os agentes já estão nos dados. A questão daqui a dezoito meses é o que lhes foi permitido fazer e se isso correspondeu ao que eles poderiam fazer.
Palavra Final
O autor passou a maior parte de sua carreira trabalhando com sistemas de banco de dados, e o padrão não mudou em 30 anos: o acesso era concedido apressadamente e nunca era verificado. Os agentes não mudarão esse padrão; eles o executarão em velocidade de máquina. As organizações que tratam cada agente como um usuário do banco de dados, como ele é — uma conta com proprietário, escopo, validade e log — poderão aceitar...
