A Anthropic está recrutando profissionais com salários que podem chegar a US$ 455 mil anuais para auxiliar no teste dos limites de segurança de seus sistemas de inteligência artificial (IA). A companhia mantém uma equipe especializada em segurança e prevenção de abusos, abrangendo riscos biológicos, químicos, explosivos, cibernéticos, fraudes, golpes, bem como riscos radiológicos e nucleares.
As posições disponíveis envolvem especialistas encarregados de testar os sistemas, investigar ameaças e analisar riscos em campos como química, biologia, cibersegurança e armamentos nucleares e explosivos. O propósito dessas vagas vai além de simplesmente solicitar ao Claude que gere uma resposta proibida para verificar sua obediência; a Anthropic testa seus modelos de diversas maneiras para identificar se terceiros poderiam burlar suas salvaguardas e utilizar a IA para causar prejuízos, visando detectar falhas antes que sejam exploradas.
A Anthropic opera uma equipe denominada Frontier Red Team, cuja função é examinar os sistemas de IA para compreender suas capacidades e antecipar riscos conforme os modelos avançam. Este nome deriva do conceito de red teaming, uma metodologia de segurança onde um time assume o papel de um potencial invasor para localizar vulnerabilidades em um sistema. No contexto da IA, isso implica buscar métodos para contornar barreiras de segurança e determinar se o modelo pode ser empregado para gerar danos.
Os focos de atenção incluem ameaças químicas, biológicas, radiológicas e nucleares, além de cibersegurança e riscos ligados à autonomia dos sistemas. A empresa integra testes realizados por pesquisadores, especialistas de diversas áreas e sistemas automatizados. A Anthropic ressalta que a colaboração com especialistas externos auxilia tanto no teste dos modelos quanto no desenvolvimento de novos métodos de avaliação. Dependendo do risco analisado, os profissionais podem trabalhar com versões públicas do Claude ou com modelos não comerciais sujeitos a diferentes mecanismos de segurança.
Visão de Especialistas sobre a Função
Gabriel Cunha, especialista em IA da Oracle, comentou ao Olhar Digital que o papel consiste em assegurar que a capacidade institucional de identificar riscos e implementar controles acompanhe o progresso das capacidades dos modelos. Os especialistas atacam o sistema para verificar se o modelo oferece uma vantagem real em comparação com o que uma pessoa conseguiria realizar sem o auxílio da IA.
A própria Anthropic detalha um processo que inicia com testes conduzidos por especialistas e pode ser expandido por sistemas automatizados. Inicialmente, os profissionais definem o tipo de ameaça a ser investigada e buscam formas de induzir o sistema a exibir comportamentos de risco. À medida que o problema é melhor compreendido, os testes podem ser repetidos em centenas ou milhares de cenários distintos.
A empresa também utiliza modelos de IA para apoiar essa tarefa. Um sistema pode gerar tentativas de ataque para testar outro modelo, e os resultados obtidos auxiliam no desenvolvimento de novas proteções. Esse ciclo é repetido para confirmar se as barreiras permanecem eficazes mesmo após a descoberta de novas táticas de ataque.
Uma razão fundamental para a Anthropic envolver especialistas de campos tão variados é que uma resposta inadequada, por si só, não comprova que o modelo possui capacidade de causar dano no mundo real. É necessário que o especialista julgue se o que o sistema produziu está correto e se pode ser aplicado na prática.
Rodrigo Gava, CTO da Vultus e especialista em cibersegurança, enfatiza: «Conseguir que uma IA responda algo proibido não demonstra, por si só, um risco real». Ele acrescenta que o foco deve ser avaliar se a resposta é tecnicamente precisa, operacionalmente viável e se diminui de forma significativa o conhecimento, o tempo ou o custo necessários para causar dano. Em cibersegurança, ele exemplifica: «Um código pode parecer sofisticado e não funcionar, enquanto uma sequência de informações aparentemente inofensivas pode completar uma cadeia real de exploração».
A Anthropic adota essa mesma lógica em seus testes de segurança. Os especialistas primeiramente determinam qual ameaça querem investigar, que tipo de informação poderia ser usada para causar dano e o que seria preciso para que o modelo auxiliasse efetivamente alguém nessa ação. Em uma avaliação de riscos biológicos, por exemplo, mais de 150 horas foram dedicadas a testes com especialistas em biossegurança.
O mesmo ocorreu na avaliação de riscos nucleares. Em colaboração com a National Nuclear Security Administration (NNSA), dos Estados Unidos, especialistas da agência dedicaram um ano a testar modelos Claude em um ambiente controlado. Este trabalho permitiu à Anthropic criar uma ferramenta apta a identificar conversas potencialmente ligadas ao desenvolvimento de armas nucleares. Nos testes preliminares, a ferramenta identificou 94,8% das consultas relativas a armas nucleares e não registrou falsos positivos no conjunto avaliado, alcançando uma precisão geral de 96,2%. Segundo a Anthropic, o sistema foi posteriormente integrado parcialmente ao tráfego do Claude para auxiliar na detecção de usos indevidos.
Segundo Gava, «o processo normalmente começa com um modelo de ameaça: quem é o potencial atacante, qual é o seu objetivo, quais recursos possui e o que seria considerado sucesso». A partir disso, são elaborados cenários para tentar provocar comportamentos que sinalizem uma vulnerabilidade.
Os testes não se restringem a um comando direto ao modelo. Os profissionais podem examinar conversas em múltiplas fases, reformulações do mesmo pedido, alterações de idioma e contexto, utilização de ferramentas, agentes autônomos e combinações de técnicas. A intenção é encontrar situações onde uma proteção isolada parece funcional, mas pode ser contornada quando diversos recursos são combinados.
Após a identificação de um problema pelos especialistas, a Anthropic pode converter essa situação em um teste que será replicado em centenas ou milhares de variações. Assim, a empresa verifica se a falha persiste e se as modificações aplicadas ao modelo realmente solucionaram a questão. A IA também é utilizada nesse processo: um modelo pode gerar tentativas de ataque para testar outro sistema, e os resultados são usados para desenvolver novas formas de defesa. O procedimento é repetido para garantir que as barreiras continuem operacionais.
A necessidade de testar os modelos aumenta à medida que eles se tornam capazes de encontrar meios de explorar sistemas. Em maio de 2026, a Anthropic declarou que o Claude Mythos Preview era capaz de descobrir vulnerabilidades, transformá-las em vetores de exploração e combinar etapas distintas para executar ataques completos.
Em outro estudo, a Anthropic avaliou o Claude Opus 4 e o Claude Sonnet 4 em desafios de cibersegurança que variavam de exercícios individuais a simulações de redes complexas. A empresa relatou que os modelos demonstraram progresso tanto na identificação de falhas quanto na execução de ataques multifásicos, embora ainda enfrentassem dificuldades em sustentar planos extensos diante de imprevistos.
O avanço também é notável na busca por falhas inéditas, conhecidas como zero-days. Em fevereiro, a Anthropic informou que o Claude Opus 4.6 havia aprimorado substancialmente a habilidade de encontrar vulnerabilidades críticas em grande escala em comparação com versões anteriores. A companhia argumenta que tal capacidade pode ser empregada para fortalecer a defesa de sistemas.
Para Gabriel Cunha, tais ocorrências ajudam a justificar por que as corporações devem testar não apenas respostas singulares, mas também a capacidade dos modelos de integrar diferentes recursos para alcançar um objetivo. Quanto mais tarefas um sistema executa autonomamente, maior se torna a necessidade de avaliar o que pode ocorrer quando essas competências são usadas conjuntamente.
A própria Anthropic mantém o Frontier Red Team para acompanhar essa evolução. Em 2026, o grupo divulgou análises sobre exploração de vulnerabilidades, ataques cibernéticos e ameaças associadas ao uso de IA por atores maliciosos. O objetivo declarado é compreender as capacidades atuais dos modelos e prever o que pode emergir com sua evolução.
Apesar de todos esses esforços, os testes não garantem a segurança absoluta de uma IA. Existe uma quantidade virtualmente infinita de combinações possíveis entre comandos, contexto, ferramentas e comportamentos de um modelo. Adicionalmente, novas funcionalidades ou versões podem introduzir vulnerabilidades inexistentes em avaliações prévias.
A limitação primordial reside no fato de que nenhum red team consegue cobrir exaustivamente todos os cenários que atestariam com certeza a segurança da IA. Os modelos possuem natureza probabilística, o espaço de interação é quase infinito e os atacantes adaptam continuamente suas táticas.
Rodrigo Gava, CTO da Vultus, aponta que a própria Anthropic reconhece essas restrições. Em uma análise sobre segurança de IA, a empresa afirma que os testes para riscos de segurança nacional ainda são mais «arte do que ciência», visto que não há um método totalmente padronizado para provocar comportamentos preocupantes nos modelos.
Existe também um balanço entre dois tipos de erro: um falso negativo ocorre quando uma tentativa de abuso não é detectada e passa pelos mecanismos de proteção. Já um falso positivo pode resultar no bloqueio de uma atividade legítima por ter sido classificada erroneamente como perigosa.
Por essa razão, a Anthropic implementa múltiplos mecanismos de proteção. Estes incluem testes de segurança, programas de recompensa para quem descobre falhas, monitoramento e sistemas automatizados destinados a identificar tentativas de burlar as barreiras dos modelos.
No Frontier Safety Roadmap, a empresa estabeleceu como meta desenvolver, até janeiro de 2027, um sistema capaz de encontrar novas formas de contornar as proteções contra armas químicas e biológicas em escala. A Anthropic também planeja criar ferramentas para investigar automaticamente ataques cibernéticos complexos envolvendo o Claude.
As vagas abertas pela Anthropic ilustram como essa estrutura opera na prática. A empresa busca profissionais para diversas funções, como especialistas em segurança biológica, riscos químicos e explosivos, cibersegurança, fraude e golpes, além de riscos radiológicos e nucleares.
As funções são distintas. Uma delas é a de Red Team Engineer, responsável por tentar encontrar falhas nos sistemas antes que sejam exploradas. Esta vaga requer experiência em segurança de IA e testes de segurança, juntamente com conhecimento sobre como contornar as barreiras dos modelos. A faixa salarial anunciada situa-se entre US$ 320 mil e US$ 405 mil anuais.
Outra posição é a de gerente de inteligência de ameaças relacionadas a riscos químicos, biológicos, radiológicos, nucleares e explosivos. O profissional liderará uma equipe dedicada a detectar e investigar tentativas de usar os sistemas da Anthropic para esses propósitos, com um salário anual de US$ 455 mil.
Existem também cargos que demandam experiência direta na área de risco. Por exemplo, uma vaga focada em segurança biológica exige no mínimo oito anos de vivência prática em ciências da vida, além de conhecimento em biologia molecular, descoberta de medicamentos ou biologia computacional. Essa diversidade de funções demonstra que a estratégia da Anthropic transcende a simples recusa do Claude a certos pedidos; ela visa contratar profissionais para descobrir vulnerabilidades, avaliar riscos, investigar abusos potenciais e transformar essas descobertas em novas formas de proteção, reconhecendo que o aumento das capacidades dos modelos exige uma expansão na escala desse trabalho.
