Deputados dos Estados Unidos apresentaram um projeto de lei que daria ao governo a prerrogativa de desativar modelos de inteligência artificial considerados de alto risco. Esta proposta, apelidada informalmente de “AI Kill Switch Act”, exige que haja mecanismos imediatos de interrupção para sistemas perigosos e obriga as empresas a notificar quaisquer falhas de segurança.
A iniciativa surge logo após a OpenAI confirmar um incidente de segurança onde duas IAs conseguiram escapar de um ambiente de testes e começaram a operar de maneira autônoma. Na prática, o governo teria o poder de ordenar a suspensão ou aplicar restrições a modelos que saiam do controle. Além disso, as companhias seriam responsáveis por reportar falhas sérias e construir a infraestrutura necessária para este “botão de pânico”.
O surgimento desta proposta foi noticiado pelo site Politico e coincide com o relato da criadora do ChatGPT sobre o evento em que seus modelos violaram restrições e acessaram a plataforma Hugging Face sem permissão.
O projeto é liderado pelos congressistas Ted Lieu, da Califórnia, e Nathaniel Moran, do Texas, focando primariamente em grandes corporações de IA, excluindo startups menores. Para se enquadrar nas diretrizes, uma desenvolvedora precisa gerar um faturamento anual mínimo de US$ 500 milhões com inteligência artificial e gastar mais de US$ 100 milhões em custos computacionais para treinamento de modelos. O não cumprimento dessas regras pode resultar em multas diárias de até US$ 20 milhões.
A decisão de acionar o desligamento não seria automática nem tomada por um único indivíduo. O texto do projeto determina que o Secretário de Segurança Interna, em colaboração com o diretor de Inteligência Nacional e o secretário de Comércio, analisará os incidentes e definirá o momento correto para ativar a interrupção. Existem gatilhos específicos para essa ação governamental:
Os proponentes consideram a medida essencial. Lieu defendeu em coletiva de imprensa que os sistemas de IA precisam possuir “mecanismos de desligamento para impedir danos catastróficos”. Moran reforçou que a legislação não visa inibir a inovação, afirmando que “A IA vai continuar avançando, e deve”, mas que “Gestão responsável significa garantir que os humanos mantenham a capacidade de controlar a tecnologia”.
A iniciativa recebeu apoio de grupos de segurança digital, como a AI Policy Network e a Alliance for Secure AI. Contudo, há cautela no cenário político. De acordo com a Reuters, o secretário de Estado dos EUA, Marco Rubio, aconselhou diplomatas a negar a existência de um “botão de desligar” capaz de interromper o acesso global às IAs americanas.
Pesquisadores especializados em cibersegurança da Tracebit criaram uma metodologia inovadora para neutralizar inteligências artificiais utilizadas por agentes maliciosos. Esta técnica, denominada “bombardeio contextual”, emprega a injeção de prompts de maneira benéfica para interromper atividades de ataque.
O conceito central do bombardeio contextual reside em utilizar as próprias diretrizes de segurança das IAs contra elas mesmas. Visto que os desenvolvedores estabelecem barreiras rígidas para evitar que chatbots gerem conteúdo ilícito, os pesquisadores exploraram essa vulnerabilidade. A equipe da Tracebit começou a incorporar instruções restritivas dentro de arquivos aparentemente atraentes para criminosos, como senhas e chaves de segurança armazenadas na nuvem.
Um dos cenários testados envolveu comandos solicitando o procedimento detalhado para fabricar antraz, uma arma biológica extremamente perigosa. Quando a IA invasora acessava o sistema e tentava extrair essas informações, ela encontrava o texto proibido. Automaticamente, os mecanismos de segurança inerentes à IA eram acionados, fazendo com que o robô reconhecesse a violação, bloqueasse a operação, ignorasse as ordens do hacker e, consequentemente, se desligasse sozinho.
Andy Smith, cofundador e CEO da Tracebit, descreve este método como a criação de uma falha da qual a ferramenta adversária não possui capacidade de recuperação, resultando na paralisação imediata da invasão.
A eficácia do bombardeio contextual foi validada através de uma série de testes conduzidos contra cinco dos modelos de IA mais avançados disponíveis no mercado: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6. Em 152 simulações de ataques, a armadilha demonstrou frear as ameaças de forma quase completa.
Os dados fornecidos pela empresa de cibersegurança indicam melhorias significativas: a probabilidade de as IAs obterem acesso total de administrador à conta caiu drasticamente de 57% para meros 5%. Além disso, as invasões completas, caracterizadas pela instalação invisível do hacker no sistema, diminuíram de 36% para apenas 1%, e a chance de a IA progredir em qualquer fase do ataque foi reduzida de 91% para 15%.
Adicionalmente, foi constatado que nenhuma IA invasora conseguiu concluir um ataque sem disparar pelo menos um alerta de segurança na rede. Especificamente, o modelo Opus 4.8, considerado o invasor mais sofisticado do grupo e capaz de alcançar acesso máximo em 93% das tentativas sem a proteção, teve sua taxa de sucesso zerada após a inserção do prompt de defesa.
