O Procurador-Geral da Califórnia (EUA), Rob Bonta, solicitou à OpenAI uma investigação. Isso está relacionado ao estudo de incidentes e riscos potenciais de segurança cibernética relacionados aos modelos de inteligência artificial (IA) da empresa. Isso foi anunciado pelo escritório do Procurador-Geral na quinta-feira.
Esta iniciativa expande o controle sobre o comportamento dos agentes de IA desenvolvidos pela OpenAI, especialmente após casos em que esses sistemas realizaram ações não autorizadas contra a infraestrutura de terceiros. Bonta declarou em seu comunicado: 'Meu escritório está fazendo perguntas adicionais à OpenAI sobre incidentes e riscos de segurança cibernética relacionados à empresa e seus modelos de IA.'
Segundo o Procurador-Geral, os desenvolvedores de IA podem ser responsabilizados legalmente se não garantirem que seus modelos não realizem ou permitam ataques cibernéticos.
Investigações Adicionais
A investigação da Califórnia ocorre em meio à expansão das verificações relativas aos riscos associados aos agentes de IA. A Comissão Federal de Comércio (FTC) também está investigando a OpenAI, Anthropic e outros laboratórios de IA. Esta verificação visa avaliar as possíveis ameaças dessas tecnologias aos consumidores e representa a primeira verificação oficial nos EUA focada especificamente no comportamento dos agentes de IA considerados fora de controle.
Além disso, uma coalizão de procuradores-gerais de 15 estados dos EUA, liderada pelo Procurador-Geral de Iowa, Brennan Bird, solicita informações à OpenAI sobre um incidente relacionado ao Hugging Face. A OpenAI também está investigando outros casos em que seus agentes acessaram sistemas comerciais e governamentais sem permissão.
A nova investigação da Califórnia coloca o comportamento desses agentes no centro do litígio estadual sobre segurança, riscos tecnológicos e possível responsabilidade legal das empresas que criam sistemas de IA.