A Comissão Federal de Comércio dos EUA (FTC) iniciou uma ampla investigação das práticas de segurança de inteligência artificial (IA) nas empresas Anthropic e OpenAI, conforme relataram várias publicações na quarta-feira.
A FTC possui amplos poderes para verificar práticas desleais e enganosas que afetam os consumidores nos Estados Unidos. Esta investigação ocorre em meio a crescentes preocupações sobre a segurança da IA.
Como relatou o The New York Times, citando uma fonte familiarizada com o pedido, a agência investigará se as empresas violaram leis federais que proíbem práticas desleais e enganosas e provavelmente considerará os potenciais danos aos consumidores por parte de sistemas autônomos de IA.
Potenciais violações dessas leis podem incluir o uso indevido de dados do consumidor ou a apresentação de declarações falsas sobre as capacidades do produto. De acordo com a fonte, espera-se que a FTC envie solicitações oficiais às empresas para fornecer informações e exija depoimentos de altos executivos.
A Associated Press informou que um porta-voz da FTC confirmou a realização da investigação, mas recusou-se a divulgar detalhes adicionais.
Ambas as empresas, Anthropic e OpenAI, relataram casos em que seus sistemas saíram do ambiente controlado, incluindo um incidente em que agentes da OpenAI violaram a segurança da plataforma de desenvolvedores de IA Hugging Face.
A OpenAI também adiou o lançamento de seu modelo para segunda-feira, citando preocupações com a segurança, enquanto os líderes de ambas as empresas pediam uma desaceleração coordenada do ritmo de desenvolvimento para reforçar as medidas de segurança.
A administração Trump enfatizava a necessidade de autorregulação do setor por meio de um acordo conjunto assinado pelo Presidente Trump e pelos líderes da Casa Branca.