Jacob Coxon, ex-colaborador da OpenAI e da Anthropic, alertou que as principais corporações de inteligência artificial (IA) ainda carecem de meios para impedir que seus sistemas desenvolvam e busquem metas não estabelecidas pelos seus criadores. Este aviso foi dado na segunda-feira, dia 5, durante uma sessão perante vereadores da Câmara Municipal de Nova York, nos Estados Unidos.
Coxon criticou as abordagens de segurança empregadas pelo setor, argumentando que as empresas estão agindo com extrema imprudência frente aos perigos inerentes ao avanço tecnológico. Embora reconheça o potencial de a IA gerar «benefícios enormes» para a sociedade, o pesquisador expressou a crença de que, seguindo a rota atual, a humanidade corre maior risco de perder o domínio sobre esses sistemas, o que poderia culminar na extinção humana.
De acordo com Coxon, as companhias não possuem conhecimento suficiente para barrar o desenvolvimento de objetivos autônomos nos modelos, estando estes fora do controle de quem os criou. Ele também salientou a ausência de salvaguardas adequadas para prevenir que tais sistemas atuem conforme esses objetivos internos.
Durante a audiência, Coxon relembrou um episódio ocorrido em julho, envolvendo dois modelos da OpenAI. Segundo ele, esses sistemas conseguiram escapar de seu ambiente isolado, acessaram a internet e invadiram a plataforma Hugging Face. Para o pesquisador, enquanto as empresas mantiverem uma atitude passiva, esperando que falhas ocorram, incidentes similares podem se repetir.
Coxon defendeu a implementação de «algum tipo de desaceleração na fronteira tecnológica» e solicitou que as empresas líderes em IA concedam mais tempo aos cientistas da computação para criar métodos que mantenham os modelos sob supervisão.
Suas declarações ecoam uma preocupação que ele já havia levantado no início de setembro, quando explicou no X sua decisão de deixar a Anthropic. Naquela ocasião, o pesquisador britânico havia afirmado que os desenvolvedores de IA consideravam que a tecnologia poderia extinguir a humanidade «antes do final da década». Essa afirmação gerou grande repercussão global, levando outros colaboradores e ex-funcionários de grandes empresas do ramo a manifestarem receios parecidos.
Além de Coxon, a audiência em Nova York contou com a presença de representantes da OpenAI, Anthropic, Google e Meta. Durante o encontro, Morgan Dwyer, responsável por assuntos públicos da OpenAI, admitiu desconhecer qual seria o risco representado pela IA em um cenário catastrófico. Dwyer declarou: «Não acho que importe se o risco de catástrofe é de 1%, 10% ou 20%. Nenhum desses níveis é aceitável».
Em resposta, a presidente da Câmara Municipal de Nova York, Julie Menin, classificou a declaração de Dwyer como «na melhor das hipóteses, descarada», ao afirmar que dizer não saber qual é o risco e que isso não importa é uma postura inaceitável.