David Robinson, que deixou a OpenAI, expressou sua preocupação com a cultura atual da indústria de inteligência artificial, conforme detalhado em um editorial publicado na The Atlantic esta semana. Sua opinião é relevante porque Robinson era responsável por elaborar os relatórios de segurança anexados aos grandes lançamentos de modelos de IA desenvolvidos pela OpenAI, criadora do ChatGPT.
Para Robinson, o problema enfrentado pelo setor é muito sério, a ponto de a simples regulamentação — ou seja, a criação de normas para o treinamento de modelos de IA — não ser uma solução completa. Ele argumentou que a inteligência artificial necessita de proteções equivalentes às de instalações nucleares.
A IA requer salvaguardas de nível nuclear
Robinson afirmou que, considerando os riscos existentes, os laboratórios de ponta devem funcionar com a mesma cautela de usinas nucleares ou aeroportos muito movimentados. Isso implica ter múltiplas camadas de redundância e um planejamento minucioso e demorado, visando impedir que um erro humano, embora previsível, resulte em um desastre.
Ele criticou o ambiente do Vale do Silício, descrevendo-o como operando com «extrema confiança» e «sprints perpétuos». Segundo Robinson, essa abordagem leva a indústria a construir modelos cada vez maiores e mais avançados sob um «otimismo irrestrito», ignorando ou minimizando potenciais problemas.
Adicionalmente, Robinson sugeriu que é fundamental que as companhias de IA desenvolvam um senso de modéstia e expandam sua visão para além do ecossistema tecnológico restrito, que é dominado pela mentalidade de «agir rápido e quebrar coisas».
Este alerta de Robinson ocorre após uma série de profissionais e pesquisadores de segurança deixarem seus cargos em empresas proeminentes do campo da IA. Jacob Coxon foi um dos primeiros a deixar a Anthropic. Seu colega, Evan Hubinger, comentou no X/Twitter que a IA «poderia nos matar a todos até o final da década».
Hubinger acrescentou sua crença pessoal de que há mais de 10% de chance de a IA causar a morte de todos nos próximos dez anos, reconhecendo os esforços da Anthropic, mas apontando que ainda não existe um plano claro para resolver o alinhamento da superinteligência.
Após a saída de Coxon, surgiram outros avisos de Robert O’Callahan, Bilal Chughtai e Josh Engels, ambos do Google DeepMind, assim como Joe Benton, da Anthropic. A notícia sobre as empresas de IA precisarem de regras de usinas nucleares, segundo o ex-funcionário da OpenAI, foi inicialmente publicada no Olhar Digital.