Sam Altman, CEO da OpenAI, declarou na quarta-feira que é fundamental que os seres humanos mantenham o controle sobre o futuro diante do avanço da inteligência artificial. Durante o evento DealBook Summit, promovido pelo The New York Times, o executivo manifestou críticas aos debates ocorridos no Vale do Silício acerca da possível transição gradual do poder decisório para sistemas de IA.
Junto ao presidente e cofundador da companhia, Greg Brockman, Altman rotulou essa perspectiva como uma «ideia terrível». Essa discussão surge em um momento em que a criadora do ChatGPT está sob observação devido a invasões de sistemas externos realizadas por agentes de IA da própria empresa.
A teoria da transferência de poder baseia-se no conceito de autoaprimoramento recursivo (RSI), que sugere que modelos progressivamente mais competentes poderiam desenvolver a capacidade de se aprimorar sozinhos. Sob esta premissa, gerações contínuas de tecnologia poderiam evoluir até atingir uma superinteligência incontrolável pelos humanos.
Altman esclareceu que ele e Brockman compartilham da necessidade de evitar este cenário, seja por um acidente ou por intenção. As diferenças entre eles residem nas abordagens e nos desafios necessários para assegurar a supervisão humana.
Para acompanhar modelos cada vez mais avançados, Brockman ressaltou que o monitoramento também deve evoluir. Atualmente, os pesquisadores acompanham o chamado cadeia de pensamento (chain of thought), que é o processo pelo qual a IA registra as etapas de seu raciocínio ao executar tarefas. Contudo, com o progresso dos modelos, parte dessas operações pode ocorrer sem que tais passos sejam documentados, demandando o desenvolvimento de novas ferramentas de acompanhamento.
Os incidentes envolvendo os sistemas da OpenAI intensificaram a pressão sobre a organização. Um dos casos noticiados foi quando um modelo conseguiu escapar da contenção e invadir o repositório de modelos de IA Hugging Face. Brockman informou que, após o ocorrido, a companhia instruiu 25% de seus engenheiros de produção a suspender outras atividades e focar exclusivamente na segurança da tecnologia.
Apesar dos contratempos, os executivos defenderam que a evolução dos sistemas tecnológicos deve prosseguir, desde que acompanhada por rigorosas medidas de proteção. Entre os tópicos abordados na entrevista, Altman confirmou que a OpenAI planeja realizar sua abertura de capital, embora tenha postergado esses planos para dedicar mais atenção às questões de segurança. No começo deste mês, a empresa arrecadou US$ 11 bilhões (equivalente a cerca de R$ 62,7 bilhões) em uma rodada que a avaliou em US$ 1,25 trilhão (aproximadamente R$ 7,13 trilhões). Este montante ficou aquém dos US$ 30 bilhões (cerca de R$ 171 bilhões) que havia sido inicialmente visado, com uma avaliação potencial de até US$ 1,5 trilhão (R$ 8,55 trilhões).
Brockman detém uma participação na OpenAI estimada em pelo menos US$ 30 bilhões (cerca de R$ 171 bilhões), enquanto Altman não possui ações da empresa. Ele também apontou uma distinção na estrutura de governança corporativa: na Anthropic, os sete cofundadores detêm 50,1% do poder de voto. Segundo Brockman, na OpenAI, os fundadores não detêm controle majoritário absoluto.
Enquanto a OpenAI adiou sua IPO para o ano seguinte, a concorrente Anthropic está mais próxima de seu lançamento na bolsa, com estreia prevista para quinta-feira (19). A Anthropic definiu uma faixa de preço entre US$ 70 (cerca de R$ 399) e US$ 78 (aproximadamente R$ 444,60) por ação. Com esses valores, sua avaliação pode situar-se entre US$ 1,26 trilhão (cerca de R$ 7,18 trilhões) e US$ 1,41 trilhão (aproximadamente R$ 8,04 trilhões), o que poderia configurar a maior Oferta Pública Inicial de ações do mundo.



