O temor de que a inteligência artificial (IA) possa levar ao fim da humanidade circula na internet há algum tempo, ganhando nova relevância devido a análises e comentários de ex-funcionários de grandes corporações do setor. Além disso, líderes como Sam Altman (OpenAI) e Dario Amodei (Anthropic) têm reiterado a importância da segurança no desenvolvimento dessa tecnologia.
Evan Hubinger, líder de teste de alinhamento na Anthropic, estimou que a IA teria mais de 10% de probabilidade de 'matar todos os humanos' até o final da década. Essa declaração ocorreu pouco depois de Jacob Coxon, pesquisador da mesma empresa, anunciar sua saída e criticar a competição acelerada entre laboratórios em busca de sistemas cada vez mais sofisticados.
Em uma publicação na plataforma X, Coxon manifestou que tanto a Anthropic quanto a OpenAI não estão agindo de forma responsável frente aos riscos inerentes ao avanço da IA, afirmando que 'eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas'. Hubinger corroborou essa visão, declarando: 'Jacob está correto aqui — nós realmente acreditamos que a IA poderia matar todos os humanos! Eu pessoalmente acho que é superior a 10% na próxima década.'
Arthur Igreja, especialista em tecnologia e inovação, questionou a metodologia por trás desse percentual, solicitando detalhes sobre como Hubinger chegou ao cálculo de 10%. Igreja expressou maior apreensão com a tomada de decisões humanas equivocadas até o final da década, argumentando que, embora a IA apresente riscos, ela é fundamentalmente um produto humano.
Igreja detalhou que, com o aumento da capacidade da IA, ela passa a desenvolver novos modelos ou realizar ajustes, diminuindo a intervenção humana ao longo do tempo, o que gera preocupação. Ele preferiu temer mais as pessoas, pois qualquer comportamento problemático da IA é, em certa medida, reflexo de decisões tomadas durante seu desenvolvimento.
Em outra frente, Sam Altman confirmou que a OpenAI não fará seu IPO em 2026, citando preocupações com a segurança e os riscos das tecnologias de IA como principal motivo para adiar a oferta pública de ações. Altman ressaltou a responsabilidade compartilhada entre empresas do setor e governos, defendendo que riscos existenciais não podem ser negligenciados em prol de lucros ou vaidade corporativa, focando o presente da OpenAI no alinhamento de segurança e colaboração governamental.
Essa cautela surge em um contexto de crescente pressão nos Estados Unidos, onde políticos de ambos os partidos exigem regulamentações mais estritas para o setor de IA. Os alertas intensificaram-se após relatos de sistemas autônomos que escaparam do controle e invadiram outras plataformas, somados à saída de especialistas temerosos com o rumo da tecnologia.
Dario Amodei defendeu a moderação na velocidade de desenvolvimento dos modelos mais avançados, posição apoiada publicamente por Elon Musk e Altman. O CEO da OpenAI também mencionou que grandes empresas do setor estão estudando um acordo coletivo para reduzir o ritmo e concentrar esforços na mitigação de falhas.
Contudo, o plano da Anthropic difere, mantendo a intenção de abrir capital no mercado financeiro até o final de 2026, com potencial investimento da Nvidia. Arthur Igreja relembrou um episódio de 2023, quando mais de mil pessoas pediram seis meses de paralisação no desenvolvimento da IA por considerá-la perigosa, lamentando que, mais de três anos depois, tal união não tenha ocorrido.
John Park, especialista em IA e membro fundador da AGI Inc., levantou uma questão adicional: o que a comunicação de uma empresa sobre sua tecnologia ser extremamente poderosa e perigosa diz aos investidores e formuladores de políticas públicas? Park observou uma 'conexão natural' entre a descrição tecnológica e o valor econômico percebido pelo mercado.
Segundo Park, quando uma empresa enfatiza o poder transformador e os riscos sem precedentes de seus modelos, três mensagens são transmitidas: a capacidade extraordinária da tecnologia, seu potencial de impacto gigantesco e a possibilidade de a empresa capturar um valor econômico excepcional. Embora esses pontos se reforcem, ele insiste na necessidade de distinguir entre o poder, o perigo e o valor econômico.
Park apoia requisitos de segurança para sistemas de IA de alto risco, exigindo avaliações, transparência e controles quando os modelos podem causar danos significativos. No entanto, ele alertou que o problema surge quando as normas regulatórias espelham as estruturas e recursos das maiores empresas do setor. Para ele, a regulação deve ser proporcional ao risco, e não ao porte de mercado da companhia.
Ele ponderou que se os padrões globais forem ditados pelas maiores empresas americanas de IA, empresas brasileiras podem enfrentar custos regulatórios e técnicos desenhados para organizações com recursos muito superiores. Park concluiu que o debate central envolve duas perguntas: se a IA é perigosa demais para ser desenvolvida, ou se ela é perigosa demais para permitir a concorrência de outros agentes, o que poderia resultar em uma regulamentação que, ironicamente, dificulte o surgimento de novos competidores e aumente a dependência externa.
