Um debate acendeu na indústria de tecnologia após a declaração de Evan Hubinger, especialista em segurança de inteligência artificial na Anthropic. Ele acredita que existe mais de 10% de probabilidade de a humanidade ser destruída nos próximos dez anos devido ao desenvolvimento da IA.
Evan Hubinger, que ocupa o cargo de líder em ciência de alinhamento na Anthropic, expressou sua preocupação com o futuro da IA em sua postagem. Na opinião dele, o maior perigo pode surgir quando a IA superar significativamente a inteligência humana e começar a se aprimorar autonomamente.
Este processo é chamado de autoaperfeiçoamento recursivo. Se a IA puder melhorar a si mesma sem ajuda humana e criar versões mais poderosas sozinha, suas capacidades podem crescer muito rapidamente. Hubinger observou que, embora a Anthropic esteja trabalhando na segurança da IA, ainda não há uma solução confiável para o controle total de um sistema superinteligente futuro.
Sua declaração veio em meio à saída do pesquisador da Anthropic, Jacob Coxon, que também expressava preocupações sobre a corrida acelerada das empresas de IA. Coxon apontava que as empresas estão desenvolvendo ativamente sistemas mais poderosos e autoaperfeiçoados, mas as questões de segurança permanecem não totalmente resolvidas.
É importante notar que Hubinger não afirma que os modelos existentes, como o ChatGPT, destruirão os humanos no próximo decênio. Sua preocupação está voltada para o potencial de futuros sistemas superinteligentes. A questão principal é se a segurança está acompanhando o ritmo do desenvolvimento da IA que busca se tornar mais inteligente.
A avaliação de Hubinger de 10% reflete essa crescente apreensão, que agora está sendo discutida não apenas externamente, mas também dentro das próprias empresas de IA.