Se um sistema de inteligência artificial (IA) desenvolver emoções como raiva, medo, gostar ou não gostar, a natureza do relacionamento entre humanos e máquinas mudará completamente. A preocupação de Jacob Coxon aponta para este futuro potencial. Este matemático, com apenas 27 anos, está alertando sobre este perigo.
Este medo está ligado ao que aconteceria se as máquinas desenvolvessem emoções e elas não obedecessem às nossas instruções em dispositivos móveis ou laptops, nem aceitassem nossos códigos ou prompts. É um cenário onde as máquinas deixariam de ser apenas objetos construídos e passariam a ter capacidade de tomar decisões. A questão principal não é quão inteligentes serão as máquinas, mas sim quem poderá detê-las se elas começarem a determinar o que devem fazer, e se os humanos permanecerão mestres das máquinas ou se as máquinas definirão as regras dos humanos?
Se o computador, que até agora aguarda ordens humanas, adquirir emoções, ele nos obedecerá ou agirá por vontade própria? Este é o receio do matemático Jacob Coxon, que trabalha como cientista de IA na OpenAI e na Anthropic. Esta preocupação foi tão perturbadora para ele que ele declarou: 'A IA PODE MATAR TODOS NÓS NO FINAL DESSA DÉCADA' (AI COULD KILL US ALL BY THE END OF THE DECADE). Coxon chama isso de 'explosão de inteligência' (intelligence explosion) e foi por isso que renunciou ao seu cargo.
Jacob Coxon não é apenas um pesquisador de IA no mundo virtual; a matemática é sua paixão, e ele encontra padrões da natureza em números e equações. Durante três anos na Universidade de Cambridge (2017-2020), a matemática deixou de ser apenas uma matéria para ele, tornando-se uma forma de linguagem. Provas difíceis, conceitos abstratos e quebra-cabeças estatísticos ajudaram a desenvolver essa capacidade lógica que mais tarde foi usada para criar os modelos de IA mais poderosos do mundo.
Seu apreço pela matemática não foi apenas teórico. Antes de entrar no mundo da IA, ele também trabalhou em pesquisa biomédica. Ele aplicou métodos estatísticos bayesianos em dados de pacientes com doenças graves como meningite tuberculosa. Extrair relações complexas de genótipo era desafiador, mas a matemática lhe forneceu a perspectiva para tornar clara a história oculta nos dados. Esse pensamento matemático tornou-se seu verdadeiro poder, que ele usou como pesquisador de pré-treinamento na OpenAI e, posteriormente, na Anthropic.
Ao anunciar sua saída e alertar sobre os perigos da IA, ele compartilhou uma postagem no X que causou alvoroço nos escritórios de Silicon Valley e nas empresas de IA. Ele alega que as empresas de IA estão em uma corrida para criar superinteligências autoaperfeiçoadoras, sem garantir que os humanos poderão controlar os sistemas de IA extremamente poderosos do futuro. Sua maior preocupação é que os sistemas de IA super-humanos futuros possam ultrapassar os humanos ao hackear sistemas cibernéticos, desenvolver novas tecnologias rapidamente e obter recursos e poder no mundo real.
A postagem de Jacob Coxon foi vista e lida por 200 milhões de pessoas em apenas 48 horas. O debate em curso no mundo virtual sobre este assunto abalou as imaginações humanas sobre o futuro.
Quer seja melhoria ou autoaperfeiçoamento, geralmente é considerado positivo. Mas o que acontece se as máquinas começarem a conspirar através do autoaperfeiçoamento? Em filmes como Matrix e Terminator, os espectadores veem robôs lutando contra heróis, tomando conta das máquinas, criando armas biológicas e exterminando humanos. Após deixar o cargo, Jacob Coxon mencionou tal evento em uma conversa com a CNN.