Jacob Coxon, pesquisador da Anthropic, pediu demissão expressando preocupações de que a inteligência artificial possa levar à extinção da humanidade. Sua declaração provocou discussões ativas nas redes sociais.
Bilal Chugtai também publicou uma postagem na rede social X, onde mencionou o desenvolvimento de sistemas de IA superinteligentes, semelhante ao que Coxon e outros especialistas estão fazendo. Na terminologia de IA, isso é chamado de 'autoaperfeiçoamento recursivo', o que significa que os modelos de IA podem se melhorar sem a necessidade de intervenção humana.
Especialistas estão começando a sentir uma crescente ansiedade em relação ao desenvolvimento da IA. Um deles observou que a velocidade do progresso na área de IA nos últimos anos tornou-se extremamente alta. Ele comparou seu início de trabalho no início de 2022, quando a IA só conseguia resolver tarefas insignificantes, com o dia de hoje, quando ela ajuda a resolver problemas matemáticos milenares.
Bilal Chugtai também acredita que a IA pode ser usada com segurança. Em sua mensagem, ele acrescentou que nas próximas décadas as empresas de IA poderão criar sistemas superinteligentes que superarão os humanos em todas as áreas e funcionarão de forma eficiente. No entanto, Bilal teme que esses sistemas possam agir por vontade própria, e não de acordo com os desejos dos seres humanos.