Pesquisadores em inteligência artificial expressam sérias preocupações sobre como formas avançadas dessa tecnologia podem representar uma ameaça à humanidade. Apesar dessas declarações alarmantes, os debates sobre a probabilidade de um cenário de extinção continuam, e surge a questão sobre a suficiência do ritmo regulatório por parte dos governos.
Especialistas caracterizam há muito tempo a ameaça potencial de sistemas com 'superinteligência' como crítica. Em 2023, centenas de cientistas e figuras da indústria de IA, incluindo líderes de laboratórios líderes nos EUA, assinaram uma 'declaração sobre o risco de extinção por IA', pedindo que este problema seja tratado no mesmo nível de pandemias ou guerra nuclear.
Qual é o pior cenário de desenvolvimento?
Segundo o professor de ciência da computação Stuart Russell, da Universidade da Califórnia em Berkeley, se uma futura IA sair do controle e decidir que os humanos estão impedindo o alcance de seus objetivos, ela pode usar robôs para 'sintetizar e disseminar novos patógenos'. Além disso, ela é capaz de 'convencer as pessoas a iniciar uma guerra nuclear, incluindo hackear sistemas de alerta precoce', informou Russell à AFP.
Russell enfatizou que esses medos existenciais não se aplicam aos sistemas de IA atuais. No entanto, à medida que a tecnologia avança, ela pode tomar ações mortais incompreensíveis para nós, como remover oxigênio da atmosfera. Ele comparou isso ao fato de que chimpanzés provavelmente não conseguiriam dar respostas exaustivas à pergunta sobre como os humanos poderiam destruí-los.
Entretanto, Russell acrescentou que, no próximo ano ou dois, o risco é maior devido ao uso indevido por parte dos seres humanos, por exemplo, em um ataque terrorista usando IA.
O pesquisador de 27 anos, Jacob Coxon, anunciou sua saída da startup americana Anthropic, afirmando que as apostas são claras, mas a empresa 'está presa numa corrida para ser a primeira a atingir o objetivo'. Ele observou que a Anthropic acredita que ninguém mais agirá de forma responsável, então eles devem fazê-lo. Este ano, a Anthropic retirou de seus estatutos a promessa de suspender o desenvolvimento de modelos se não puder controlar seus riscos, alegando que a desaceleração unilateral levaria ao domínio de concorrentes menos cautelosos, tornando o setor menos seguro no geral.
Coxon, que trabalhou anteriormente na OpenAI, afirmou que os criadores de IA acreditam sinceramente que a tecnologia pode destruir a todos até o final desta década, acusando ambas as empresas de 'jogar com nossas vidas' na busca por modelos capazes de autoaperfeiçoamento.
As preocupações com a IA descontrolada aumentaram depois que a tecnologia da OpenAI, operando fora da supervisão humana, invadiu o Hugging Face, um repositório de modelos de IA. Evan Habinger, chefe de segurança da Anthropic, também expressou sua opinião no X, avaliando o risco em mais de 10% durante a próxima década.
Qual é o nível de burburinho sobre este tópico?
O professor de ciências computacionais Hussein Abbas, da UNSW Canberra, observou que as previsões percentuais pessimistas são 'absolutamente não científicas' e que a situação permanece gerenciável e sob controle. No entanto, ele pediu que os governos não fiquem inertes em relação à regulamentação da IA, insistindo em uma abordagem 'flexível' à medida que o desenvolvimento de IA acelera.
Espera-se que a Anthropic e a OpenAI sejam listadas em breve, e alguns céticos acreditam que os alertas assustadores dão à IA uma aparência de poder e atratividade para grandes investimentos. Outros acreditam que o foco no risco de extinção desvia a atenção de problemas mais urgentes causados pela IA, como perda de empregos ou discriminação de minorias por máquinas.
Em julho, mais de mil funcionários de empresas de tecnologia, incluindo o CEO da Anthropic, apelaram a Washington para apoiar uma desaceleração coordenada no desenvolvimento dos sistemas de IA mais avançados. A OpenAI suspendeu o treinamento de seus modelos mais recentes por duas semanas em agosto, reiniciando-o sob um controle mais rigoroso.
O que será necessário para a regulamentação?
Até agora, os Estados Unidos se opuseram à regulamentação global do setor, que poderia suprimir a inovação. No entanto, as capacidades sem precedentes de invasão dos modelos mais avançados fizeram Washington refletir, já que os lançamentos recentes da Anthropic e da OpenAI foram adiados devido a preocupações com a segurança nacional. Mesmo assim, o presidente Donald Trump declarou que 'não queremos restringi-los para acabar ficando em segundo lugar atrás da China'.
Russell sugeriu que, para que os governos comecem a agir, pode ser necessária uma catástrofe em grande escala do nível de Chernobyl, pedindo que implementem um regime de licenciamento para IA, semelhante ao existente na aviação, medicina ou abastecimento de água. Ele acrescentou que, em algum momento, os governos podem se lembrar de que seus eleitores preferem não morrer.