Apesar do enorme entusiasmo em todo o mundo em relação à inteligência artificial (IA), paralelamente cresce o debate sobre os riscos associados a ela. O cofundador da Microsoft, Bill Gates, emitiu um sério aviso sobre a IA, o que acentuou ainda mais este debate.
Gates afirmou que a IA se tornou tão poderosa que seu uso incorreto pode levar a consequências catastróficas, incluindo a morte de até um bilhão de pessoas. No entanto, Gates esclareceu que não afirma que a IA necessariamente causará esse número de mortes; ele acredita que as capacidades existentes e futuras da IA podem ser usadas para causar danos em grande escala por partes mal-intencionadas.
Durante uma conversa com Christine Welker no programa NBC Meet the Press, Gates foi questionado sobre se a IA é capaz de destruir a humanidade. Ele respondeu que a IA definitivamente possui poder suficiente para desencadear eventos que possam levar à morte de um bilhão de pessoas.
No entanto, a preocupação de Gates não se limita a cenários de filmes onde robôs de IA se opõem aos humanos. Sua principal apreensão reside no fato de que os próprios seres humanos podem usar a IA para cometer atos destrutivos. Ele destacou especificamente as ameaças relacionadas a ataques cibernéticos e bioterrorismo. Na sua opinião, a IA pode ser usada em ataques cibernéticos capazes de paralisar serviços vitais, como hospitais ou redes elétricas.
Assim, o perigo não reside no fato de a IA decidir subitamente atacar os humanos por conta própria. A questão principal é quão rápido e em que escala as poderosas ferramentas de IA podem ser usadas por pessoas mal-intencionadas.
O aviso de Gates veio em um momento em que vozes dentro das próprias empresas de IA também levantavam preocupações sobre os riscos associados a esta área. Por exemplo, Jared Amodi, CEO da Anthropic, também falou sobre os riscos de ataques cibernéticos e bioterrorismo relacionados ao uso indevido da IA. Recentemente, algumas figuras proeminentes da indústria de IA discutiram a necessidade de sistemas de segurança e regulamentações mais robustos.
O aspecto mais interessante de todo este debate é que as próprias empresas que desenvolvem IA agora enfrentam a questão da suficiência de depender apenas de suas políticas internas de segurança. Gates acredita que a autorregulação, ou seja, a criação de regras pelas empresas para si mesmas, é insuficiente. Em sua opinião, governos, agências de aplicação da lei e líderes também devem definir quais regras de monitoramento e segurança são necessárias para a IA.
Gates não é categoricamente contra a IA. Este é o segundo lado igualmente interessante desta situação. Ele acredita que a IA pode trazer enormes mudanças no futuro em áreas como tratamento de doenças, educação e agricultura. Sua preocupação não está em interromper o uso da IA, mas sim em controlar sua velocidade para que as pessoas tenham tempo de reagir antes que ocorra um dano irreparável.
Grandes corporações de tecnologia do mundo estão avançando rapidamente na corrida da IA entre a América e a China. Nesse cenário, surge a questão de se a busca por maior segurança irá desacelerar o ritmo do desenvolvimento da IA. Gates argumenta que as medidas de segurança necessárias não devem parar completamente o progresso da IA. Ele apresenta exemplos de sistemas de monitoramento que poderiam detectar se a IA está sendo usada para ataques cibernéticos ou bioterrorismo, e enfatiza que isso não requer a paralisação total do desenvolvimento de IA.
Talvez a verdadeira ameaça não venha da própria IA, mas do ser humano. A IA em si não tem intenções humanas, mas pode amplificar exponencialmente as capacidades humanas. Se esse poder cair nas mãos de uma pessoa mal-intencionada, organização criminosa ou rede perigosa, o nível de dano pode ser muito maior do que com o uso de tecnologias modernas. A declaração de Bill Gates sobre 'um bilhão de mortes' aponta precisamente para essa questão fundamental, representando não uma previsão, mas um aviso sobre o potencial dano do uso indevido da IA. À medida que a IA se torna cada vez mais poderosa, este debate transcende as empresas de tecnologia e se torna global.