Alertas sérios sobre inteligência artificial agora vêm não apenas de críticos externos à indústria, mas também dos próprios desenvolvedores dessa tecnologia. Dario Amodei, diretor da Anthropic, alertou que o desenvolvimento de IA avançada talvez deva desacelerar, pois os sistemas de segurança e supervisão independente precisam de tempo para acompanhar o ritmo do desenvolvimento.
Outras figuras influentes, como Sam Altman (CEO da OpenAI), Demis Hassabis (CEO da DeepMind) e Elon Musk, também defendem o fortalecimento das medidas de proteção em torno dos sistemas cada vez mais capazes. Ao mesmo tempo, pesquisadores atuais e antigos de IA estão emitindo avisos cada vez mais severos sobre as possíveis consequências, à medida que os modelos se tornam mais autônomos.
Algumas declarações podem parecer exageradas. Alguns pesquisadores discutem sistemas que no futuro poderão se aprimorar sozinhos, funcionar com menor participação humana ou se tornar difíceis de controlar. Outros estão preocupados com os riscos já visíveis hoje, incluindo cibercrime com IA e agentes capazes de escrever código, usar ferramentas e executar tarefas multifásicas. Para o público em geral, todas essas preocupações se resumem à frase alarmante: risco de IA.
Alguns perigos já afetam residentes e empresas, enquanto outros surgem na vanguarda do desenvolvimento de IA. Os cenários mais graves permanecem hipotéticos. Essa distinção é muito importante nos Emirados Árabes Unidos, onde a inteligência artificial está sendo rapidamente implementada no setor público, nos negócios e na vida cotidiana.
A cibersegurança demonstra um dos exemplos mais claros de como o risco de IA se manifesta atualmente. Yassin Watlal, diretor sênior de engenharia de sistemas da CrowdStrike para Oriente Médio, Turquia e África, informou ao Khaleej Times que a IA já facilitou a realização de certos tipos de cibercrimes. Ele observou que 'a IA reduziu a barreira de entrada para muitos agressores', acrescentando que atores menos sofisticados agora podem fazer o que antes era inacessível ou exigiria muito tempo.
Isso não significa necessariamente que os criminosos estão inventando ataques totalmente novos. Em muitos casos, a IA apenas acelera e torna mais convincentes métodos antigos. Mensagens de phishing podem ser escritas em uma linguagem de melhor qualidade e adaptadas a uma pessoa ou país específico. A voz pode ser usada para imitar uma identidade, e o malware pode ser produzido mais rapidamente. As etapas após o acesso do invasor também podem ocorrer muito mais rapidamente.
Ao mesmo tempo, os invasores raramente precisam invadir sistemas se puderem roubar as credenciais de alguém que já tem permissão de acesso. Watlal enfatizou: 'Eles querem entrar no sistema, não invadi-lo'. De acordo com a CrowdStrike, o tempo médio que os cibercriminosos gastam desde a violação inicial até outras partes da organização diminuiu para 29 minutos em 2025, sendo o caso mais rápido registrado de apenas 27 segundos.
Para a equipe de segurança, essa redução de tempo é crucial. Um ataque pode começar a se espalhar pela rede antes que uma pessoa consiga investigar um primeiro alerta suspeito. Watlal explicou que a IA é usada por ambos os lados: os atacantes automatizam partes de suas operações, mas os defensores também estão cada vez mais dependendo da IA para investigar alertas e responder com velocidade semelhante.
Esta é uma das razões pelas quais os especialistas alertam contra considerar a segurança da IA apenas como um problema futuro relacionado a uma superinteligência hipotética. Alguns efeitos já são mensuráveis. O próximo nível de preocupação é mais difícil de ver. A maioria das pessoas teve seu primeiro contato com a IA generativa através de um chatbot: o usuário inseria uma solicitação, o modelo fornecia uma resposta e a interação terminava. No entanto, a indústria está dedicando cada vez mais atenção aos agentes.
Em vez de apenas dar uma resposta, um agente de IA pode receber um objetivo e ser autorizado a tomar várias etapas para alcançá-lo. Dependendo do sistema, isso pode incluir escrever código, procurar informações, chamar outro software, analisar arquivos ou realizar ações usando ferramentas externas. Isso gera um problema de segurança diferente. Um chatbot pode fornecer uma resposta incorreta, e isso acaba aí. Um agente, no entanto, pode potencialmente transformar uma decisão errônea em uma ação real.
Essa ambição não significa que a IA começará subitamente a tomar todas as decisões governamentais sozinha. Mas torna as questões sobre permissões, controle humano e segurança do sistema muito menos teóricas. Surgem questões práticas: a que um agente pode ter acesso? Que ações ele pode realizar sem solicitação humana? O que acontece se ele interpretar mal a tarefa? Quão rápido um humano pode pará-lo?
Essas questões estão se tornando cada vez mais relevantes para as empresas. Watlal afirmou que os negócios precisam pensar não apenas em proteger-se contra criminosos que usam IA, mas também em proteger seus próprios sistemas de IA implantados. Ele aconselhou: 'O que podemos delegar com segurança à IA e depois colocar restrições ao redor dela?' Isso se torna criticamente importante à medida que os sistemas de IA se conectam a dados corporativos, ferramentas internas e fluxos de trabalho automatizados.
Alguns pesquisadores de IA avançada estão preocupados com um futuro em que os sistemas se tornarão competentes o suficiente para contribuir significativamente para o desenvolvimento de seus sucessores. A IA já ajuda engenheiros a escrever código, analisar pesquisas e realizar parte do trabalho de criação de novos modelos. No entanto, a preocupação surge com o que acontecerá se essa ajuda se tornar significativamente mais autônoma e os sistemas começarem a acelerar o desenvolvimento de sistemas ainda mais poderosos. É aqui que começam os debates sobre autoaperfeiçoamento recursivo, superinteligência e perda de controle humano. Não há consenso científico sobre se esse processo ocorrerá, quando pode ocorrer ou se os futuros sistemas de IA se comportarão de forma catastrófica, como alguns pesquisadores temem.
É essa incerteza que divide a indústria. Um lado afirma que as consequências potenciais podem ser tão graves que esperar por provas será muito demorado. O outro lado adverte contra a desaceleração da tecnologia com enorme potencial econômico e científico devido a cenários que permanecem especulativos. Mesmo entre aqueles que concordam com a necessidade de medidas de proteção mais robustas, existem divergências sobre quão longe se deve ir.
Os apelos para 'desacelerar' o desenvolvimento de IA geralmente não significam desligar os sistemas existentes ou pedir às pessoas para parar de usá-los. As propostas discutidas incluem avaliações independentes mais rigorosas, aumento dos intervalos entre grandes saltos de capacidade, melhor testes antes do lançamento e maior coordenação entre laboratórios de ponta e regras mais claras sobre o que os sistemas altamente capazes podem fazer.
Para a maioria dos residentes, a reação imediata é muito menos dramática do que sugerem os alertas sobre o futuro da IA. As pessoas não precisam parar de usar a IA apenas porque os pesquisadores estão discutindo riscos de longo prazo. No entanto, os riscos atuais merecem atenção justamente porque são menos espetaculares. Fraudes com IA, imitação de identidade e ataques cibernéticos estão acontecendo agora. Watlal recomenda ativar a autenticação multifator em contas pessoais, verificar solicitações inesperadas por outro canal e hesitar antes de aprovar um login ou clicar em um link. Ele observa: 'Na vida, tudo acontece tão rápido que muitas vezes reagimos a algo sobre o qual depois nos arrependemos, ou aprovamos algo do qual depois nos arrependemos.'
Para os negócios, o problema vai além. Empresas que implementam agentes de IA precisam definir a que tipo de informação esses sistemas podem ter acesso, quais ações podem realizar e onde o humano deve permanecer. Watlal acredita que o papel humano permanece fundamental, especialmente em termos de julgamento, contexto e responsabilidade. Assim, o debate mais amplo sobre IA pode ser dividido em duas questões. A primeira já está aqui: como as pessoas podem se proteger de criminosos e organizações que usam IA cada vez mais capaz hoje? A segunda é muito mais complexa: que grau de independência a sociedade deve, em última análise, conceder aos próprios sistemas de IA? Os criadores desta tecnologia não chegaram a um consenso, mas mudou o fato de que alguns deles passam a acreditar cada vez mais que a sociedade deve começar a fazer essa pergunta antes do surgimento dos sistemas mais poderosos.