Um drone russo equipado com um chip Nvidia matou três civis durante um ataque realizado em julho na cidade de Zaporizhzhia, sudeste da Ucrânia. Isso foi relatado por especialistas em drones, comandantes militares ucranianos e um grupo médico-legal que investigou os destroços das armas e outros ataques na região.
Este caso chamou a atenção porque, segundo autoridades e especialistas entrevistados pelo The New York Times, o drone era operado por um sistema experimental de inteligência artificial (IA) sem intervenção humana na escolha do alvo final.
A vítima mais jovem foi Titana Bubinets, uma estudante universitária de 19 anos. Ela estava perto de um posto de gasolina quando um pequeno drone russo, semelhante ao modelo de avião, desceu do céu e tentou se aproximar do local. A aeronave colidiu com uma parede e explodiu, espalhando estilhaços que atingiram a jovem e outras pessoas.
Bubinets foi levada ao hospital, mas morreu. Os outros dois corpos, Oleksiy Svyryn, de 41 anos, e Roman Karpiy, de 48 anos, morreram mais tarde devido aos ferimentos sofridos.
Como a seleção de alvos ocorria
De acordo com especialistas e militares entrevistados pelo Times, os operadores humanos programaram o drone para se mover em direção a um posto de gasolina específico. No entanto, ao se aproximar, o aparelho supostamente escolheu o alvo exato — provavelmente tanques de propano — com base no treinamento que recebeu para reconhecer e atacar esses objetos.
Segundo as autoridades ucranianas, os módulos encontrados nos drones não estavam criptografados. Isso permitiu que os investigadores visualizassem as imagens da área carregadas no computador e verificassem como o drone usou referências visuais para seguir a rota.
Os investigadores também afirmaram ter analisado os códigos no equipamento, identificando os tipos de objetos que o drone foi treinado para reconhecer e atacar, incluindo tanques de propano.
Sistemas autônomos de IA podem ser treinados com milhares de imagens para reconhecer certas categorias, como rios, caminhões militares ou pessoas. Ao usar drones com função de seleção autônoma de alvos, as câmeras procuram esses elementos, e o sistema identifica aqueles que correspondem ao treinamento recebido. Essa tecnologia pode potencialmente proporcionar maior precisão do que a que um piloto humano pode alcançar em certas circunstâncias.
No entanto, críticos dessas armas apontam que a ausência de intervenção humana pode aumentar o risco de erros e violações das leis da guerra. O sistema pode não conseguir distinguir corretamente civis de combatentes ou interpretar mal um objeto no campo de batalha.
Primeiro caso documentado
Kateryna Bondar, pesquisadora sênior do Wadhwani AI Center no Center for Strategic and International Studies em Washington (EUA), afirmou que o ataque de 6 de julho é o primeiro caso documentado em que a morte de civis foi causada por um drone russo equipado com um sistema autônomo semelhante. Na opinião de Bondar, a presença do módulo Nvidia é a 'melhor prova' de que a Rússia estava experimentando com IA autônoma.
O conselheiro presidencial da Ucrânia, Volodymyr Zelensky, havia publicado anteriormente nas redes sociais informações de que a Rússia estava testando sistemas de IA capazes de escolher alvos autonomamente. No entanto, nada havia sido relatado anteriormente sobre mortes ou detalhes sobre o uso do módulo Nvidia.
Rússia e Ucrânia já haviam usado IA em vários modelos de drones antes do surgimento de sistemas totalmente autônomos. Em modelos anteriores, a IA era usada principalmente na chamada 'última milha' do ataque. Nesse cenário, um humano escolhe o alvo remotamente, e o sistema de IA assume o controle apenas na fase final para ajudar o drone a alcançá-lo.
Em sistemas totalmente autônomos, a escolha do alvo final também deixa de ser responsabilidade humana. Modelos mais antigos geralmente são controlados por operadores através de transmissores de rádio ou cabos de fibra óptica. Uma alternativa é o pré-programamento de coordenadas pelas quais o drone deve seguir.
Com a expansão do uso de drones no campo de batalha ucraniano, os pilotos se tornaram alvos importantes. Um drone controlado autonomamente por IA, por outro lado, não precisa de um piloto humano e pode ser mais preciso do que um projétil programado apenas para atingir coordenadas específicas.
Autoridades locais de defesa aérea afirmam que as forças russas estão visando objetos civis, como bombas de combustível e tanques de propano em postos de gasolina, durante testes de drones autônomos em Zaporizhzhia. Centros de recrutamento militar também poderiam ter sido usados como alvos, embora o motivo da escolha desses locais para testes não esteja claro.
Vadim Kushnikov, especialista em drones do Instituto Aéreo de Kharkiv, observou que o drone responsável pela morte de três civis era um 'instrumento pré-programado, treinado em realidade virtual para rastrear objetos específicos'.
O funcionamento disso difere do software tradicional. Enquanto programas comuns seguem regras estabelecidas passo a passo por humanos, os sistemas de IA desenvolvem suas próprias regras ao identificar padrões em grandes volumes de dados — um processo conhecido como aprendizado de máquina. Isso permite que o sistema lide com situações que não foram especificamente previstas por seus desenvolvedores, mas, ao mesmo tempo, significa que ninguém pode prever completamente seu comportamento.
Organizações de direitos humanos e o Comitê Internacional da Cruz Vermelha se opõem veementemente ao uso de armas de IA sem participação humana no processo de tomada de decisões. Segundo eles, os sistemas autônomos deixam a interpretação das regras internacionais para as máquinas ao determinar alvos legítimos em tempos de guerra. No entanto, alguns especialistas apoiam uma abordagem diferente, acreditando que as armas do futuro devem ser obrigatoriamente equipadas com sistemas de IA. Seu argumento é que tais armas poderiam ser mais seguras, pois são capazes de tomar decisões antes de atingir o alvo, mesmo que não sejam perfeitas. Projéteis sem mira e munições de artilharia convencionais, por outro lado, simplesmente seguem suas trajetórias, sem identificar o que atingem.
O drone envolvido no ataque fazia parte de um grupo de cerca de seis aeronaves, de acordo com o governador militar regional, comandante da defesa aérea da cidade e serviço de defesa aérea de plantão naquele dia. Nenhum dos drones emitia sinais de rádio. As aeronaves também apresentavam outros sinais relacionados aos testes russos de sistemas autônomos de IA, incluindo o lançamento em ondas.
Alguns drones com IA testados pelos russos explodiram ao atingir os alvos, enquanto outros não detonaram e permaneceram intactos, segundo as autoridades ucranianas. Militares ucranianos mostraram aos jornalistas do Times os destroços de dois desses drones. O jornal fotografou os módulos Nvidia encontrados dentro dos aparelhos e enviou as fotos à empresa. A Nvidia confirmou que as fotos mostravam o mini-computador Jetson Orin. Módulos desse tipo foram encontrados em vários modelos de armas russas. A Ucrânia também está realizando testes de sistemas de IA capazes de selecionar alvos. Mykhailo Fedorov, ministro da defesa recentemente demitido, declarou ao Times no final de julho que a Ucrânia havia testado um sistema de IA totalmente autônomo no Crimeia ocupado pela Rússia nos meses anteriores. De acordo com Fedorov, os dispositivos foram usados contra locais de armazenamento de combustível e equipamentos militares, e ele afirmou que não houve vítimas civis durante esses testes.
No ataque em Zaporizhzhia, os drones não tinham antenas para transmissão de dados de teste. No entanto, as forças russas frequentemente usam drones de reconhecimento capazes de registrar ataques. A cidade também é considerada pelas autoridades um local onde há espiões russos fornecendo avaliações de danos dos ataques. A ausência de antena por si só não prova que o drone pudesse escolher seus próprios alvos; o aparelho poderia ter sido programado para seguir uma rota definida, usando algoritmos semelhantes aos aplicados há décadas em sistemas de piloto automático de aviões. Nesse caso, o uso do chip Nvidia seria desnecessário.
Especialistas em defesa aérea da Ucrânia afirmam que a Rússia começou a realizar voos de teste com drones Molniya controlados por IA em maio. Molniya é um modelo de aeronave de asa de produção em massa. Os russos também começaram a testar sistemas de seleção autônoma de alvos no V2U, outro avião de asa, alguns meses antes. Parte dos testes do V2U foi direcionada apenas para o guiamento na 'última milha'. Zaporizhzhia fica a apenas 14,5 quilômetros da linha de frente. Alguns moradores entrevistados no local disseram que a possibilidade de os aparelhos pairarem sobre a cidade, tomando decisões de assassinato sozinhos, causa medo. No entanto, as cidades ucranianas são alvos de ataques há anos, e a vida da população mudou profundamente devido ao uso de drones menos complexos. Uma das respostas a essa ameaça são os interceptadores, que ainda são pilotados por homens e mulheres considerados heróis locais. Outra medida é a instalação de redes contra drones. Em Zaporizhzhia e arredores, elas cobrem cerca de 386 quilômetros de estradas. A camuflagem também é usada como mecanismo de defesa. Por exemplo, elementos plásticos são instalados ao redor de tanques de propano em postos de gasolina em ângulos incomuns, tentando confundir os sistemas de reconhecimento de imagem usados pela IA. Koronal Minaev, comandante da defesa aérea da cidade, falou sobre as forças russas: 'Eles estão treinando a tecnologia'. Ele acrescentou que a IA é boa, mas ainda não é perfeita. 'Eles procuram erros e os corrigirão.'