Um vídeo que alcançou mais de cem milhões de visualizações nas mídias sociais, mostrando um robô humanoide parecendo atacar indivíduos em um escritório na Indonésia, não representa uma rebelião da inteligência artificial (IA). De acordo com os responsáveis pelo equipamento, as imagens capturam um mero «mal-entendido» decorrente da execução de uma rotina que já estava previamente programada.
A filmagem foi disponibilizada no TikTok em 5 de julho pelo perfil Joko Prabuwesi, nome dado ao robô humanoide, e rapidamente se disseminou pela internet, levando muitos usuários a crerem que o dispositivo havia perdido o controle. Nas cenas, diversas pessoas são vistas tentando conter o robô enquanto ele executa movimentos similares a técnicas de artes marciais. Contudo, a equipe encarregada do humanoide assegura que toda a ação fazia parte de uma sequência de demonstração.
Os administradores do robô explicaram que, quando o equipamento foi ligado pela primeira vez, ele iniciou automaticamente uma rotina de artes marciais que havia sido configurada anteriormente. Essa sequência foi equivocadamente interpretada como um ataque, foi registrada e, subsequentemente, postada nas redes sociais.
Os responsáveis enfatizaram que todos os movimentos realizados pelo robô foram planejados de antemão e fazem parte de uma exibição projetada para demonstrar a agilidade, a velocidade e a capacidade de reação do aparelho. Este humanoide é um modelo G1, desenvolvido pela companhia chinesa Unitree, e possui a habilidade de executar manobras complexas, incluindo apresentações de artes marciais. O custo por unidade desse robô é de cerca de US$ 33 mil (equivalente a R$ 168 mil).
Após a grande repercussão do vídeo, o robô participou de um programa de televisão na Indonésia. Antes dessa aparição televisiva, ele publicou um vídeo no TikTok pedindo desculpas ao funcionário que supostamente teria sido «agredido». Durante sua participação na TV, o humanoide realizou uma dança e simulou uma luta.
A Mera Robotics, empresa polonesa responsável pela programação desses dispositivos, indicou que a vasta atenção nas redes sociais está alinhada à estratégia de promoção dos chamados «projetos de robôs sociais». Neste modelo de negócio, os clientes adquirem os robôs e recebem suporte da empresa para programá-los e transformá-los em influenciadores digitais. Os proprietários criam cenários visando gerar «visibilidade orgânica» nas plataformas sociais.
Um porta-voz da Mera Robotics declarou: «Um cliente ou parceiro local pode adquirir um robô e, em seguida, trabalhar conosco na integração do software, programação, desenvolvimento da personalidade, estratégia de conteúdo, treinamento e suporte técnico contínuo. O robô em si é apenas o hardware — o personagem, as interações e o sistema operacional exigem um processo separado de desenvolvimento e produção».
Além do robô atuante na Indonésia, a empresa mantém outros três humanoides em diversos países: Edward Warchocki, na Polônia; Amir, em Dubai; e Hudson, nos Estados Unidos. Todos esses robôs mantêm perfis próprios nas redes sociais e acumulam milhares de seguidores. Grande parte desses robôs é empregada em eventos públicos, demonstrações e campanhas de marketing.
No começo deste ano, Edward Warchocki também se tornou viral após ser filmado perseguindo javalis pelas ruas de Varsóvia, na Polônia. Conforme noticiado pela BBC, o vídeo ultrapassou 14 milhões de visualizações no Instagram e mostrava o humanoide «assustando» os animais que transitavam pela cidade. A reportagem da emissora britânica também ressaltou que a Polônia registrou mais de 100 incidentes de javalis contra pessoas no ano anterior.
Uma equipe internacional de especialistas criou um novo método capaz de identificar vídeos manipulados por inteligência artificial, conhecidos como deepfakes, atingindo uma taxa média de acerto superior a 95%.
Esta metodologia, desenvolvida por pesquisadores da Universidade de Tóquio, no Japão, e do Instituto Max Planck de Informática, na Alemanha, inova ao não focar em falhas visuais. Em vez disso, o sistema analisa se as expressões faciais apresentadas correspondem de maneira natural ao áudio falado pela pessoa.
Os pesquisadores relatam que este sistema conseguiu detectar manipulações que escaparam aos detectores já existentes, marcando um progresso significativo na criação de ferramentas mais eficientes contra conteúdos falsificados.
Os especialistas apontam que a IA generativa já produz imagens e vídeos quase indistinguíveis de gravações reais para o olho humano. Embora esta tecnologia possua usos benéficos, ela também aumenta os riscos de fraudes, roubo de identidade e disseminação de desinformação, tornando o desenvolvimento de métodos confiáveis para identificá-los uma prioridade na pesquisa de IA.
Os autores explicam que os detectores de deepfake mais precisos atuais geralmente usam aprendizado supervisionado, treinados com vastos bancos de dados de vídeos autênticos e adulterados. Contudo, este modelo pode sofrer de overfitting, aprendendo características específicas de certos métodos de falsificação e perdendo eficiência contra técnicas novas.
Em contraste, os métodos autossupervisionados treinam-se apenas com vídeos verdadeiros, sendo mais resistentes a novas tecnologias, mas tipicamente apresentando menor exatidão. A nova técnica proposta é a primeira abordagem autossupervisionada que consegue unir alta taxa de detecção com robustez, superando os métodos supervisionados vigentes.
Ao invés de buscar inconsistências em pixels ou outros artefatos visuais, o sistema concentra sua análise nos movimentos naturais do rosto. Ele utiliza o modelo FLAME, comum em animação facial e computação gráfica, que descreve expressões faciais através de 53 parâmetros matemáticos.
Durante o desenvolvimento, os pesquisadores pré-treinaram o modelo com mais de 450 horas de vídeos públicos. Com este material, o modelo aprendeu a antecipar quais movimentos faciais seriam naturalmente esperados a partir de uma trilha sonora específica. Após este treinamento inicial, o sistema pode ser personalizado para um indivíduo usando apenas cerca de 60 segundos de vídeo, funcionando como um detector personalizado de deepfakes.
Na fase de análise, o software compara os movimentos faciais observados no vídeo com aqueles previstos com base na fala. Diferenças notáveis entre esses dois conjuntos de dados são interpretadas como fortes sinais de manipulação. Vladislav Golyanik declarou que a união do aprendizado autossupervisionado com a análise facial baseada no FLAME confere à abordagem uma resistência especial contra novos métodos de geração de deepfake, além de distorções como ruído ou compressão de imagem.
Nos testes conduzidos pela equipe, o método alcançou uma precisão média acima de 95% em vários conjuntos de dados científicos de referência, superando o desempenho das técnicas consideradas de ponta. Um desafio considerável foi a avaliação em um conjunto de dados criado pelos próprios pesquisadores, contendo vídeos gerados pelo Sora 2, ferramenta de geração de vídeos da OpenAI.
Enquanto detectores anteriores apresentavam resultados próximos ao acaso, o novo sistema identificou corretamente quase 95% dos vídeos manipulados. Apesar desses avanços, os pesquisadores alertam que a tecnologia ainda tem limitações, pois requer um extenso pré-treinamento em hardware potente e, no momento, não opera em tempo real.
Na seção 'Seu Direito Digital' do Olhar Digital News, na quinta-feira, são discutidas questões jurídicas chave no setor de tecnologia. O consultor de privacidade e segurança Leandro Alvarenga aborda os principais temas legais e responde às perguntas dos leitores.
Surgiu a questão sobre os limites da aplicação da inteligência artificial no ambiente corporativo. Ex-funcionários da Meta apresentaram acusações contra a empresa, alegando que ela utiliza um sistema baseado em IA.
Essas acusações reativaram o debate sobre os limites legais e morais do uso de inteligência artificial nas empresas.
Vinte e nove estados assinaram um acordo em Xangai para a criação da Organização Mundial de Cooperação em Inteligência Artificial (WAICO). De acordo com os acordos alcançados, a WAICO se tornará uma organização intergovernamental internacional independente com sede em Xangai.
O acordo foi assinado por representantes de 29 países que se tornarão fundadores da WAICO. Entre esses países estavam Cazaquistão, Laos, Paquistão, Rússia e Indonésia. A assinatura do tratado foi realizada em nome do governo chinês pelo Ministro das Relações Exteriores Wang Yi.
O Secretário-Geral das Nações Unidas, António Guterres, além de representantes de outros países e organizações internacionais, esteve presente na cerimônia de assinatura. A organização compromete-se a seguir os objetivos da Carta da ONU, aderir aos princípios de ampla consulta e contribuição conjunta para o benefício comum, e ser orientada para o ser humano.
A principal tarefa da WAICO é promover a cooperação internacional e a governança global no campo da IA. O objetivo é garantir que o desenvolvimento da inteligência artificial seja seguro, justo e beneficie toda a humanidade, promovendo seu progresso saudável e ordenado.
