Durante os protestos do CJP e manifestações estudantis em Jantar Mantar, em Delhi, surgiram discussões sobre o uso de tecnologias de reconhecimento facial e questões de privacidade. A inteligência artificial (IA), que a polícia de Delhi está aplicando nos locais de demonstração, tem atraído atenção especial.
Tecnologia de Reconhecimento Facial
Vídeos circularam nas redes sociais mostrando caixas verdes aparecendo em telas de computador dentro de um furgão policial especial ao redor dos rostos das pessoas. Afirma-se que este é um sistema de reconhecimento facial baseado em IA, projetado para identificar pessoas em multidões. Isso gerou uma nova onda de controvérsias sobre vigilância, direitos civis e privacidade.
Funcionamento dos Servidores de Vigilância
De acordo com relatos, a polícia de Delhi instalou dois furgões de vigilância especializados perto de Jantar Mantar. Um deles é um veículo móvel de comando e controle que transmite vídeo ao vivo de câmeras de vigilância circundantes. O segundo furgão, chamado Ikshana, está equipado com software de reconhecimento facial baseado em IA. O fluxo de vídeo das câmeras entra neste sistema, onde a IA tenta identificar cada rosto. O sistema contorna cada silhueta com um quadro e, em seguida, a compara com o banco de dados policial. Ao detectar semelhança com uma pessoa no banco de dados, o sistema pode notificar a polícia.
Posição da Polícia de Delhi
A polícia de Delhi explica que o objetivo do uso desta tecnologia não é monitorar manifestantes comuns, mas sim encontrar criminosos, fugitivos ou pessoas contra as quais já existem processos. A polícia afirma que isso ajuda a manter a ordem pública e a tomar medidas em caso de violência. Após incidentes recentes de violência durante manifestações, a polícia declarou a possibilidade de identificar muitos suspeitos usando câmeras de IA e análise de vídeo.
Mecanismo de Identificação
O sistema de reconhecimento facial funciona convertendo características faciais, como olhos, nariz, lábios e estrutura facial, em dados digitais. Esses dados são então comparados com os dados já existentes no banco de dados. Se for detectada uma correspondência que exceda o limiar estabelecido, o sistema exibe a probabilidade de correspondência. No entanto, a decisão final é tomada por um ser humano. De acordo com o Indian Express, a polícia de Delhi informou anteriormente em resposta a um pedido RTI que considera o resultado positivo ao atingir uma correspondência de cerca de 80% ou mais.
Reação dos Participantes e Processo Judicial
Após a implementação desta tecnologia, alguns manifestantes começaram a participar de ações cobrindo seus rostos com roupas, máscaras ou cachecóis, temendo que sua identidade fosse registrada. Outros acreditam que as pessoas que realizam manifestações pacíficas não devem esconder sua identidade. Isso transformou o problema de puramente técnico para uma questão de privacidade pessoal. A questão chegou ao Tribunal Superior de Delhi. Na petição apresentada, alega-se que a gravação de vídeo constante e a vigilância baseada em IA podem violar os direitos fundamentais dos manifestantes. O tribunal solicitou respostas do governo central e da polícia de Delhi. Por sua vez, a polícia declarou ao tribunal que a gravação de vídeo é realizada exclusivamente para garantir a segurança e manter a ordem, e não para espionagem.
Expansão do Uso de IA
A polícia de Delhi tem aumentado o uso de tecnologias de IA há muitos anos. Furgões de vigilância móveis e câmeras de IA semelhantes foram usados durante a cúpula do G20. Agora, esses sistemas estão sendo aplicados em grandes comícios e em locais de aglomeração de pessoas. De acordo com o TOI, quatro blocos de sistemas de reconhecimento facial foram recentemente instalados na área de Jantar Mantar, que, segundo a polícia, são destinados à identificação de criminosos.