Deepfakes e vídeos criados com inteligência artificial estão se espalhando rapidamente nas redes sociais, dificultando a distinção entre conteúdo autêntico e fabricado. Existe o risco de que imagens ou vídeos possam mostrar figuras públicas ou pessoas comuns dizendo coisas que nunca disseram, e tais materiais podem ser deepfakes. O governo expressa preocupação constante com isso, apesar de declarações anteriores sobre a necessidade de endurecer as medidas, pois as empresas de tecnologia ainda não reagiram.
Atualmente, vídeos criados por IA não possuem rotulagem de conteúdo sintético, e as plataformas não removem esse tipo de conteúdo em até três horas.
Alterações nas regras de TI a partir de 10 de fevereiro de 2026
De acordo com o último comunicado de imprensa do PIB, o Ministério da Eletrônica e Tecnologia da Informação (MeitY) anunciou alterações nas Regras de TIC, que entraram em vigor em 10 de fevereiro de 2026. Estas emendas visam restringir a disseminação de deepfakes e outros conteúdos sintéticos criados por IA. O objetivo do governo é garantir a segurança, confiabilidade e responsabilidade da internet.
Anteriormente, o governo estabelecia diretrizes rigorosas sobre conteúdo deepfake, mas elas não eram aplicadas na prática. A principal novidade é a obrigatoriedade de exibir uma rotulagem clara no conteúdo gerado por IA. Isso significa que a plataforma deve indicar se uma foto, vídeo ou áudio foi gerado por IA. Além disso, tal conteúdo deve conter metadados rastreáveis para identificação posterior.
Redução dos prazos para remoção de conteúdo ilegal
O governo reduziu significativamente os prazos para a remoção de conteúdo ilegal. Anteriormente, as redes sociais tinham 36 horas após receber uma ordem judicial ou governamental para remover tal conteúdo. Agora, esse prazo foi reduzido para apenas três horas. O procedimento de análise de reclamações também foi simplificado, exigindo ações mais rápidas em casos críticos, como conteúdo de nudez, falsificação de identidade ou deepfakes.
As novas regras obrigam as empresas de mídia social a implementar sistemas técnicos capazes de reconhecer conteúdo ilegal criado por IA e prevenir sua disseminação. Grandes redes sociais devem usar ferramentas automatizadas para detecção precoce desse tipo de conteúdo.
Aplicação de medidas contra conteúdo gerado por IA
O governo declarou claramente a necessidade de ação imediata em relação a conteúdo relacionado à exploração sexual infantil, criação de imagens ou vídeos de privacidade sem permissão, geração de conteúdo falso sob outra identidade e qualquer outro conteúdo prejudicial criado por IA. A responsabilidade pela bloqueio e remoção desse material recai sobre as plataformas.
Se uma empresa de mídia social não cumprir essas normas, ela pode perder a proteção de «porto seguro» de acordo com a Seção 79 da Lei de TIC, o que acarretará processo legal contra a empresa nesses casos. O governo também enfatizou que a Lei de TIC de 2000 e o Código Penal Indiano (BNS) já contêm disposições relativas a roubo de identidade, fraude, engano sob outra identidade, disseminação de informações falsas, conteúdo pornográfico e crimes online, e essas leis podem ser aplicadas a casos de deepfakes.
