Especialistas do setor declararam que a Índia deve desenvolver sua própria estrutura para garantir a segurança da inteligência artificial (IA), que corresponda às suas especificidades linguísticas, escala e ecossistema orientado para a aplicação, em vez de simplesmente copiar o acordo voluntário assinado pelo presidente dos EUA, Donald Trump, e por grandes empresas de tecnologia na semana passada.
Eles também pediram a criação de obrigações que unam todas as partes interessadas e visem resolver riscos como deepfakes e ataques cibernéticos, apesar das divergências sobre a suficiência apenas de medidas voluntárias.
Esses comentários surgiram após a adoção do Acordo da Casa Branca sobre Superinteligência — um pacto voluntário de segurança de IA assinado em 29 de setembro por Trump e executivos de alto nível do Google, OpenAI, Anthropic, Meta, Nvidia e xAI de Elon Musk.
De acordo com este acordo, as empresas assumiram compromissos para implementar mecanismos internos de controle para monitorar seus modelos de IA, criar grupos de supervisão especializados, realizar auditorias externas independentes e garantir controle no nível do conselho de administração. Além disso, concordaram em se reunir regularmente para estabelecer padrões de segurança.
Shrikant Velamakanni, presidente da Nasscom e CEO da Fractal Group, observou que a Índia não deve copiar cegamente o modelo dos EUA. Em vez disso, deve usar os compromissos internos como base para alcançar uma compreensão global das questões de segurança de IA.
Velamakanni enfatizou: «À medida que os modelos se tornam mais capazes e agentes, damos-lhes maior acesso aos sistemas e maior autonomia para tomar decisões. A segurança da IA deve ser significativamente reforçada e deve antecipar as capacidades para prevenir riscos catastróficos».
Ele acrescentou que o acordo americano é em grande parte um apelo à autorregulação por parte das empresas que desenvolvem IA avançada. Em contraste, a União Europeia adotou uma abordagem obrigatória baseada em riscos, enquanto a China segue um modelo de governança estatal.
Segundo o presidente da Nasscom, a Índia pode usar seu papel na Parceria Global de IA (GPAI) e o impulso obtido pela realização da Cúpula de Influência de IA em fevereiro para evitar os piores cenários, sem privar os cidadãos indianos e do Sul Global do acesso a modelos avançados.
Soumen Mandal, analista sênior da Counterpoint Research, afirmou que a Índia não precisa copiar o modelo americano, mas pode se inspirar nele e acelerar os esforços para construir um ecossistema de IA robusto. Ele esclareceu que tal obrigação deve abranger testes de sistemas de IA antes da implantação, auditoria independente, relatórios de problemas graves e designação de responsáveis pelos riscos relacionados à IA.
Amit Khanna, sócio e líder de ecossistema de automação na Grant Thornton Bharat, acredita que qualquer obrigação deve corresponder às condições do mercado indiano. Ele observou que o foco da Índia está na criação de aplicações de IA, e não no desenvolvimento de grandes modelos básicos.
Khanna salientou: «O compromisso do setor na Índia deve garantir o funcionamento confiável da IA em idiomas locais e em contextos culturais únicos e não deve explorar a assimetria de conhecimento sobre IA na população».
Ganesh Gopalan, cofundador e CEO da Gnani.ai, declarou que qualquer estrutura deve garantir condições iguais. Ele insistiu que os modelos globais avançados devem obedecer às mesmas regras que os indianos, já que as empresas de IA indianas competem com empresas mundiais pelos mesmos clientes.
Os especialistas discordaram sobre se a autorregulação é suficiente. Velamakanni disse que «Abordagens voluntárias e autorregulatórias são necessárias, mas extremamente insuficientes». Ele citou exemplos de farmacêutica e aviação, onde reguladores fortes e tecnicamente competentes aumentaram a segurança e a confiança pública, sem parar a inovação.
Ele concluiu que a Índia precisa de regras obrigatórias em relação à transparência, relatórios de incidentes e responsabilidade em caso de danos graves. Ele também sugeriu fortalecer o IndiaAI Safety Institute para testar novos modelos, mas sem criar um gargalo exigindo certificação prévia de cada modelo.
Mandal apoiou uma abordagem híbrida. Regras obrigatórias devem ser aplicadas a potenciais danos nos setores de defesa, saúde, bancário e governamental, enquanto padrões voluntários devem cobrir áreas técnicas em rápida evolução onde os reguladores podem não ter experiência técnica.
Khanna também defendeu uma abordagem híbrida «tecnológica-legal», combinando um nível voluntário forte com mandatos obrigatórios, como disposições sobre informações sinteticamente geradas nas Regras de Emenda de TI de 2026. Ele observou que o cumprimento voluntário deixa lacunas significativas, especialmente em questões de direitos civis e segurança pública.
Gopalan, no entanto, preferiu a autorregulação. «A autorregulação voluntária é fundamental, dada a novidade da tecnologia. A existência de regulamentação obrigatória pode suprimir a concorrência e causar preocupações sobre tratamento preferencial por algumas empresas», declarou ele. Ele acrescentou que a Índia precisa de mais laboratórios de IA avançada para evitar a colonização, o que é inevitável se o país ficar para trás na corrida da IA.
O governo indiano está em processo de desenvolvimento de sua própria regulamentação de IA. Anteriormente este ano, o secretário de TI S Krishnaṇu observou que, embora as normas legais existentes sejam adequadas para resolver problemas iniciais, como deepfakes e conteúdo sintético, «pode ser necessária regulamentação ou lei adicional».
Ele acrescentou que «esta é uma conversa que começou, e meu ministro (ministro de TI Ashwini Vaishnaw) e eu dissemos anteriormente que consideraríamos a regulamentação de IA quando chegasse a hora, e parece que a hora chegou, e começaremos a considerá-la».
Vaishnaw também disse que a legislação de TI vigente foi desenvolvida muito antes do rápido surgimento da IA, e um novo arcabouço legal pode ser necessário para lidar com o cenário em mudança.
O setor concorda que qualquer pacto deve ir além apenas das empresas de IA. Velamakanni disse: «Não pode ser um acordo apenas entre empresas de IA». Ele enfatizou que os papéis do governo, desenvolvedores de modelos avançados, grandes usuários, incluindo empresas e instituições governamentais, círculos acadêmicos e pesquisadores independentes de segurança devem ser definidos. Trabalhadores, usuários e a sociedade civil devem ter canais oficiais para relatar danos.
Ele também acrescentou que as avaliações de segurança de modelos avançados devem ser realizadas por instituições de especialistas independentes e publicadas, exceto em casos específicos em que a divulgação cria uma ameaça à segurança.
Mandal considerou que o acordo deve unir todo o ecossistema de IA: desde empresas de IA e seus usuários comerciais até reguladores, universidades, pesquisadores, trabalhadores e usuários. Khanna argumentou que deve incluir estruturas governamentais e públicas que são grandes usuários de IA, bem como a sociedade civil, sindicatos de trabalhadores e empresas de tecnologia. Gopalan, por sua vez, pediu uma autorregulação mais ampla em todo o ecossistema de IA para garantir acesso imparcial a recursos computacionais limitados.
Velamakanni disse que a principal preocupação deve ser a prevenção de danos catastróficos e sistêmicos. Ele listou grandes ataques cibernéticos, interferência eleitoral, armas biológicas ou químicas, ataques à infraestrutura crítica e perda de controle sobre sistemas altamente autônomos. Danos pessoais, como deepfakes, fraude, falsificação de identidade, vazamentos de privacidade e automutilação, seguem esses.
Ele enfatizou: «A autonomia deve ficar atrás das garantias para fornecer uma margem de segurança. Como os sistemas de IA adquirem a capacidade de agir no mundo (usar ferramentas, mover dinheiro, alterar sistemas, tomar decisões importantes), as provas de sua segurança e gerenciabilidade devem crescer mais rapidamente do que a autonomia que lhes concedemos».
Gopalan observou que, dada a grande população e o sistema democrático da Índia, os problemas mais sérios são deepfakes e ataques cibernéticos direcionados a instituições financeiras.
Khanna também nomeou deepfakes como uma prioridade. Ele descreveu desinformação, deepfakes e manipulação política como «ameaças existenciais ao tecido social da Índia». Ele apontou que as regras de responsabilidade em caso de falha de sistemas de IA, como diagnóstico incorreto de pacientes ou negação errônea de benefícios, permanecem uma lacuna crítica.
Mandal colocou a auditoria independente em primeiro lugar, seguida por responsabilização, proteção de dados, deepfakes e impacto no emprego. Ele afirmou: «Sem testes e auditorias independentes, o sistema não será completo, pois as empresas às vezes podem negligenciar problemas relacionados à IA».