O regulador de telecomunicações da Índia, Trai, lançou na sexta-feira um projeto de estrutura para o uso responsável da inteligência artificial (IA). De acordo com este projeto, as organizações licenciadas que operam sob a Lei de Telégrafo ou o Ato de Telecomunicações devem ser responsáveis pelos resultados dos sistemas de IA que implementam, independentemente de onde esses sistemas foram desenvolvidos.
Este amplo projeto, apresentado para consulta, obriga as empresas a adotarem políticas de IA aprovadas pelo conselho de administração, a criarem comitês especiais de governança e segurança, e a reportarem ao regulador incidentes graves relacionados à IA. Os stakeholders têm a oportunidade de deixar comentários até 27 de novembro.
A consulta ocorre em meio à crescente integração da IA nas redes para aumentar a eficiência e nos serviços oferecidos aos consumidores. A Trai alerta que a implementação da IA pode criar novos riscos se não for realizada uma devida diligência antes do lançamento dos sistemas ou se houver supervisão insuficiente sobre o aprendizado autônomo e as interações do sistema.
O regulador observou que riscos como vieses não intencionais, que podem surgir em sistemas de IA durante o treinamento e uso, comportamentos indesejados dos modelos, como o desvio do modelo, e ataques adversários, podem afetar negativamente a resiliência da infraestrutura de telecomunicações, especialmente seus componentes críticos. Esses riscos podem ser mitigados através da adesão às práticas adequadas de governança de IA.
Provedores indianos de serviços de telecomunicações, incluindo Reliance Jio e Bharti Airtel, já utilizam IA em grande escala em seus sistemas, principalmente para identificação de clientes e prevenção de fraudes. Fabricantes globais de equipamentos de rede, como Nokia e Ericsson, também integram IA nas redes, o que é adotado pelas operadoras indianas.
As propostas da Trai incluem a exigência de que cada organização desenvolva uma política interna de IA, aprovada por seu conselho de administração ou órgão de gestão equivalente. Esta política deve abranger classificação de riscos, permissões de implantação, gerenciamento de incidentes, supervisão humana, gerenciamento de dados e resolução de reclamações de consumidores. Além disso, o regulador sugeriu que todos os sistemas de IA estejam sujeitos a controle humano apropriado para mitigar riscos de acordo com um mecanismo predefinido.
As empresas de telecomunicações e as organizações autorizadas que utilizam IA devem classificar seus sistemas em categorias de risco alto, médio e baixo, com base em sua importância para as operações de rede, resultados financeiros e operacionais, bem como potenciais consequências para os consumidores.
Um aspecto importante é que as propostas visam responsabilizar as organizações pelos resultados dos sistemas de IA implementados, «independentemente de os sistemas de IA terem sido desenvolvidos internamente, comprados/terceirizados por terceiros ou serem uma combinação dessas opções».
Incidentes relacionados à IA devem ser classificados em categorias de gravidade crítica, alta, moderada e baixa, sendo obrigatório o relato para incidentes de gravidade crítica e alta. O regulador indicou que «incidentes de IA de gravidade crítica e alta devem ser relatados à TRAI no formato, ordem e prazo prescritos». Embora o regulador não tenha especificado o que constitui nível crítico, alto ou baixo de gravidade, nem o prazo para notificação obrigatória, as empresas de telecomunicações também devem manter bancos de dados centralizados de incidentes de IA e reclamações de consumidores relacionadas a danos causados por IA, com mecanismos para investigação, mitigação e resolução.
