Ministério de Eletrônica e Tecnologia da Informação apresenta guia DEPA para troca segura de dados no treinamento de IA

O Conselho de Segurança de Dados da Índia (DSCI) lançou um guia setorial sobre responsabilidade por inteligência artificial, focado na Índia, referente à IA agente. Este documento pode ajudar significativamente a determinar quem é responsável se um agente sair do controle ou violar suas obrigações.

Em vez de propor novos padrões, este guia esclarece como as doutrinas obrigatórias existentes se aplicam aos sistemas autônomos de IA de vários fornecedores e mostra onde exatamente reside a responsabilidade ao longo de toda a cadeia de valor que leva a IA ao uso.

Ele aborda os casos de uso da IA agente, os tipos de impacto e os riscos que esses sistemas podem criar, bem como os fatores que determinam a responsabilização. Além disso, o documento explica por que uma abordagem proporcional e claramente distribuída para governança, supervisão e responsabilidade é importante para a Índia, a fim de orientar a indústria de usuários e acelerar a adoção responsável de IA.

O relatório observa que a determinação da responsabilidade desempenhará um papel importante dependendo de onde os modelos estão hospedados, bem como quem os possui e controla. A escolha da hospedagem distribui a responsabilidade de maneira diferente. A arquitetura e a escolha da hospedagem determinam se a responsabilidade será distribuída por toda a cadeia de valor ou concentrada dentro da empresa, o que gera o paradoxo central da implantação de IA em ambientes corporativos.

O controle da arquitetura e a propriedade dos espaços de decisão eliminam o escudo externo de responsabilidade, e, provavelmente, as empresas se tornarão os principais proprietários legais tanto da infraestrutura quanto do comportamento do agente.

A responsabilidade, essencialmente, recai sobre cinco grupos que utilizam a IA: organizações usuárias, fornecedores de serviços e integradores, empresas de produtos e startups, fornecedores de ferramentas e frameworks, fornecedores de soluções de nuvem e infraestrutura, e fornecedores de modelos.

O guia adverte contra considerar a responsabilidade como uma escolha binária entre a organização usuária final e os participantes da cadeia de valor. Eles alertam que apresentar essa escolha como um 'ou' ou outro entre o usuário final e o participante superior da cadeia de valor será juridicamente incorreto, tecnicamente impreciso, comercialmente paralisante e minará as condições de igualdade de jogo.

Além disso, o relatório indica que a IA penetra nas empresas por vários caminhos, como navegadores, copilotos, IA generativa em software corporativo, bem como modelos e ferramentas de IA. Cada um desses caminhos carrega sua própria questão de responsabilidade, portanto, cada caminho requer atenção e estudo cuidadoso. Riscos desconhecidos ou não identificados podem levar a empresa a ser responsabilizada sem ter a capacidade de tomar medidas.

Apesar de a inteligência artificial ser capaz de gerar código com velocidade sem precedentes, o processo de seu teste, verificação e implantação no ambiente de produção representa um desafio complexo separado. As equipes de engenharia estão cada vez mais utilizando agentes de IA para escrever código, corrigir erros e criar novas funcionalidades, mas acelerar a codificação não garante a aceleração da entrega de software.

À medida que a geração de código ganha força, o número de verificações aumenta, os testes desaceleram e as equipes têm dificuldade em coordenar o volume crescente de mudanças.

Na conferência TechSparks 2026, Tushar Mathur, CEO da Forge Code, abordou este problema em sua sessão 'Anatomia da Fábrica de Software'. Ele explicou como as organizações de engenharia orientadas por IA podem ir além da automação de tarefas individuais de codificação e começar a criar sistemas que gerenciam todo o ciclo de vida de desenvolvimento de software (SDLC).

Mathur observou que o fato de a geração de código ter se tornado mais fácil e rápida não significa que o SDLC geral será acelerado. Ele lembrou que a abordagem tradicional de desenvolvimento focava na escrita eficiente de código, exigindo que as equipes definissem requisitos, preparassem especificações e projetassem arquiteturas para reduzir a carga na fase de implementação.

No entanto, como a IA assume grande parte do trabalho de codificação, os gargalos mudam para outras áreas. Mathur descreveu uma situação em que as organizações enfrentam um enorme número de solicitações de mesclagem (pull requests) aguardando revisão, ciclos de teste mais longos e mais erros do que os conjuntos de regressão existentes conseguem detectar.

Ele enfatizou que a solução para o problema não reside necessariamente em contratar mais engenheiros ou lançar mais agentes de IA. Funcionários adicionais podem aumentar os custos de coordenação, e adicionar agentes sem mecanismos eficazes de feedback pode levar à criação de código que sobrecarrega os sistemas de verificação e teste.

'A razão para isso é a ausência de sinal', explicou Mathur, ao explicar por que simplesmente conectar etapas automatizadas não cria uma fábrica de software eficaz.

Mathur apresentou a Forge Code como uma fábrica de software que coordena agentes de IA durante todo o ciclo de desenvolvimento. O processo começa com a triagem de solicitações, criação de especificações e implementação de funcionalidades. Em seguida, os agentes verificam as alterações antes que sejam implantadas, com intervenção de engenheiros humanos quando são necessárias decisões ou feedback.

O sistema também monitora em ambiente de produção, usando os dados coletados para informar tarefas futuras. Isso forma um ciclo de feedback, permitindo que a fábrica identifique problemas, aprimore seus fluxos de trabalho e gere novo trabalho com base na experiência adquirida. Durante a apresentação, Mathur relatou que a Forge Code utilizou cerca de 100 agentes em segundo plano para trabalhar em funcionalidades, compatibilidade e detecção de erros.

Ele delineou seis princípios para criar uma fábrica de software eficaz: operação autônoma, escalabilidade, eficiência econômica, mensurabilidade, autoaperfeiçoamento e alinhamento com objetivos de negócios. O último princípio é particularmente importante.

A fábrica deve operar não como uma tarefa de codificação para cada solicitação, mas sim ser direcionada ao alcance de resultados específicos, como aumento da retenção de clientes ou conformidade regulatória. As equipes podem então priorizar funcionalidades com base no valor que elas agregam. Neste modelo, os engenheiros gastam menos tempo gerenciando cada tarefa e mais tempo observando os resultados, analisando sinais e melhorando o próprio sistema. Os líderes de negócios também podem fornecer solicitações e prioridades diretamente, permitindo que a fábrica transforme objetivos organizacionais em um backlog de desenvolvimento.

A velocidade de codificação é boa, mas criar software melhor é a verdadeira vitória. Para as equipes de engenharia, a chave é transformar a velocidade fornecida pela IA em produtos confiáveis, progresso mensurável e resultados de negócios reais.

Nos últimos anos, o desenvolvimento da inteligência artificial foi percebido como uma corrida tecnológica, onde após cada lançamento surgiam novas comparações, tabelas de benchmarks e previsões sobre qual empresa estava se aproximando da liderança na próxima grande transformação digital. Muitas vezes, parecia que todo o debate se resumia a uma única questão: qual modelo é o melhor no momento?

No entanto, após uma recente imersão no Vale do Silício, o autor teve a sensação de que essa questão, embora ainda relevante, não é mais central. Parte desse entendimento está ligada ao fato de ele ter visitado o Vale do Silício quase dez anos após sua primeira visita.

Há algo interessante em mergulhar em um ecossistema que reúne algumas das empresas, investidores e universidades mais influentes do mundo. Assim como ao viajar para qualquer cultura, começamos a absorver as características locais; nos EUA, especialmente na Califórnia, você inevitavelmente fica sob a influência da velocidade dos lançamentos, do consumo de tecnologia e da constante sensação de que o futuro está sendo construído ali.

Algo semelhante acontece no Vale do Silício: existe uma tendência natural de focar em tópicos dominantes nas conversas regionais e considerá-los um reflexo exato dos anos vindouros. Isso muitas vezes tem fundamento, pois muitas mudanças tecnológicas significativas das últimas décadas ocorreram lá antes de atingir o resto do mundo.

Mas qualquer ambiente altamente conectado carrega um risco: o risco de misturar consenso com certeza absoluta. Foi isso que atraiu mais atenção durante a viagem.

Ao contrário da maior parte dos debates públicos sobre IA, poucas conversas giraram em torno da competição entre modelos ou da busca pelo próximo salto tecnológico capaz de mudar o mercado. O tema mais frequente foi como a inteligência artificial está sendo integrada aos produtos, processos e operações das organizações, e não a qual laboratório pertence o sistema mais avançado no momento.

Essa mudança de foco manifestou-se de diferentes maneiras ao longo da semana. Discussões com executivos da Snowflake e Elementum, por exemplo, não abordaram qual modelo ocupa as primeiras posições nos rankings ou qual empresa lançará a próxima grande novidade. A discussão centrou-se na transformação do software corporativo. O consenso foi que estamos entrando em uma fase em que agentes inteligentes começam a interagir diretamente com grandes volumes de dados, realizando tarefas que anteriormente exigiam navegação manual em sistemas, análise de relatórios e tomada de várias decisões operacionais por parte de um ser humano.

Por décadas, a maior parte do software corporativo foi criada para organizar informações e facilitar o trabalho humano. Agora, há a expectativa de que esses sistemas comecem não apenas a apresentar informações, mas também a agir com base nelas. Este pode ser um dos mudanças mais importantes causadas pela IA. O impacto não reside apenas na tecnologia em si, mas em como as empresas começam a funcionar. Pela primeira vez em muitos anos, a discussão parece menos ligada à ferramenta utilizada e mais à capacidade de transformar dados em ações de forma rápida, integrada e eficiente.

Ao mesmo tempo, algumas visitas mostraram que nem todos seguem o mesmo caminho absoluto. Por exemplo, na Liquid AI, surgiu um ponto de vista que contrasta com a maioria dos narrativas populares no setor. Enquanto grande parte da indústria continua apostando em modelos cada vez maiores e infraestrutura cada vez mais poderosa, esta empresa desenvolve sistemas mais compactos destinados a operar localmente em dispositivos como telefones celulares, veículos e equipamentos de bordo.

O interesse nessa concepção não reside apenas na tecnologia em si. Ela lembra que a inovação não ocorre em uma única direção. Existe uma tendência natural de associar o progresso tecnológico ao aumento da capacidade computacional, investimentos e tamanho dos modelos. No entanto, em muitos casos, a tarefa é exatamente o oposto: criar soluções mais eficientes, acessíveis e facilmente integráveis na vida cotidiana das pessoas e dos negócios.

Talvez este tenha sido um dos principais aprendizados da viagem. Quando olhamos para o mercado de IA de longe, parece haver uma única corrida. Mas quando olhamos de perto, percebemos que várias corridas diferentes estão acontecendo simultaneamente. Existem grandes modelos generativos; existem sistemas especializados; existem aplicativos multimodais que combinam texto, imagem, áudio e vídeo; existem soluções corporativas desenvolvidas para resolver problemas muito específicos; e há empresas que apostam em tornar tudo isso mais leve e distribuído.

Portanto, a ideia de que o mercado caminhará em direção a uma única tecnologia dominante torna-se cada vez menos provável. Desenha-se um cenário de coexistência de diferentes abordagens, cada uma adequada a contextos, restrições e necessidades específicas.

Essa mudança também altera a abordagem das organizações na adoção de estratégias tecnológicas. Por muito tempo, a lógica era relativamente simples: encontrar a melhor ferramenta disponível e implementá-la. Com o advento da IA, a equação inclui várias outras variáveis. Questões de integração, governança, privacidade, velocidade de implementação, custos operacionais e conformidade com o negócio tornam-se tão importantes quanto a complexidade da tecnologia escolhida.

Na prática, uma empresa pode obter muito mais valor de uma solução simples e bem integrada em seus processos do que do uso de uma tecnologia extremamente avançada isoladamente. Talvez seja por isso que a discussão sobre implementação esteja ocupando mais espaço do que a discussão sobre capacidades.

Outro aspecto que chamou a atenção foi a frequência com que as conversas tecnológicas se transformavam em conversas sobre pessoas. Isso foi particularmente evidente durante a visita ao Stanford. Embora a universidade esteja em um dos ecossistemas de IA mais avançados do mundo, grande parte das discussões ainda se concentra em temas como educação, formação de talentos, formação de cultura organizacional e desenvolvimento de liderança.

Isso não parece coincidência. A história do Vale do Silício nunca foi exclusivamente uma história de tecnologia. Sempre esteve profundamente ligada à capacidade de transformar conhecimento em inovação. As ferramentas mudam. As plataformas mudam. As empresas surgem e desaparecem. Mas a preparação de pessoas capazes de aprender, adaptar e criar permanece um elemento constante.

Este ponto se torna ainda mais relevante à medida que a IA se torna acessível a um número crescente de organizações. O acesso à tecnologia, naturalmente, tende à democratização. O conhecimento de como usá-la estrategicamente, no entanto, permanece uma vantagem difícil de replicar.

A implementação sequencial da IA exige muito mais do que apenas contratar uma plataforma ou fornecer novos recursos às equipes. Requer a reformulação de processos, o desenvolvimento de competências, a revisão de fluxos de trabalho, a criação de mecanismos de supervisão e a preparação das pessoas para trabalhar em um ambiente onde parte da análise, decisão e execução é suportada por sistemas inteligentes.

Portanto, a principal conclusão que o autor tirou dessa experiência não está relacionada a qual empresa liderará a corrida da IA ou qual modelo se tornará o padrão nos próximos anos. A sensação é de que estamos deixando a fase em que o centro da discussão era a tecnologia isolada e entrando em uma fase muito mais orientada para a aplicação prática. A próxima fase da IA não será definida por um único modelo revolucionário que substitui todos os outros. Ela será construída sobre uma combinação de diversas tecnologias, na capacidade de integrá-las nos processos existentes e, o mais importante, na habilidade das organizações de transformar essas capacidades em resultados tangíveis.

Em última análise, a inteligência artificial continua sendo um tópico tecnológico. Mas após tantas conversas durante a viagem, é difícil não chegar à conclusão de que ela está se tornando cada vez mais uma discussão sobre estratégia, execução e adaptação organizacional. Talvez seja por isso que a questão mais importante não seja mais quem possui a IA mais avançada. A questão que parece estar ganhando cada vez mais importância é outra: quem conseguirá utilizá-la melhor.