Usuários estão utilizando o ChatGPT para tarefas complexas, indo além da função de responder perguntas

À medida que o desenvolvimento de software acelera graças à inteligência artificial, o cenário da segurança cibernética também muda. Modelos avançados de IA, como o Mythos, são capazes de detectar vulnerabilidades com velocidade sem precedentes, enquanto agentes autônomos, código gerado por IA, incerteza geopolítica e a redução das janelas de tempo de ataque forçam as organizações a repensar os métodos de proteção de sistemas críticos.

Estes tópicos foram centrais no painel de discussão 'Resiliência Cibernética na Era Mythos: Movimento em Velocidade Máquina em um Mundo Digital Incerto', organizado pela Rubrik e pela YourStory Media em Bengaluru em 10 de julho de 2026.

Vários especialistas de diversos setores participaram da discussão, incluindo fintech, comércio eletrônico, logística, software corporativo e educação. Entre eles estavam Ananth Nag, vice-presidente APAC da Rubrik; Aditya Chandra, vice-presidente de engenharia de plataforma da MoEngage; Anshul Sharma, diretor de engenharia da Scaler; Apoorva Gaurav, vice-presidente sênior de engenharia da Clear; Arghya Mukherjee, chefe de IA e dados da Algonomy; Chidambaran Subramanian, diretor de tecnologia da InCred Financial; Gaurav Kapatia, chefe de engenharia da Newton School e Newton School of Technology; Karthikeyan Ramasamy, diretor sênior de engenharia da Freshworks; Mohan Devarapalli, chefe de engenharia da PayU; Navin Kumar, vice-presidente de engenharia da LeadSquared; Niraj Kumar, diretor de engenharia da Shadowfax; Prabod Goel, líder global de engenharia da Postman; Rishabh Chhajer, vice-presidente de TI e cibersegurança da Allen; Utkarsh Tiwari, chefe de engenharia de segurança (tecnologias em nuvem) da Meesho; e Vikas Roy, diretor de engenharia da Vahan.ai.

Os participantes discutiram os desafios enfrentados pelas empresas à medida que a IA é integrada aos produtos e operações. Embora as preocupações abrangessem a proteção de informações de identificação pessoal (PII), a segurança do código gerado por IA, o gerenciamento de agentes de IA e a minimização de riscos na cadeia de suprimentos, uma mensagem se destacou: a prevenção sozinha não é mais suficiente.

Como as organizações usam a IA para criar e lançar software mais rapidamente, elas simultaneamente geram novas ameaças de segurança. Os participantes apontaram ataques de 'prompt injection', código gerado por IA, identificadores não humanos, dependências de terceiros e ações de agentes de IA em nome de usuários como alguns dos problemas mais sérios que as empresas devem resolver.

Mukherjee enfatizou os riscos do uso de dados de clientes no treinamento de grandes modelos de linguagem (LLMs) e a necessidade de proteger sistemas de IA agentes. Kumar falou sobre a proteção de informações confidenciais de clientes e a prevenção de vazamento de dados entre inquilinos no LeadSquared, enquanto Ramasamy destacou o problema emergente do gerenciamento de identidades de IA não humanas. Outros discutiram a crescente necessidade de limites de IA mais robustos, observabilidade e governança, à medida que a IA se torna parte das atividades diárias dos negócios.

A própria velocidade de desenvolvimento de software cria um nível adicional de complexidade. Como afirmou Sharma, 'A IA expande a superfície de ataque mais rápido do que podemos protegê-la'. Embora os participantes concordassem que a IA acelerou o desenvolvimento e os experimentos, eles também notaram que essa mesma velocidade aumenta a probabilidade de surgirem vulnerabilidades que as organizações podem não notar ou entender imediatamente.

Vários participantes sugeriram usar a IA também como parte da estratégia defensiva. Roy explicou como a Vahan.ai aplica agentes de defesa e mecanismos de detecção baseados em IA, afirmando: 'Usamos IA para combater IA'. Ele reconheceu, no entanto, que a abordagem ainda está em desenvolvimento, pois os agentes de IA são frequentemente não determinísticos, o que dificulta seu teste e proteção pelos métodos tradicionais.

A Meesho concentrou-se na segurança do código gerado por IA desde o início. Tiwari observou: 'Começamos instalando limites no próprio agente codificador para que o código que ele escreve seja seguro por padrão'. Nag pediu enfaticamente ao grupo que fosse além da prevenção e considerasse o que acontece após uma violação. Ele citou incidentes recentes com Jaguar Land Rover e Marks & Spencer, observando que mesmo grandes organizações com programas de segurança desenvolvidos podem enfrentar interrupções prolongadas. Ele argumentou que as empresas tradicionalmente investiam pesadamente em prevenção, detecção e remediação, enquanto a resiliência — a capacidade de restaurar as operações de negócios — muitas vezes recebia menos atenção.

Os participantes concordaram que a conversa está mudando, pois os ataques cibernéticos são cada vez mais vistos como um fenômeno inevitável. Em vez da pergunta 'Podemos parar qualquer ataque?', as organizações estão começando a perguntar: 'Quão rápido podemos restaurar os sistemas se o ataque for bem-sucedido?'

Ramasamy rebateu que, embora a IA traga novos riscos, as organizações devem continuar a se apoiar nos princípios de segurança estabelecidos, incluindo arquitetura em camadas, acesso baseado em identidade, privilégios mínimos e limites robustos. Ele salientou que os agentes de IA devem ter acesso apenas a ferramentas e dados autorizados em nome de usuários verificados, limitando assim o potencial dano de uma violação.

Para Chandra, a resiliência também está ligada à cultura organizacional. Ele argumentou que muitas empresas ainda veem a cibersegurança como um exercício de conformidade, e não como uma disciplina de engenharia construída sobre monitoramento contínuo, detecção comportamental de ameaças e prontidão operacional. Ele acrescentou: 'As organizações indianas culturalmente não estão prontas. Muitas empresas fazem isso apenas para aparência, para cumprir formalidades, para marcar em uma auditoria de segurança. Não percebemos a profundidade do problema.'

A discussão voltou repetidamente a uma conclusão: em um mundo governado por IA, a prevenção de ataques continua sendo fundamental, mas a resiliência adquire igual importância. À medida que o desenvolvimento de software acelera e os ciclos de ataque continuam a diminuir, as organizações precisarão se preparar não apenas para proteger seus sistemas, mas também para se recuperar rapidamente em caso de falha dessas proteções.

Um tema constante da discussão foi a diferença entre recuperação de desastres e recuperação cibernética. A resolução de interrupções operacionais é relativamente simples, pois as organizações sabem que seus sistemas de backup permanecem intactos. Os participantes observaram que os ataques cibernéticos são fundamentalmente diferentes: os invasores podem comprometer tanto os sistemas de produção quanto os backups, deixando as organizações incertas sobre quais cópias de dados podem confiar.

Explicando essa diferença, Nag disse: 'Quando somos invadidos, não é recuperação operacional. Recuperação operacional é minha cópia que eu simplesmente preciso restaurar. Recuperação cibernética é eu ter uma cópia, mas eu não sei se essa cópia está infectada. Se estiver infectada, o que precisamos para nos recuperarmos?' Ele enfatizou que a verdadeira resiliência cibernética depende não apenas da manutenção de infraestrutura duplicada. As organizações precisam de ambientes de recuperação limpos e isolados e backups verificados que possam ser restaurados com confiança após um ataque.

Um participante compartilhou um caso em que um administrador de banco de dados insatisfeito excluiu intencionalmente bancos de dados críticos. A recuperação só foi possível porque a organização manteve várias cópias isoladas de seus dados. Essa experiência, observaram os participantes, reforçou o valor de backups constantes e protegidos e estratégias de recuperação claramente definidas, capazes de resistir a ataques externos e ameaças internas.

À medida que as empresas implantam mais agentes de IA, os participantes concordaram que as organizações devem começar a tratá-los como qualquer outro identificador digital — com permissões, monitoramento e responsabilidade definidos. Ataques de 'prompt injection', agentes errantes e gerenciamento de identidade para usuários não humanos tornaram-se alguns dos maiores problemas à medida que os sistemas de IA se tornam mais autônomos. Os palestrantes discutiram a importância de limites políticos, testes adversariais, sandboxes, gerenciamento de identidade e monitoramento contínuo para garantir o funcionamento seguro dos sistemas de IA. Embora nenhum sistema de segurança possa eliminar todos os riscos, os participantes concordaram que múltiplas camadas de proteção reduzem significativamente a probabilidade de comportamento inesperado da IA.

A discussão também abordou como o código gerado por IA está mudando o próprio desenvolvimento de software. Como as equipes de engenharia lançam código mais rapidamente, os desenvolvedores estão cada vez mais implementando software que podem não entender completamente, tornando o gerenciamento, a visibilidade e a verificação contínua mais importantes do que nunca.

Ao final da discussão, os participantes concordaram que a resiliência cibernética vai muito além da tecnologia. Muitas organizações ainda veem a cibersegurança como um requisito de conformidade, e não como uma oportunidade de negócio principal. Construir resiliência exige simulações regulares de incidentes, exercícios de recuperação e simulações de mesa para garantir que as equipes possam restaurar rapidamente as operações em caso de incidente. Os participantes também enfatizaram que a resiliência deve se tornar uma prioridade no nível do conselho de administração, e não permanecer exclusivamente responsabilidade das equipes de tecnologia e segurança. Eles argumentaram que o planejamento de recuperação deve ser visto como um investimento na continuidade dos negócios, e não apenas como outra iniciativa de segurança.

Ao longo de todo o painel de discussão, uma ideia persistiu: a IA acelera o desenvolvimento de software, mas também aumenta a velocidade e a complexidade das ameaças cibernéticas. À medida que as organizações integram a IA em produtos, engenharia e operações, elas também expandem o número de sistemas, identificadores e fluxos de trabalho que precisam ser protegidos. Para muitos presentes, isso muda a própria natureza da segurança cibernética. O objetivo não é mais supor que cada ataque pode ser prevenido. Em vez disso, as organizações devem estar preparadas para detectar ataques rapidamente, restaurar dados confiáveis, restaurar as operações de negócios e minimizar interrupções quando ocorrem violações. Em um cenário de ameaças impulsionado por IA, a resiliência deixa de ser um plano B; ela se torna uma parte integrante da estratégia de segurança cibernética.

O Governador do Banco da Reserva da Índia (RBI), Sanjay Malhotra, enfatizou que a inteligência artificial (IA) é uma ferramenta chave para combater fraudes baseadas em IA, pois os sistemas tradicionais baseados em regras não conseguem acompanhar os golpistas que se adaptam rapidamente. Ele disse isso durante a conferência FIBAC 2026 na terça-feira.

Malhotra afirmou que apenas a IA e o aprendizado de máquina podem detectar anomalias em tempo real, com base no aprendizado contínuo de padrões de transações, ao contrário de sistemas que só reagem após a ocorrência de perdas. Ele observou que hoje as fraudes ocorrem na velocidade de uma chamada de API.

A IA mudará o setor bancário

O governador também sugeriu que a IA pode se tornar tão significativa para esta década quanto a liberalização foi para os anos 90, e a digitalização para os anos 2010. Em seu discurso de abertura na FIBAC, Malhotra explicou que a implementação da IA exigirá que as instituições financeiras revisem suas abordagens de avaliação de riscos, atendimento ao cliente, precificação de capital e organização operacional.

Ele salientou que a IA representa uma mudança nos métodos de avaliação de riscos, atendimento ao cliente e organização das instituições, e observou que muitos bancos já estão tomando medidas nessa direção, enquanto outros estão considerando essa possibilidade.

Prioridades regulatórias do RBI

Malhotra informou que a política regulatória do RBI é guiada pelos princípios de estabilidade financeira, foco no cliente, simplificação dos negócios e redução de custos de intermediação. Ele esclareceu que sucessos foram alcançados em todas as três áreas no último ano.

Em termos de simplificação dos negócios, o RBI reduziu o fardo regulatório nos conselhos de administração e adotou uma abordagem mais principiológica. Foi tomada a decisão de delegar detalhes operacionais à gerência e unificar as instruções de supervisão, o que permitiu otimizar os processos de negócios. A maioria dos pedidos de órgãos reguladores e clientes agora é automatizada.

O RBI automatizou mais de 203 tipos de pedidos e garantiu a entrega de 99,9% dos serviços dentro do prazo. Além disso, as normas de fundos circulantes foram racionalizadas, a precificação de depósitos grandes foi revista e algumas permissões relacionadas a moeda estrangeira foram transferidas para corretores autorizados.

IA e infraestrutura digital da Índia

Malhotra observou que a IA é capaz de aumentar a eficiência e reduzir os custos operacionais. Ele comparou isso com como a codificação se tornou rotineira, dando lugar ao desenvolvimento da inteligência.

Ele declarou que a Índia está em boa posição para usar a IA devido à sua infraestrutura digital pública desenvolvida, incluindo Aadhaar, UPI e DigiLocker. Segundo ele, o país possui a infraestrutura digital pública mais avançada, e atualmente está sendo trabalhado na criação de um sistema agregador de crédito melhorado e unificado.

Malhotra acrescentou que o setor privado pode construir sobre esses bens públicos de IA, que potencialmente pode tornar o julgamento financeiro tão instantâneo, granular e acessível ao consumidor final quanto o UPI para transações financeiras.

Riscos para a acessibilidade financeira

Embora Malhotra acredite que a IA pode contribuir para a expansão da acessibilidade financeira, sua implementação também traz riscos. Com uso negligente, a IA pode reforçar novas formas de exclusão e instabilidade, com as quais reguladores e bancos terão dificuldade em lidar.

O RBI estabeleceu um comitê para o uso responsável da IA, que apresentou um relatório no ano passado e propôs diretrizes para a aplicação responsável e ética da IA. Malhotra explicou que este comitê delimitou claramente vários aspectos.

Além disso, ele observou que a IA pode mudar a economia de concessão de crédito, utilizando dados alternativos para avaliar camadas da sociedade que não possuem informações financeiras tradicionais. Modelos de IA baseados em dados alternativos podem expandir significativamente os limites da 'Índia creditícia'.

Malhotra também mencionou que a IA pode ajudar a reduzir os custos operacionais dos bancos, que atualmente representam 47-49% da receita.

O governador do banco central RBI, Sanjay Malhotra, declarou na terça-feira que os credores indianos precisam acelerar a implementação da inteligência artificial investindo em tecnologia e infraestrutura, além de treinar funcionários para aumentar suas qualificações.

No entanto, Malhotra alertou que o uso mais amplo da IA está associado a vários riscos, incluindo a tomada de decisões tendenciosas ou opacas, bem como ameaças à privacidade de dados e segurança cibernética. Ele acrescentou que a dependência de um pequeno número de modelos ou fornecedores de tecnologia pode potencialmente expor o sistema bancário a erros. Portanto, os bancos devem ser vigilantes ao trabalhar com contratados externos.

Em um evento do setor em Mumbai, Malhotra enfatizou: «Há muito em jogo. Os bancos que vencerem na era da IA não serão necessariamente aqueles que implementarem a IA mais rápido ou mais. Serão aqueles que a adotarem com total compreensão do que estão implantando».

Os comentários de Malhotra destacam o dilema crescente para o setor financeiro indiano: os bancos estão usando ativamente a IA para aumentar a eficiência, enquanto essa tecnologia cria vulnerabilidades e fornece ferramentas mais poderosas aos cibercriminosos. Esses riscos levam os políticos a insistir no fortalecimento das medidas de proteção e supervisão humana.

Além disso, Malhotra identificou a incerteza geopolítica e os riscos comerciais como problemas chave enfrentados pelo setor bancário indiano. Ele observou que os bancos estão «bem preparados» para enfrentar esses desafios, citando o crescimento sustentado do crédito, baixo nível de inadimplência, liquidez saudável e lucratividade.

Ele também afirmou que a economia indiana sairá das dificuldades atuais «mais forte», apontando para o crescimento sustentado, inflação contida e reservas cambiais suficientes. Malhotra concluiu que «todas essas coisas prometem algo muito bom».