Google utiliza IA do DeepMind para analisar código do Signal em busca de falhas de segurança

A Anthropic está desenvolvendo uma tecnologia chamada FlashProve, projetada para permitir a verificação de se uma resposta foi gerada pelo modelo de inteligência artificial (IA) que uma empresa alega estar utilizando. Este sistema emprega criptografia para gerar um tipo de comprovante matemático que atesta a identidade do modelo responsável por uma determinada saída.

A principal finalidade desta proposta é oferecer aos usuários a capacidade de confirmar se estão interagindo com a IA anunciada pelo provedor, e não com uma versão inferior ou distinta. De acordo com a Anthropic, este mecanismo também pode dificultar que as empresas troquem secretamente seus modelos por opções mais econômicas ou apresentem métricas de desempenho que não condizem com a tecnologia real empregada.

O projeto foi divulgado em uma publicação da companhia na terça-feira (3). Além disso, a empresa tornou disponível uma especificação técnica e partes do código em formato aberto, convidando outros pesquisadores a analisar e melhorar a iniciativa.

Um dos problemas centrais que o FlashProve busca resolver é a situação em que um fornecedor apresenta um modelo aos clientes, mas opera com outro durante o uso do serviço. Por exemplo, uma organização poderia anunciar o acesso a uma IA avançada, mas substituí-la por uma alternativa de menor custo para reduzir despesas. O mecanismo também ajudaria a prevenir casos em que uma companhia utiliza um modelo diferente daquele que declarou ter usado ao comprovar algum resultado.

As aplicações dessa verificação vão além dos serviços diretos das empresas de IA. Pesquisadores citam como exemplo um desenvolvedor que afirma ter usado um modelo avançado de cibersegurança para inspecionar uma biblioteca de software em busca de falhas. Outra aplicação potencial seria uma empresa declarar que seu plano de negócios obteve aprovação de uma IA adequada para aquela tarefa.

Com o FlashProve, seria possível realizar uma checagem criptográfica para confirmar se o modelo anunciado foi efetivamente utilizado nesses processos. Apesar da divulgação pública, o FlashProve permanece como um projeto de pesquisa. A Anthropic liberou uma especificação técnica detalhada e código funcional de diversos componentes sob uma licença de código aberto, permitindo que a comunidade os examine e contribua para o aprimoramento do sistema.

A companhia, contudo, não comunicou planos para integrar essa tecnologia em seus próprios serviços ou em outras plataformas de IA. Os pesquisadores esclareceram que a publicação atual representa um estágio intermediário do trabalho, e não a conclusão de todo o plano de pesquisa. A intenção é possibilitar que outras equipes avaliem a proposta, utilizem seus componentes e ajudem a refinar a ferramenta.

O Google obteve sucesso ao rodar um modelo de inteligência artificial (IA) em um satélite, recebendo uma resposta gerada fora da Terra. Este ensaio marca um progresso experimental do Project Suncatcher, uma iniciativa da corporação focada em explorar a viabilidade de transportar centros de dados de IA para a órbita terrestre.

Em um comunicado divulgado no blog da empresa, o Google detalhou que iniciou o uso de unidades de processamento Tensor Processing Units (TPUs) instaladas no equipamento espacial. Durante os testes, o modelo Gemma 4 foi executado diretamente no satélite e recebeu uma instrução para compor um haicai sobre a experiência de estar no espaço.

A IA gerou poemas abordando a Terra vista do espaço, o fluxo de dados e o brilho das estrelas. Além disso, foram conduzidos outros experimentos, como a elaboração de limericks com temáticas espaciais e a resposta a comandos ligados à telemetria.

Adicionalmente, o Google está trabalhando para melhorar a comunicação entre dispositivos que operam em órbita. Após as fases iniciais de testes, a companhia planeja atingir um novo objetivo em 2027: colocar dois satélites em funcionamento interligados.

O propósito dessa meta é validar se os sistemas são capazes de realizar tarefas de forma consistente e trocar dados no ambiente espacial. Tal demonstração seria crucial para determinar a praticidade de estabelecer uma infraestrutura de computação orbital.

Atualmente, o teste realizado com o Gemma 4 apenas confirma que um modelo de IA pode processar comandos a bordo de um satélite e produzir respostas. A concretização dos data centers espaciais ainda requer a conclusão de diversas etapas técnicas e a realização de mais experimentos.