O Instituto de Pesquisa de Indústria de IA (AIR) da Universidade Tsinghua, em colaboração com a Domain Transform, apresentou um método de manipulação incorporada chamado Zeva. Este método mantém os pesos do modelo principal congelados e melhora durante a implantação exclusivamente por meio de memória causal no contexto.
Em vários benchmarks testados para manipulação incorporada, a porcentagem total de sucesso aumentou de aproximadamente 26% para 73%, representando um ganho de 47 pontos sem a necessidade de passar pelo ciclo padrão de coleta de dados, rotulagem e ajuste fino. No artigo intitulado «Zeva: Aprendizado Causal In-Contexto para Manipulação Generalizável Incorporada», o modelo Cosmos3 é usado como base, e entre os autores estão Liu Yunxin e Zhao Ting do Tsinghua AIR.
A essência da abordagem não reside em um ajuste fino mais amplo dos modelos de visão, linguagem e ação, mas sim na adição de uma camada de memória que ensina um modelo fixo como suas próprias ações alteraram a cena. O Zeva consiste em três componentes principais.
Um codificador de transferência causal liga cada ação à subsequente mudança de estado, formando o material de origem para consultas posteriores. Em seguida, a memória causal opera em duas escalas de tempo: uma trajetória de interação curta para a tentativa atual e uma memória de interação persistente mais longa que acumula experiência filtrada entre as tentativas. A separação intencional desses armazenamentos previne a contaminação imediata da memória de longo prazo devido ao ruído dos fracassos, enquanto continua a alimentar o próximo comando dentro do mesmo episódio.
Finalmente, a implementação de política no contexto insere dicas causais na entrada do modelo congelado, sem atualizações de gradiente durante a implantação. Isso significa que a adaptação ao ambiente se transforma de um problema de configuração operacional de treinamento em um problema de engenharia de contexto.
Na plataforma RoboCasa365-Atomic5, a média de sucesso atingiu 76,8%. Resultados mais notáveis foram obtidos no ChemLab-Evo, um conjunto de tarefas para laboratório químico: seleção de tubo de ensaio, movido de 65% para 100%; colocação de copo, de 25% para 70%; e despejar água, de 30% para 80%. O aumento foi mais significativo onde as métricas básicas eram mais fracas, o que corresponde à ideia de que falhas frequentes geram pares causais mais úteis.
Uma única ação demonstrativa humana adicionou cerca de 20 pontos à colocação de copo e cerca de 15 pontos ao despejo — um ganho que os autores atribuem à implementação da memória, e não à alteração dos parâmetros. Este é um ponto atraente quando os orçamentos de rotulagem são limitados.
O tema químico foi escolhido porque mudanças de estado, como nível de líquido e postura do recipiente, são relativamente limpas, fazendo com que os pares do codificador permaneçam com baixo nível de ruído; no entanto, o artigo observa que tarefas com objetos deformáveis, como lavanderia, podem ser mais difíceis. Praticamente, o Zeva troca semanas de ajuste fino específico do local por contextos mais longos e um custo de inferência por passo mais alto, que melhora com o uso. Locais que mudam raramente ainda podem preferir o ajuste fino clássico por razões econômicas. Como as plataformas robóticas independentes fora do sistema configurado Cosmos3 não estavam incluídas no pacote divulgado, as alegações de portabilidade permanecem teóricas até que outros laboratórios reproduzam a pilha de memória em hardware e taxonomias de tarefas diferentes.
