DeepSeek lança código DeepInfer para acelerar e otimizar a execução de modelos de IA
Leia mais
Olhar Digital
olhardigital.com.br

DeepSeek lança código DeepInfer para acelerar e otimizar a execução de modelos de IA

Na última terça-feira (20), a DeepSeek tornou público o código do DeepInfer, um software projetado para operar seus modelos de inteligência artificial (IA). Esta ferramenta foi criada com o objetivo de melhorar a eficiência do processamento e diminuir o tempo necessário para a geração de respostas.

Com a liberação do código, desenvolvedores e corporações têm a possibilidade de analisar o funcionamento do programa e adaptá-lo a diversos projetos, desde que cumpram os requisitos técnicos e os termos de uso estabelecidos. De acordo com a própria DeepSeek, esta ação visa diminuir o consumo de energia e de recursos computacionais, tornando a operação dos modelos de IA mais eficiente. Contudo, os resultados práticos estarão condicionados às condições de uso e à infraestrutura disponível.

Atualmente, o DeepInfer é compatível especificamente com o modelo DeepSeek-V4.1-Flash. Embora a abertura do código permita que outros desenvolvedores investiguem e utilizem a tecnologia, é importante notar que nem todo o sistema de execução da empresa foi tornado público, pois alguns componentes da infraestrutura permanecem fechados.

Durante sua participação no programa Olhar Digital News, o físico Roberto ‘Pena’ Spinelli, um especialista em Machine Learning, comentou sobre essa novidade. O pesquisador esclareceu a distinção entre disponibilizar um modelo de IA e liberar o software que é responsável por executá-lo. Para explicar essa diferença, ele usou a analogia de um automóvel.

Pena detalhou que simplesmente compartilhar o modelo não equivale a fornecer todas as ferramentas necessárias para operá-lo de forma eficaz. Enquanto o modelo carrega os parâmetros que guiam a criação das respostas, o software de inferência agrupa os mecanismos que possibilitam seu funcionamento. A abertura deste código pode auxiliar desenvolvedores que pretendem implementar suas próprias soluções.

O especialista comparou a situação dizendo: “Antes, eles compartilhavam apenas a planta do motor, que é a inteligência artificial propriamente dita. O que eles estão fazendo agora é entregar o funcionamento do carro inteiro. Todo o software e o mecanismo de como eles executam a inteligência artificial foram liberados para o público”.

Essa comparação ajuda a compreender a diferença entre os dois elementos, mas existe uma ressalva: a disponibilização do DeepInfer não implica que todos os elementos da infraestrutura da DeepSeek estejam acessíveis. Mesmo assim, o acesso ao código possibilita que programadores e pesquisadores estudem as metodologias de execução empregadas pela companhia e avaliem como aplicá-las em outros trabalhos.

A iniciativa também pode beneficiar a estratégia comercial da DeepSeek. Ao compartilhar parte de sua tecnologia, a empresa abre caminhos para que outros desenvolvedores a utilizem, contribuam com melhorias e criem aplicações compatíveis. Essa adoção pode expandir o alcance de sua tecnologia em um mercado altamente competitivo, onde várias empresas competem para oferecer modelos mais acessíveis e eficientes.

Pena acrescentou: “A DeepSeek quer criar um ecossistema para que mais pessoas e empresas passem a utilizar seus produtos”. Ele continuou: “Ao mostrar como montar a estrutura completa, ela incentiva o público a abandonar plataformas pagas mais dispendiosas. É uma forma consistente de se afirmar em um setor extremamente disputado”.

A liberação do DeepInfer sublinha que a competição no campo da IA não se restringe apenas à capacidade dos modelos de gerar respostas, mas também à eficiência exigida para executá-los. Ao compartilhar parte de sua tecnologia, a DeepSeek aumenta as opções de uso do software e fortalece sua posição no setor. O impacto dessa medida dependerá, entre outros fatores, do desempenho alcançado em variados ambientes e da adesão de desenvolvedores e empresas.

Histórias semelhantes

OpenCode oferece acesso gratuito ao DeepSeek V4.1 Flash com janela de contexto de 200K tokens
Leia mais
pandaily.com

OpenCode oferece acesso gratuito ao DeepSeek V4.1 Flash com janela de contexto de 200K tokens

O OpenCode, que se posiciona como um agente de código aberto para escrita de código, anunciou que o modelo DeepSeek V4.1 Flash agora está disponível gratuitamente em sua plataforma. Ao usar este modelo dentro do OpenCode, os créditos do plano não são mais deduzidos.

A versão gratuita do modelo possui uma janela de contexto menor. De acordo com testes realizados pela IT Home, ela suporta 200 mil tokens, o que é inferior aos um milhão de tokens disponíveis na versão completa do modelo.

Este passo faz parte da iniciativa do OpenCode, que eles chamaram de Operação Cheepseek. Anteriormente, em setembro, a empresa aumentou temporariamente o limite para o DeepSeek V4.1 Flash em seu plano OpenCode Go de US$ 15 para US$ 60, e depois o elevou para US$ 80 em 12 de outubro. Agora, o acesso a este modelo é fornecido gratuitamente, substituindo o antigo sistema de limites.

As mudanças afetam exclusivamente o funcionamento dentro do OpenCode. A própria plataforma DeepSeek não oferece um nível gratuito de API e continua a tarifar o V4.1 Flash sob um esquema de pagamento pré-pago conforme o uso. O modelo V4.1 Flash foi lançado pelo DeepSeek em 10 de setembro.

Avaliações de usuários sobre o desempenho

Os usuários notam a irregularidade na velocidade de operação. Vários desenvolvedores relataram flutuações significativas na velocidade de saída de dados. Um usuário relatou picos de cerca de 490 tokens por segundo na nuvem Ollama, mas a velocidade caía para 50 ou 60 tokens por segundo entre o meio-dia e o final da tarde. No plano OpenCode Go, alguns usuários registraram quedas de velocidade abaixo de 100 tokens por segundo.

Testes da comunidade também indicam uma desaceleração da velocidade à medida que o contexto aumenta: relata-se uma velocidade inferior a 100 tokens por segundo após exceder 100 mil tokens e cerca de 50 tokens por segundo perto do limite de 200 mil tokens. Deve-se notar que estes são relatos de usuários, e não benchmarks oficiais.

O OpenCode não especificou por quanto tempo esta oferta gratuita durará. Para os desenvolvedores, isso significa escolher entre o acesso gratuito a um modelo capaz de codificar com uma janela de contexto mais curta e uma velocidade menos previsível em comparação com a opção paga.

Popular