Tencent lança pesos do modelo Hy4 com janela de contexto de um milhão de tokens
Leia mais
TechNode
technode.com

Tencent lança pesos do modelo Hy4 com janela de contexto de um milhão de tokens

A Tencent divulgou na sexta-feira os pesos de seu modelo de inteligência artificial principal, Hy4, permitindo que desenvolvedores baixem e implementem este modelo por conta própria. Este lançamento ocorreu após o lançamento inicial do Hy4 em 4 de novembro e torna o modelo principal disponível sob a licença Apache 2.0, que permite uso comercial e modificação.

O modelo Hy4 é capaz de entender texto, imagens e vídeos, possuindo uma janela de contexto de cerca de um milhão de tokens. Sua estrutura linguística do tipo 'mistura de especialistas' contém 770 bilhões de parâmetros, sendo que 49 bilhões de parâmetros são ativados para processar cada token.

De acordo com a Tencent, esta versão do modelo supera a pré-visualização do Hy4 em áreas como seguimento de instruções, compreensão de contexto longo, execução de tarefas avançadas e pesquisa científica.

O modelo suporta fluxos de trabalho que abrangem interfaces gráficas e ferramentas de linha de comando, bem como desenvolvimento frontend, design de jogos e tarefas de escritório. A Tencent fornece instruções de implantação para vLLM e SGLang, além de recursos para ajuste fino e um mapa de avaliação de segurança. O lançamento do modelo principal seguiu o lançamento separado de um modelo menor, o Hy4 flash.

Histórias semelhantes

Tencent lança pesos do modelo principal Hy4 sob licença com condições
Leia mais
pandaily.com

Tencent lança pesos do modelo principal Hy4 sob licença com condições

A Tencent publicou os pesos baixáveis de seu modelo principal Hy4 em 20 de novembro, acompanhando o lançamento de um novo Mapa de Sistema. Este lançamento ocorreu após o lançamento do serviço em 4 de novembro e difere dos pontos de controle anteriores do Hy4 que estavam disponíveis esta semana.

O cartão oficial do modelo descreve um sistema multimodal do tipo 'mixture-of-experts' com um núcleo de linguagem contendo 770 bilhões de parâmetros. Ao ser ativado, 49 bilhões de parâmetros são usados para cada token de texto, e a janela de contexto atinge 1.048.576 tokens. O cálculo do núcleo não inclui o codificador de visão, o adaptador e o componente de rascunho DFly2.

A Tencent forneceu aos desenvolvedores vários pontos de partida para treinamento ou implementação futuros, incluindo as instruções Hy4, Hy4-FP8 e os pontos de controle básicos do Hy4.

A Pandaily confirmou o recebimento de um pequeno intervalo de bytes de um dos shards de peso em cada um dos três repositórios. No entanto, a empresa não baixou os pontos de controle completos nem realizou inferência.

A documentação de implantação contém receitas para vLLM e SGLang usando paralelismo tensorial oito-way; estas são implementações de infraestrutura significativas, e não uma prova de que o modelo principal funciona em um laptop comum.

Os pesos utilizam a licença Tencent Hy License 1.0, e não a Apache 2.0. Condições comerciais adicionais se aplicam aos operadores que fornecem inferência remota de propósito geral ou ajuste fino a terceiros. Operadores de modelo como serviço devem obter permissão por escrito separada se sua receita bruta mundial agregada exceder US$ 50 milhões em qualquer período consecutivo de 12 meses, independentemente de o Hy4 ter gerado essa receita, ou antes de usar o modelo em um produto ou serviço com mais de 100 milhões de usuários ativos em qualquer mês civil.

A licença exclui fluxos de trabalho de usuário final com funcionalidade limitada e simples retransmissão para serviços de modelos gerenciados independentemente da sua definição de modelo como serviço. Uma exceção estreita para uso interno exige que o modelo, seus derivados ou resultados não sejam fornecidos a terceiros. Portanto, esses limites não devem ser apresentados como uma restrição abrangente para cada usuário comercial.

A Tencent também aponta para a filtragem de material de treinamento malicioso de segurança cibernética e a realização de auditorias internas de segurança por especialistas. Essas avaliações são emitidas pelo emissor e não são garantias independentes de que o modelo não pode ser usado indevidamente. Os desenvolvedores que avaliam a implantação ainda devem realizar sua própria avaliação de desempenho de tarefas, requisitos de recursos e medidas de segurança.

A mudança prática reside no acesso aos artefatos do modelo principal e nas condições que regulam seu uso, e não em um novo lançamento das capacidades anteriormente anunciadas do Hy4 em visão e computação.

Tencent lança pesos do modelo Hy4 flash para implantação local
Leia mais
technode.com

Tencent lança pesos do modelo Hy4 flash para implantação local

A Tencent divulgou na quarta-feira os pesos de seu modelo de inteligência artificial Hy4 flash. Este lançamento ocorreu dois dias após o modelo ter sido apresentado aos usuários através dos aplicativos e da API em nuvem da empresa. Os desenvolvedores agora têm a opção de baixar a versão padrão do modelo, sua versão no formato FP8, bem como o modelo base para treinamento adicional.

Este lançamento está de acordo com uma declaração anterior da Tencent sobre seus planos de tornar os pesos deste modelo públicos. O modelo Hy4 flash é capaz de processar entradas de texto e gráficos, e sua janela de contexto atinge um milhão de tokens.

O modelo possui aproximadamente 224 bilhões de parâmetros, sendo que cerca de 12 bilhões de parâmetros são ativados para cada token. O principal objetivo do Hy4 flash é aumentar o desempenho diário em tarefas como preparação de documentos, condução de pesquisas e trabalho com planilhas. A Tencent acompanhou os pesos com materiais relevantes para implantação, distribuindo-os sob a licença Tencent Hy.

MiniMax lança modelo H3-Image com pesos abertos para geração e edição de imagens de 16 MP
Leia mais
pandaily.com

MiniMax lança modelo H3-Image com pesos abertos para geração e edição de imagens de 16 MP

A empresa MiniMax apresentou o modelo MiniMax-H3-Image com pesos abertos. Este modelo é destinado a tarefas de conversão de texto em imagem e edição de imagens, e faz parte da família H3 da empresa.

O lançamento ocorreu no final da noite de 10 de novembro, e os pesos estão disponíveis na plataforma Hugging Face. De acordo com a MiniMax, este modelo é capaz de gerar imagens com resolução de cerca de 16 megapixels, tamanho de 4096 por 4096 com proporção de aspecto 1:1, em menos de 10 segundos. A empresa afirma que isso é aproximadamente cinco vezes mais rápido do que a média do mercado para essa resolução.

Características e capacidades do modelo

De acordo com o cartão do modelo, um único arquivo de controle pode realizar tanto a conversão de texto em imagem quanto a edição de uma ou várias imagens de referência, aceitando até 16 referências. O transformador de difusão possui 33,1 bilhões de parâmetros, utiliza a arquitetura H3, mas sem camadas de áudio, e foi destilado para seis etapas de amostragem sem o uso de classificador sem guia livre. O codificador de texto do modelo é um componente separado — o codificador de texto MiniMax-H3.

A MiniMax indica que as dimensões de saída podem atingir 6272 por 2688 sem o uso de upscaler. O arquivo no formato BF16 pesa 68,65 GB, e o modelo de extensão de prompt adicional chamado MiniMax-H3-Image-PE tem tamanho de 17,9 GB.

A empresa afirma que o seguimento de instruções pelo modelo é o mais forte entre os modelos de código aberto para imagens, e ele evita a aparência característica de 'inteligência artificial'. Estas declarações são alegações próprias da empresa, e não havia comparações independentes no material original.

O cartão do modelo recomenda o uso de SGLang, vLLM-Omni, diffusers e ComfyUI para implantação local, e também lista aceleradores NVIDIA e AMD. O modelo também está disponível via API e aplicativos MiniMax, e durante a primeira semana, a empresa oferece um desconto de 50% nas chamadas de API para imagens de 16 megapixels ou mais.

Condições de licenciamento

A licença aplicada ao modelo chama-se MiniMax-H3-Image Community License Agreement e não é uma licença padrão de código aberto. Este acordo é válido em todo o mundo, exceto na União Europeia, Reino Unido, Coreia do Sul e Estados Unidos, e estabelece que o uso fora deste território não é sancionado pelo contrato. Além disso, exige permissão escrita separada da MiniMax para usuários cujo rendimento anual exceda 1 milhão de dólares americanos, ou para aqueles que fornecem serviços de hospedagem a terceiros. Produtos comerciais também devem exibir a inscrição 'MiniMax-H3-Image' em sua interface.

Este lançamento se seguiu ao lançamento anterior de pesos abertos da MiniMax para vídeo e áudio, baseado no modelo H3.

Popular