Gu Yushen, doutorando da Tsinghua, bolsista especial com quase 5000 citações, juntou-se à DeepSeek em antecipação ao lançamento oficial da DeepSeek V4, programado para meados de julho.
Juntada à DeepSeek
A DeepSeek está ativamente contratando especialistas em pesquisa algorítmica, engenharia, desenvolvimento de produtos, operações e engenharia de dados em preparação para o lançamento da DeepSeek V4. Entre os autores mencionados no trabalho científico da DeepSeek V4, destaca-se Gu Yushen. Ele é um candidato a doutorado da Universidade Tsinghua e recebeu a Bolsa Especialista de Graduado da Tsinghua para 2025, de acordo com um comunicado da publicação Machine Intelligence.
Educação e Pesquisa
Gu Yushen ingressou oficialmente na DeepSeek, adicionando um dos mais promissores jovens pesquisadores de IA da Tsinghua ao quadro da empresa. Anteriormente, ele recebeu a Bolsa Apple para PhD em 2025 e a Bolsa Ant Group In-Tech. Ele é formado no programa de PhD em Ciência da Computação na Universidade Tsinghua, onde também concluiu sua graduação. Suas pesquisas são conduzidas sob a orientação do Professor Huang Minli no grupo de IA conversacional.
Direções de Pesquisa
As pesquisas de Gu concentram-se em aumentar a eficiência durante todo o ciclo de vida dos grandes modelos de linguagem. Seu trabalho abrange pré-treinamento, adaptação em estágios subsequentes e inferência. Ele se dedica a três áreas principais: seleção de dados para pré-treinamento, onde desenvolve teorias e algoritmos para otimizar a seleção de dados visando criar modelos mais capazes e eficientes; compressão de modelos por destilação de conhecimento, onde projeta métodos de transferência de conhecimento de modelos grandes para menores, mais adequados para implementação; e desenvolvimento de arquiteturas de modelos eficientes, investigando novas estruturas que reduzem os custos computacionais enquanto melhoram o desempenho.
Conquistas e Contribuições
De acordo com seu perfil no Google Scholar, o número total de citações atinge quase 5000. Dois de seus trabalhos ultrapassaram o limiar de 1000 citações cada: 'Pre-trained Models: Past, Present and Future' e 'MiniLLM: Knowledge Distillation of Large Language Models'. Ele foi autor principal em vários trabalhos aceitos em conferências líderes de IA, como NeurIPS, ICLR, ACL e outras.
É notável que Gu contribuiu significativamente para a série de modelos linguísticos arquitetônicos híbridos Jet-Nemotron. Esta série demonstra precisão de modelos de atenção completa em nível de estado da arte com excelente eficiência. A versão Jet-Nemotron com 2 bilhões de parâmetros superou Qwen3, Qwen2.5, Gemma3 e Llama3.2 nos benchmarks MMLU e MMLU-Pro, garantindo ao mesmo tempo uma aceleração de geração de até 53,6 vezes em GPU H100 com um comprimento de contexto de 256K, superando modelos MoE maiores com atenção completa, incluindo DeepSeek-V3-Small e Moonlight.
Filosofia e Perspectivas
Como Gu mesmo observou, 'Quando os recursos de hardware são limitados, as inovações algorítmicas tornam-se a chave para superar gargalos computacionais'. Sua filosofia de pesquisa corresponde ao foco da DeepSeek no desenvolvimento de IA orientada para a eficiência, tornando-o uma aquisição estratégica para a equipe antes do lançamento da V4.