Cambricon Conclui a Adaptação DeepSeek-V4, Código de Fonte Aberta, Impulsionando as Ações Nacionais de Chips

De acordo com o monitoramento da Dongcha Beating, a Cambricon anunciou que concluiu a adaptação dos modelos DeepSeek-V4-Flash de 285B e DeepSeek-V4-Pro de 1,6T no mesmo dia do lançamento do V4, com o código de adaptação open source no GitHub. A velocidade de adaptação depende de dois pré-requisitos: primeiro, o stack de software NeuWARE desenvolvido pela própria Cambricon suporta nativamente frameworks mainstream como PyTorch e vLLM, permitindo uma migração rápida de modelos; segundo, os chips Cambricon suportam nativamente formatos de dados de baixa precisão, possibilitando a verificação de precisão sem conversão adicional de formato. Para a nova arquitetura do V4, a Cambricon acelerou módulos específicos como Compressor e mHC usando sua biblioteca de operadores de fusão desenvolvida por eles, Torch-MLU-Ops, e escreveu kernels para operadores quentes como Attention esparso/comprimido e GroupGemm usando BangC. A nível de framework de inferência, a Cambricon suporta paralelismo misto de cinco dimensões (TP/PP/SP/DP/EP), paralelismo de comunicação-cálculo, quantização de baixa precisão e implantação de separação de PD no vLLM. O relatório técnico do V4 mencionou apenas validações em GPUs NVIDIA e NPUs Huawei Ascend, sem envolver a plataforma Cambricon; essa adaptação foi concluída de forma independente pela Cambricon. Após a notícia do lançamento do V4, as ações de chips domésticos no mercado A-shares fortaleceram-se, com a Cambricon experimentando um aumento acentuado durante a negociação.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar