DeepSeek V5要用昇腾预训练:TileLang全套开源拆解,AI开发者能从这套工具箱里拿到什么

11月3日,《科创板日报》援引多名产业链人士消息称,DeepSeek下一代大模型V5计划基于华为昇腾芯片开展预训练。此前,昇腾在DeepSeek体系里主要负责推理。训练环节一旦落地,国产算力就从”跑得动模型”进入”造得出模型”的阶段。

对开发者来说,这件事不只关系一家公司的算力选择。9月30日DeepSeek开源的整套昇腾基础设施组件,才是真正能落进你手里的东西。

一套组件,对应英伟达版全套

9月30日,DeepSeek宣布开源面向昇腾算力平台的 infra 组件。项目清单摆出来:TileLang、DeepGEMM、DeepEP、FlashMLA、TileKernels、DeepSelect。

每个组件都有明确分工:

  • TileLang:高级语言编译工具。它对昇腾Ascend C底层指令做封装,让你用接近Python的写法写算子,同时不损失硬件性能
  • DeepGEMM:加速通用矩阵运算,大模型训练里最吃算力的部分
  • DeepEP:分布式通信库,负责大规模跨设备的数据交换
  • FlashMLA:稀疏注意力算子,提升长上下文处理效率
  • TileKernels:常规向量计算和访存算子
  • DeepSelect:高效数据筛选

关键在对应关系。这套组件与DeepSeek此前开源的英伟达平台版本一一对应。官方说法是:训练中用到的每一个TileLang算子,在昇腾上都有对应的高性能实现,多项关键测试已接近硬件上限。

这意味着什么:算子层的”翻译”工作已经做完

过去在国产芯片上训练大模型,最大的坎是软件栈。CUDA生态积累了十几年,PyTorch默认后端就是它。芯片硬件参数再好,写不出高性能算子,等于有路没车。

TileLang把这个问题往下压了一层。华为提供了联合定义的昇腾超节点SuperPoD Flex和UBL128组网方案,开放Ascend C编程接口与底层指令体系,DeepSeek在其上封装出高级语言接口。开发者写算子,不用再啃芯片手册。

一个直接的验证:TileLang昇腾版已支撑DeepSeek V4系列模型训练算子的实现。也就是说,这套代码在生产环境里跑过,不是实验室样品。

开发者能怎么用

如果你在研究AI infra,这套东西有三条实际路径:

第一,读代码学算子工程。FlashMLA的稀疏注意力实现、DeepGEMM的矩阵分块策略,都是经过万亿参数模型训练验证的代码。这类开源算子库,比大多数教程更有参考价值。

第二,迁移已有的昇腾项目。如果你的团队在做国产化适配,DeepGEMM和DeepEP可以直接替换自研的基础组件。通信和矩阵运算这两块,自己造轮子的性价比极低。

第三,用TileLang写新算子。它的定位类似Triton之于英伟达:用高级语言描述计算,编译器处理底层优化。昇腾版本补齐后,写自定义算子的门槛从”懂芯片指令集”降到”会写Python风格的Kernel”。

V5用昇腾预训练,信号大于数字

回到V5预训练的消息本身。从推理到预训练,是量级差异。预训练对算力稳定性、通信带宽、故障恢复的要求,比推理高一个段次。9月30日开源组件的时机安排在消息之前一个月,节奏上说得通:先把软件栈备齐,再上训练。

另一层信号是示范效应。DeepSeek在官方表述里提了一句:希望TileLang昇腾版本能对更多AI芯片建立高可用软件生态起到示范作用。寒武纪、海光、摩尔线程这些玩家,未来都可能对着这套模式补自己的算子生态。

对依赖单一GPU供应链的行业来说,多一条能跑通的路径,议价空间就多一分。

三点判断

  • 短期内(半年到一年),昇腾训练的效率仍会与英伟达有差距,但差距会持续收窄。开源组件的迭代速度会决定收窄的斜率
  • TileLang值得AI infra工程师现在就上手。万亿参数模型同款工具链,学习材料就是源码本身
  • V5发布时间还没有官方口径。产业链消息只说”计划”,预训练从启动到出模型,中间还有几个月的窗口

算子层的仗打完之前,模型层的竞争格局都不会定型。TileLang这套代码,值得放进你的收藏夹里慢慢读。


评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

苏ICP备2025163703号-2   警徽苏公网安备32010502011527号