11月3日,《科创板日报》援引多名产业链人士消息称,DeepSeek下一代大模型V5计划基于华为昇腾芯片开展预训练。此前,昇腾在DeepSeek体系里主要负责推理。训练环节一旦落地,国产算力就从”跑得动模型”进入”造得出模型”的阶段。
对开发者来说,这件事不只关系一家公司的算力选择。9月30日DeepSeek开源的整套昇腾基础设施组件,才是真正能落进你手里的东西。
一套组件,对应英伟达版全套
9月30日,DeepSeek宣布开源面向昇腾算力平台的 infra 组件。项目清单摆出来:TileLang、DeepGEMM、DeepEP、FlashMLA、TileKernels、DeepSelect。
每个组件都有明确分工:
- TileLang:高级语言编译工具。它对昇腾Ascend C底层指令做封装,让你用接近Python的写法写算子,同时不损失硬件性能
- DeepGEMM:加速通用矩阵运算,大模型训练里最吃算力的部分
- DeepEP:分布式通信库,负责大规模跨设备的数据交换
- FlashMLA:稀疏注意力算子,提升长上下文处理效率
- TileKernels:常规向量计算和访存算子
- DeepSelect:高效数据筛选
关键在对应关系。这套组件与DeepSeek此前开源的英伟达平台版本一一对应。官方说法是:训练中用到的每一个TileLang算子,在昇腾上都有对应的高性能实现,多项关键测试已接近硬件上限。
这意味着什么:算子层的”翻译”工作已经做完
过去在国产芯片上训练大模型,最大的坎是软件栈。CUDA生态积累了十几年,PyTorch默认后端就是它。芯片硬件参数再好,写不出高性能算子,等于有路没车。
TileLang把这个问题往下压了一层。华为提供了联合定义的昇腾超节点SuperPoD Flex和UBL128组网方案,开放Ascend C编程接口与底层指令体系,DeepSeek在其上封装出高级语言接口。开发者写算子,不用再啃芯片手册。
一个直接的验证:TileLang昇腾版已支撑DeepSeek V4系列模型训练算子的实现。也就是说,这套代码在生产环境里跑过,不是实验室样品。
开发者能怎么用
如果你在研究AI infra,这套东西有三条实际路径:
第一,读代码学算子工程。FlashMLA的稀疏注意力实现、DeepGEMM的矩阵分块策略,都是经过万亿参数模型训练验证的代码。这类开源算子库,比大多数教程更有参考价值。
第二,迁移已有的昇腾项目。如果你的团队在做国产化适配,DeepGEMM和DeepEP可以直接替换自研的基础组件。通信和矩阵运算这两块,自己造轮子的性价比极低。
第三,用TileLang写新算子。它的定位类似Triton之于英伟达:用高级语言描述计算,编译器处理底层优化。昇腾版本补齐后,写自定义算子的门槛从”懂芯片指令集”降到”会写Python风格的Kernel”。
V5用昇腾预训练,信号大于数字
回到V5预训练的消息本身。从推理到预训练,是量级差异。预训练对算力稳定性、通信带宽、故障恢复的要求,比推理高一个段次。9月30日开源组件的时机安排在消息之前一个月,节奏上说得通:先把软件栈备齐,再上训练。
另一层信号是示范效应。DeepSeek在官方表述里提了一句:希望TileLang昇腾版本能对更多AI芯片建立高可用软件生态起到示范作用。寒武纪、海光、摩尔线程这些玩家,未来都可能对着这套模式补自己的算子生态。
对依赖单一GPU供应链的行业来说,多一条能跑通的路径,议价空间就多一分。
三点判断
- 短期内(半年到一年),昇腾训练的效率仍会与英伟达有差距,但差距会持续收窄。开源组件的迭代速度会决定收窄的斜率
- TileLang值得AI infra工程师现在就上手。万亿参数模型同款工具链,学习材料就是源码本身
- V5发布时间还没有官方口径。产业链消息只说”计划”,预训练从启动到出模型,中间还有几个月的窗口
算子层的仗打完之前,模型层的竞争格局都不会定型。TileLang这套代码,值得放进你的收藏夹里慢慢读。
苏公网安备32010502011527号
发表回复