DeepSeek开源昇腾全套基础设施组件:TileLang编译器+DeepGEMM等算子,完成昇腾950 128卡超节点调优

早报4周前发布 小马良
87 0

DeepSeek官方公众号发布消息,正式开源适配华为昇腾算力平台的全套AI基础设施组件,包含TileLang高级语言编译工具、配套计算库、分布式通信库。整套组件和此前面向英伟达CUDA平台的开源版本一一对应,为国产AI芯片软件生态提供完整参考方案。

开源项目链接:

  • TileLang:https://github.com/tile-ai/tilelang
  • DeepGEMM Ascend:https://github.com/deepseek-ai/DeepGEMM-Ascend
  • DeepEP Ascend:https://github.com/deepseek-ai/DeepEP-Ascend
  • TileKernels:https://github.com/deepseek-ai/TileKernels
  • FlashMLA:https://github.com/deepseek-ai/FlashMLA
  • DeepSelect:https://github.com/deepseek-ai/DeepSelect

TileLang昇腾版:简化算子开发,不损失硬件性能

TileLang是DeepSeek自研高级编程语言,对标CUDA。相比CUDA,它代码逻辑更简洁,降低高性能算子开发门槛,提升研发效率;对比其他同类高级语言,编程模型可以充分挖掘芯片硬件潜力,逼近硬件性能极限。

TileLang昇腾版封装Ascend-C底层指令,保留高级语言开发能力的同时不产生性能损耗。DeepSeek训练所用全部TileLang算子,都已经完成昇腾平台高性能适配。此前英伟达平台上,DeepSeek V4系列模型训练绝大多数算子都基于TileLang开发,是其自研高性能算子、探索AGI路线的核心工具。

同步开源全套底层基础组件

除编译器外,本次一并开放昇腾平台多款核心底层库:

  • DeepGEMM:矩阵运算加速库
  • DeepEP:大规模跨卡分布式高速通信库
  • TileKernels:向量计算与内存访问内核
  • FlashMLA:稀疏注意力算子,优化长上下文推理效率
  • DeepSelect:高效数据筛选算子

官方测试显示,这批组件的计算、通信性能均接近硬件理论上限。

与华为深度协同,落地128卡超节点

整套适配工作获得华为团队全力支持,双方深度协同完成昇腾950的128卡超节点方案落地,针对计算、通信链路做深度调优。

DeepSeek表示,本次开源希望给国内多款AI芯片搭建高可用软件生态提供示范,后续将持续迭代,联合社区共建开放的国产算力软件生态。

© 版权声明

相关文章