近日，DeepSeek开源周活动如火如荼地进行中，继MLA解码核FlashMLA以及DeepEP两款代码库开源后，DeepSeek再次抛出重磅炸弹——宣布开放DeepGEMM代码库。
DeepGEMM，这款专为简洁高效的FP8通用矩阵乘法（GEMMs）而设计的代码库，无疑是此次开源周的又一大亮点。它不仅支持普通的GEMM运算，还兼顾了专家混合（MoE）分组的运算需求，展现了其强大的通用性和灵活性。
值得一提的是，该代码库使用CUDA编写，安装过程无需繁琐的编译步骤，只需在运行时通过轻量级即时编译模块即可完成所有内核的编译，极大地提升了开发效率。
DeepGEMM的代码量仅约为300行，却巧妙地解决了FP8张量核心累加不精确的问题。它采用了CUDA核心的两级累加（提升）方法，确保了运算的准确性和稳定性。目前，该代码库仅支持英伟达Hopper架构运算，但这一限制并未影响其成为FP8通用矩阵乘法领域的佼佼者。
本文链接：http://www.28at.com/showinfo-27-134139-0.htmlDeepSeek开源周再放大招
声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
