跳至内容
这两天，DeepSeek的高强度开源波，一山更比一山高。
先是给GPU安超频加速外挂的FlashMLA，又是叫英伟达知道“原来GPU没有商业护城河”的DeepEP。
在追求效率、把硬件资源干下来的路上，DeepSeek快成AI性能效率上的Godfather了。。。
这回，他们开源的是一个叫做DeepGEMM的玩意儿，专门给当时爆cei全网的DeepSeek-V3做的。
Github星星没半小时，就几百个了。点的越多，意味着开源友友们越喜爱和越关注这个代码仓库，水分那是相当的少。一般几千的星星就已经算是爆款了，半小时就几百，这个含金量你懂的。
开源链接在此：https://github.com/deepseek-ai/DeepGEMM?tab=readme-ov-file
举个例子，假如我结婚了。场面特别特别大，记得是假如。。。
几百万人组成的迎亲队伍、点鞭炮得点几亿种、接亲队伍也叫个几百万人来，甚至我再搞点大的出来，比如弄个几万盏灯光秀。
所有的一切的一切都需要计算好时间点，相互之间得互相搭配。而DeepGEMM这东西，能把以上所有东西塞进一个矩阵里。
所有迎亲队伍的实时行走轨迹、啥时候点鞭炮的精细时间规划、接亲队伍得到哪里等、等多久，几万盏灯光秀和几千万首音乐秀，几分几秒，该怎么配合，效果最好，等等。
全都能放进矩阵里计算，这都快成在天上俯瞰人间的God了。。。
DeepGEMM 是一个为 DeepSeek-V3 专门设计的，用于 FP8 的，通用矩阵乘法（GEMM）库。还支持普通的和专家混合（Mix-of-Experts，MoE）分组 GEMM。
安装时，你都无需编译，只通过一个轻量级的即时编译（JIT）模块，在运行时就可以编译所有内核了。牛逼，一点多余东西都不舍得让你多干活。
目前，DeepGEMM跟前两天一样，还是只支持H卡。它为了让FP8这种速度快但精度偏低的计算方式变得更准确，利用了CUDA核心做了两次累加。
简单说就是先用FP8完成快速计算，然后再用CUDA核心对结果进行更精细的再加工，这样既能保持速度快，还能把精度提上去。
DeepGEMM也借鉴了英伟达CUTLASS和CuTe的一些概念。
CUTLASS 是基于英伟达明星当家CUDA架构。简单说，它是一个写给 NVIDIA显卡的工具包，专门用来加速“矩阵计算”的。
英伟达的CUTLASS实在是过于高效，以至于被用来构建内核时，几乎能帮显卡把矩阵计算的性能榨到极限，跑到显卡的理论峰值。
但是如果你手里的硬件没那么强大，就像很多现在的AI公司们还停在上一代的卡上时，CUTLASS这种大而全的加速套件，就有点用不上了。
CUTLASS虽然时哥通用、功能强大的矩阵加速库，但是DeepGEMM这种激进的优化方式更专注、更轻量。
深刻的展现了DeepSeek那种“抠”到极致的理念。
性能只要卡的不死，DeepSeek就能拿效率调优这条至简大路冲出来，无形中连美国算力封锁都给捅破了。。。
它完全没有一点对英伟达项目的模版or代数的过分的依赖度，全凭自主。
团队说，能够匹配甚至超越英伟达、ADM等等专家专门调优的库。。。
比英伟达自己的CUTLASS 3.6，速度还提升了2.7倍。
他们在H800上，测试了 DeepSeek-V3 和 R1 推理中可能用到的所有矩阵情况，性能水平，我都整理在这了。
先是密集模型档，估计老黄那个项目的人，也很难想明白，几百行代码怎么调优调成这样的。。。
之前不是都说，硬件是有护城河的嘛。。。现在看起来，DeepSeek比英伟达都懂GPU。
然后就是现在被称为AI未来方向之一的专家混合模型MoE了。它在处理复杂任务上独树一帜。整体的性能，实在是太硬核了。数据如下：
DeepGEMM虽然非常牛逼，但是在某些情况上的表现确实不太好，欢迎所有人一起改进。
具体的部署上，依旧和之前每次DeepSeek开源时的动作一样，把饭喂到你嘴边，顺便走的时候，再给你擦擦嘴。
因为无需编译，部署速度会更快、更顺畅。这让我想起来了当年的贴吧大神们，只留下宝典教程里最核心的部分，挥挥衣袖，就跑了。。。
随着下一代基座模型，比如DeepSeek V4、GPT-4.5等等的参数和复杂度继续增长时，深入到底层进行优化的DeepGEMM这种库，真的会越来越重要。
（文：数字生命卡兹克）
