FP8

DeepSeek开源周Day 3：DeepGEMM——300行代码性能飙升2.7倍，比英伟达更懂如何优化英伟达？

作者

DeepSeek开源的DeepGEMM库在Hopper GPU上实现FP8 GEMM，最高可达1350+ FP8 TFLOPS。它仅约300行代码，设计简洁，性能表现与专家调优的复杂库相当甚至更好，在各种矩阵形状和模型类型上均保持优势。

DeepSeek开源第三弹！极致榨干GPU，FP8训推秘籍公开

作者

DeepGEMM是DeepSeek开源的一款支持FP8 GEMM的库，为V3/R1训练和推理提供动力，在Hopper GPU上性能高达1350+ FP8 TFLOPS。该库采用JIT即时编译技术，核心逻辑约为300行，仅支持英伟达Hopper Tensor Core架构，设计简单高效，且在某些形状上的表现优异。

榨干每一块 GPU！DeepSeek 开源第二天，送上降本增效神器

作者

DeepSeek 开源周第二天，带来了 DeepEP 通信库，旨在优化混合专家系统和专家并行模型的高效通信。其亮点包括高效的全员协作通道、专为训练和推理预填充设计的核心以及灵活调控GPU资源的能力，显著提升MoE模型的性能和效率。