榨干每一块 GPU！DeepSeek 开源第二天，送上降本增效神器
DeepSeek 开源周第二天，带来了 DeepEP 通信库，旨在优化混合专家系统和专家并行模型的高效通信。其亮点包括高效的全员协作通道、专为训练和推理预填充设计的核心以及灵活调控GPU资源的能力，显著提升MoE模型的性能和效率。
MoE模型
刚刚，DeepSeek开源MoE训练、推理EP通信库DeepEP，真太Open了！
DeepSeek 开源首个用于MoE模型训练和推理的EP通信库 DeepEP，优化高效通信和并行处理，支持FP8精度，并提供灵活资源调度。
DeepSeek 开源 DeepEP 高效通信库，专家并行不再是难题！
DeepSeek OpenSourceWeek 发布了首个面向MoE模型的开源EP通信库 DeepEP。它提供了高性能All-to-All通信内核、集群内和集群间全面支持，以及训练和推理预填充及推理解码低延迟内核等特性。性能测试显示其在不同场景下都能提供出色的通信性能。
一文详解：DeepSeek 第二天开源的 DeepEP
DeepSeek本周发布的新版本DeepEP为混合专家模型提供高效的通信解决方案，支持Hopper GPU架构。通过优化的核心、低延迟操作和创新的通信-计算重叠方法提升了模型在训练和推理阶段的性能。
DeepSeek开源周Day 2: DeepEP——解锁MoE模型通信瓶颈
DeepEP是针对Hopper GPU优化的MoE模型训练与推理高效通信库，支持FP8和低延迟推理解码，通过NVLink和RDMA提升效率。
刚刚！DeepSeek开源DeepEP，GPU通信加速器，专为MoE设计！
DeepSeek发布第二款开源软件库DeepEP，专为MoE模型训练与推理设计，提供高效的全对全通信计算核，支持FP8精度运算。
DeepSeek开源第二弹，为MoE和EP量身定制的通信库！暂和英伟达显卡绑定
DeepSeek开源第二弹来了！首个用于MoE模型训练和推理的开源EP通信库DeepEP提供高吞吐量和低延迟的all-to-all GPU内核，支持低精度运算包括FP8。性能方面涵盖高效和优化的all-to-all通信、NVLink和RDMA的支持、预填充任务和推理解码任务等。团队建议使用Hopper GPUs及更高版本Python 3.8及以上CUDA 12.3及以上PyTorch 2.1及以上环境，并提供详细的使用指南。
Kimi首次开源了其一个16B参数的MoE模型：Moonlight-16B
Kimi开源Moonlight-16B模型，参数量16B，激活3B，性能优于LLAMA、Qwen和Deepseek-v2-Lite，在英文和中文能力上表现优异。
月之暗面开源改进版Muon优化器，算力需求比AdamW锐减48%，DeepSeek也适用
OpenAI团队的优化算法Muon在更大模型和数据集上的应用效果被月之暗面团队验证，改进后的Muon对1.5B参数量Llama架构模型的算力需求仅为AdamW的52%，同时基于DeepSeek架构训练出一个16B的MoE模型并开源。