Pipeline Bubbles

DeepSeek 开源周第四天推出三剑客，包括DualPipe、EPLB和profile-data项目。DualPipe优化计算与通信重叠；EPLB实现专家并行负载均衡；profile-data提供模型训练和推理的性能分析数据。