Pangu Ultra MoE模型

华为盘古团队在昇腾 NPU 上高效训练了7180亿参数的 Pangu Ultra MoE 混合专家模型，并提出多项优化方案，提升计算资源利用效率，实现30.0%的模型算力利用率。