收敛速度最高8倍,准确率提升超30%!华科发布MoE Jetpack框架 NeurIPS 2024 下午9时 2024/11/20 作者 每时AI 华中科技大学提出MoE Jetpack框架,利用密集激活模型权重微调出混合专家(MoE)模型,大幅提升了精度和收敛速度,解决MoE预训练需求高问题。