MoE机制

KTransformers是提升Transformer体验的灵活框架，支持多GPU加速和本地部署优化，适用于24GB显存和382GB系统内存配置。