Datawhale

团队介绍并指出多业务微调模型部署存在的成本和管理问题。分享了一个成功案例：通过Infini-AI异构云平台·大模型服务平台的Lora自部署模型服务，无需采购GPU即可在1小时内完成100个7BLoRA微调模型的部署，并确保高调用量模型的响应速度，同时实现成本低和资源利用高效。