24GB

一款国产推理加速框架KTransformers介绍，显著提升Hugging Face Transformers的推理速度，支持多种硬件优化策略和接口。