DeepSeek的MLA，任意大模型都能轻松迁移了 下午11时 2025/03/06 作者 机器之心 工作为首个NoPE外推HeadScale、注意力分块外推LongHeads、多视觉专家大模型MouS
【CUDA编程】手撸一个大模型推理框架 FasterLLaMA 上午8时 2024/12/27 作者 极市干货 写在前面 ：之前笔者写过 4 篇关于 Nvidia 官方项目 Faster Transformer
