消融实验

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

作者

大语言模型生成10万Token文本，TOKENSWIFT框架将时间缩短至90分钟。该框架通过多Token并行生成、动态KV缓存管理及树结构的多候选Token验证等创新技术，实现了无损加速和文本多样性提升，并在多个规模和架构上进行了测试。