键值缓存分布

本文提出MILLION，一种基于乘积量化键值缓存压缩的方法，显著提高模型性能和系统效率。