自回归模型

扩散语言模型真的会比自回归好？理论分析结果可能恰恰相反

作者

扩散语言模型在某些关键场景下可能不如自回归模型高效。基于理论分析和实验结果，研究提出应根据任务需求选择合适的目标衡量指标（如流畅度或序列级别准确性和逻辑正确性），从而为实践中如何使用扩散语言模型提供指导。

12秒生成1万token！谷歌推出文本「扩散模型」Gemini Diffusion，研究员：演示都得降速看

作者

谷歌推出Gemini Diffusion，通过扩散技术将语言模型文本生成速度提升至2000token/秒，甚至超越了较大的模型Gemini 2.0 Flash-Lite。这种技术能够快速迭代并纠正错误，提高生成连贯性和一致性。