TransDiff–最简洁的AR Transformer + Diffusion图像生成方法
本文介绍了一种新的图像生成方法TransDiff,它结合了AR Transformer和Diffusion模型,并提出了Multi-Reference Autoregression(MRAR)范式。TransDiff使用较小的Diffusion Decoder显著降低参数量,同时在基准测试中表现出色。
本文介绍了一种新的图像生成方法TransDiff,它结合了AR Transformer和Diffusion模型,并提出了Multi-Reference Autoregression(MRAR)范式。TransDiff使用较小的Diffusion Decoder显著降低参数量,同时在基准测试中表现出色。
Google Research NYC团队提出的新架构Titans在语言建模、常识推理等任务上超越了Transformer和Mamba等模型,展示了高效的记忆模块。