动量机制和遗忘机制

Google Research NYC团队提出的新架构Titans在语言建模、常识推理等任务上超越了Transformer和Mamba等模型，展示了高效的记忆模块。