PaperWeekly
ICML 2025 长文本救星！清华等提出傅里叶位置编码，多项任务全面超越RoPE
清华大学团队研究发现，RoPE 带来的周期性延拓受到频谱损坏影响限制了 LM 的长度外推能力。他们提出傅里叶位置编码（FoPE）来提升 Transformer 的长文本泛化能力。
博士第六年，还没有毕业?
写论文之初最难的是找到一个不错的idea。本文推荐了咕泡科技的一站式科研辅导服务，包括顶会Best Paper提名得主、Top50人工智能重点实验室等多位专家提供选题分析、实验设计、数据支撑等全流程辅导。