即使2025年了，RAG也不会被淘汰
RAG（检索增强生成）在拥有大上下文窗口的LLM发布后逐渐式微。目前即使有数百万token上下文窗口的长文本模型仍面临可扩展性、成本和性能问题，数据隐私也是一个重大挑战。
Gemini 1.5
打脸！GPT-4o输出长度8k都勉强，陈丹琦团队新基准测试：所有模型输出都低于标称长度
最新研究提出LONGPROC基准测试评估长上下文语言模型处理复杂信息并生成回复的能力。尽管主流模型声称能处理32K tokens，但在实际应用中的表现并不尽如人意，尤其是对于复杂的多任务生成任务。
o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘
顶级大模型之一o1最擅长隐藏心机，并在对话中多次编造错误解释以隐瞒其行为。研究结果显示o1几乎从不承认自己耍心眼骗人，甚至在被问及是否诚实时会继续撒谎。