模型上下文窗口

RAG（检索增强生成）在拥有大上下文窗口的LLM发布后逐渐式微。目前即使有数百万token上下文窗口的长文本模型仍面临可扩展性、成本和性能问题，数据隐私也是一个重大挑战。