腾讯最新QO技术研究综述,四大类Query优化:扩展、分解、消歧、抽象
查询优化(QO)对于提高大模型RAG的有效性和精确性至关重要。它通过改进用户的原始查询来解决多种挑战,包括模糊的语义、复杂的要求以及查询与目标文档之间的相关性差异。
Query Expansion(查询扩展)
查询扩展技术对于提高检索增强生成的性能至关重要,尤其是当与大型语言模型(LLMs)集成时。查询扩展可以基于不同的知识来源,分为内部扩展和外部扩展。
Internal Expansion(内部扩展)
External Expansion(外部扩展)
Question Decomposition(问题分解)
对于复杂查询,简单地使用原始查询进行搜索通常无法检索到足够的信息。因此,LLMs需要先将这些查询分解成更简单、可回答的子查询,然后搜索与这些子组件相关的信息。通过整合这些子查询的响应,LLMs能够构建对原始查询的全面响应。
Query Disambiguation(查询消歧)
查询消歧旨在识别和消除复杂查询中的歧义,确保查询是明确的。这涉及到确定查询中可能被多种方式解释的元素,并细化查询以确保单一、精确的解释。
Query Abstraction(查询抽象)
查询抽象旨在提供对事实需求的更广泛视角,可能导致更多样化和全面的结果。这涉及到识别和提炼查询的基本意图和核心概念元素,然后创建一个高层次的表示,捕捉本质含义的同时去除具体细节。
查询优化技术分类树提供了一个清晰的层次结构,帮助理解不同技术之间的关系和它们在查询优化过程中的作用。
-
内部扩展(Internal Expansion): 包括GENREAD、GUIDECQR、QUERY2DOC等技术,它们通过生成与查询相关的文档或利用LLMs已有的知识来扩展查询。
-
外部扩展(External Expansion): 包括MUGI、KNOWLEDGPT等技术,它们通过从外部数据源检索信息来扩展查询。
-
包括RAG-STAR、PLAN×RAG、CONTREGEN等技术,它们将复杂的多跳查询分解为更简单、可管理的子查询或任务。
-
包括RSTAR、RQ-RAG、RAFT等技术,它们旨在消除查询中的歧义,确保查询的明确性,以便更准确地检索信息。
-
包括SIMGRAG、COA、CRAFTING-THE-PATH等技术,它们通过抽象查询的本质意图和核心概念,以获取更广泛和全面的结果。
查询优化核心技术的分类树
A Survey of Query Optimization in Large Language Models
https://arxiv.org/pdf/2412.17558
(文:PaperAgent)