还在为 RAG 的“幻觉”和“逻辑无能”困扰?别担心,蚂蚁集团 OpenSPG 团队推出大模型知识服务框架 KAG (Knowledge Augmented Generation),通过 LLM 友好的知识表示和逻辑形式引导的混合推理引擎,给大模型装上“知识大脑”,让大模型不仅能“记住”知识,更能“理解”和“运用”知识,在多跳问答任务中超越 SOTA,为构建垂直领域知识库的逻辑推理问答解决方案开辟了新路径,带你解锁大模型应用的无限可能!更重要的是,这套框架已在蚂蚁集团内部的实际业务场景中得到验证,效果拔群!
年度AI合集
RAG 遇瓶颈:专业领域知识问答路在何方?
检索增强生成(Retrieval-Augmented Generation, RAG)技术,通过外挂知识库,为大模型提供了获取外部知识的途径,已成为大模型应用开发的“标配”范式。简单来说,RAG 就是让大模型先从海量知识库中检索与问题相关的信息,再结合检索到的信息生成答案,从而提高答案的准确性和可靠性。
然而,传统的 RAG 方案在处理专业领域的知识问答时,却 often 捉襟见肘,表现不尽如人意。其局限性主要在于:
-
• 向量检索,差之毫厘,谬以千里: RAG 主要依赖向量相似度进行检索,但向量相似度计算往往存在歧义性,难以准确捕捉用户查询与知识之间的深层语义关联,导致检索结果不尽人意,甚至“跑偏”,出现“驴唇不对马嘴”的尴尬情况。 -
• 逻辑推理,臣妾做不到啊: RAG 对知识的逻辑关系(如数值大小、时间先后、因果关系等)不敏感,难以处理需要复杂推理的专业问题,面对需要多跳推理的复杂问题时,更是“心有余而力不足”,无法给出令人信服的答案。
专业领域知识问答,恰恰需要更强的逻辑推理能力和知识准确性,传统 RAG 方案的“硬伤”该如何“破局”?
KAG 框架:开启知识增强生成新范式
为了解决 RAG 的局限性,蚂蚁集团 OpenSPG 团队潜心研发,推出了专为垂直领域知识问答而生的 KAG (Knowledge Augmented Generation) 框架。KAG 基于 OpenSPG 引擎和大型语言模型,旨在构建更加智能、更加可靠的垂直领域知识库的逻辑推理问答解决方案,让大模型更懂专业知识。
相比于传统的 RAG 方案,KAG 框架具有显著的优势:
-
• 支持逻辑推理和多跳事实问答: KAG 不仅能处理简单的检索问答,更能进行复杂的逻辑推理和多跳事实问答,满足专业领域对推理能力的高要求。 -
• 性能更优: 在公开数据集和实际应用场景中,KAG 的性能均超越了当前的 SOTA 方法,实现了质的飞跃。 -
• 更懂专业知识: KAG 专为垂直领域知识问答而生,能够更好地理解和利用专业知识,给出更专业、更精准的答案。
图 1:KAG 技术架构图
KAG 的“杀手锏”:双引擎驱动,逻辑推理更精准!
KAG 框架的强大能力源于其两大核心技术:LLM 友好的知识表示和逻辑形式引导的混合推理引擎。这两大引擎协同工作,使得 KAG 能够更好地理解和利用专业知识,从而实现更精准高效的知识推理。
1. LLM 友好的知识表示:让知识与大模型无缝衔接
传统的知识表示方法,如图数据库中常用的属性图,往往侧重于图结构的表示,而忽略了与大模型的兼容性。KAG 则提出了一种 LLM 友好的知识表示框架,打通了大模型与知识之间的壁垒。
-
• 升级 SPG 知识表示能力: KAG 以 OpenSPG 的语义化知识表示为基础,并进行了升级,使其能够兼容无 schema 约束的信息提取和有 schema 约束的专业知识构建。这意味着 KAG 可以同时处理非结构化文本和结构化数据,并根据需要灵活地构建知识图谱,让知识构建更灵活,打破了传统图数据库对 schema 的强依赖。 -
• 互索引表示: KAG 引入了互索引表示机制,支持图结构与原始文本块之间的双向索引。这种机制使得大模型可以根据图结构的查询快速定位到相关的原始文本,从而更好地理解知识的上下文信息;同时,也可以根据文本信息快速定位到图谱中对应的实体和关系,让信息检索更高效,让大模型更方便地利用知识图谱的信息。 -
• 知识对齐: KAG 通过知识理解、语义对齐等技术降低信息抽取的噪声,提升知识的准确率和一致性,让知识更可靠。
图 2:LLM 友好的知识表示示意图
2. 逻辑形式引导的混合推理引擎:让推理更精准高效
传统的 RAG 方案主要依赖向量相似度进行检索,难以进行复杂的逻辑推理。KAG 则引入了逻辑符号引导的混合推理引擎,将规划、推理和检索三种类型的运算符有机结合,将自然语言问题转化为结合语言和符号的问题求解过程,让机器像人一样思考!
KAG 的混合推理引擎巧妙集成了四种问题求解过程,让能力更全面:
-
• 图谱推理: 利用知识图谱的结构信息和语义关系进行推理,例如根据实体之间的关系链进行多跳推理。 -
• 逻辑计算: 执行数值计算、时间推断等逻辑运算,处理需要精确计算的问题。 -
• Chunk 检索: 从原始文本块中检索相关信息,为大模型提供更丰富的上下文信息。 -
• LLM 推理: 利用大模型的推理能力进行信息补全和生成,提高答案的准确性和完整性。
通过将这四种问题求解过程有机结合,KAG 的混合推理引擎能够实现更强大、更灵活的推理能力,从而更好地解决专业领域的复杂问题。
图 3:逻辑形式引导的混合推理引擎示意图
KAG 实战:性能超越 SOTA,落地蚂蚁两大场景
KAG 不仅在理论上具有创新性,在实际应用中也展现出了强大的能力。
在公开数据集上,KAG 在多跳问答任务中显著优于 NaiveRAG、HippoRAG 等 SOTA 方法。在 hotpotQA 数据集(一个具有挑战性的多跳问答数据集)上,KAG 的 F1 分数相对提高了 19.6%;在 2wiki 数据集(一个需要从多个维基百科页面中检索信息的多跳问答数据集)上,F1 分数相对提高了 33.5%。这些数据充分证明了 KAG 在处理复杂推理问答任务方面的优越性。
图 4:KAG 在公开数据集上的效果
除了公开数据集,KAG 已经成功应用于蚂蚁集团的两个实际业务场景:电子政务问答和电子健康问答。在这两个场景中,KAG 展现出了卓越的专业性,相比 RAG 方法,能够更准确地理解用户的查询意图,并给出更符合专业知识的答案,效果显著。
蚂蚁黑产挖掘应用
黑产挖掘是蚂蚁集团安全智能部门的重要任务之一。黑产团伙通常会注册和使用虚假账号进行违法活动,例如赌博、诈骗等。KAG 能够利用知识图谱和逻辑推理能力,挖掘出隐藏的黑产团伙。
例如,在黑产挖掘场景中,可以定义如下规则:
-
• 赌博 App 认定规则: 如果一个 App 被用户投诉为赌博应用,或者该 App 的介绍中包含赌博相关的关键词,则该 App 可以被认定为赌博 App。 -
• App 开发者认定规则: 如果一个用户拥有某个 App 的开发权限,则该用户可以被认定为该 App 的开发者。 -
• 赌博 App 开发者认定规则: 如果一个用户开发了一个赌博 App,并且该用户拥有多台设备,且这些设备上都安装了该赌博 App,则该用户可以被认定为赌博 App 的开发者。
基于这些规则,KAG 可以从海量的用户、App 和设备数据中,自动推理出赌博 App 的开发者,从而协助安全部门打击黑产团伙。
下图为黑产挖掘应用的具体示例:
图 5:蚂蚁黑产挖掘应用
蚂蚁医疗图谱应用
医疗知识问答是另一个 KAG 成功应用的场景。通过构建医疗知识图谱,KAG 可以帮助用户快速准确地获取医疗信息,解答健康疑问。
例如,用户可以询问“治疗甲状腺结节的方法有哪些?”,KAG 可以利用其逻辑推理引擎,结合医学知识图谱和专家定义的规则,给出专业的治疗建议,例如“放射性碘治疗”、“复方碘口服液(Lugol液)”或“抗甲状腺药物”等。
下图为医疗图谱应用的具体示例:
图 6:蚂蚁医疗图谱应用
KAG 扩展与未来:开放生态,持续进化
KAG 框架具有良好的扩展性和开放性,为未来的持续进化奠定了坚实的基础。
-
• KAG 扩展能力: -
• BuilderChain 模式支持灵活的组件扩展,用户可以根据自己的需求定制不同的组件,例如 Reader、Splitter、Mapping、Extractor、Aligner、Vectorizer 等,以满足不同场景的需求。 -
• 支持自定义推理、生成和表示模型,用户可以将自己的模型集成到 KAG 框架中,让 KAG 更强大。 -
• 可集成到其他框架,提供图谱构建和推理问答能力,KAG 可以作为插件嵌入到其他系统中,让 KAG 无处不在。 -
• 未来计划: -
• 领域知识注入,通过引入更多领域的专业知识,让 KAG 更懂你的行业。 -
• 领域 schema 自定义,提供更加灵活的 schema 定制功能,让 KAG 更贴合你的业务。 -
• 摘要生成类任务支持,除了问答之外,KAG 还将支持摘要生成等更多任务类型,让信息获取更便捷。 -
• 可视化图分析查询,提供更加直观的图分析和查询工具,让知识洞察更直观。 -
• 逻辑推理优化,进一步提升逻辑推理的效率和准确性,让推理能力更强大。 -
• 对话式任务支持,支持多轮对话交互,让交互体验更自然。 -
• kag-model 发布,我们将逐步开源 kag-model,敬请期待。 -
• 事理图谱和医疗图谱的 KAG 解决方案发布,我们将推出更多领域的 KAG 解决方案,更多领域应用正在路上。 -
• kag 前端开源,我们将开源 KAG 的前端代码,让 KAG 更易用。 -
• 分布式构建支持,支持更大规模的知识图谱构建,让 KAG 处理更大规模数据。 -
• 数学推理优化,提升 KAG 在数学推理方面的能力,让 KAG 解决更复杂问题。
KAG 引领知识问答迈向新高度
KAG 框架的推出,为大模型时代的知识问答领域带来了新的突破。其两大核心技术:LLM 友好的知识表示和逻辑形式引导的混合推理引擎,有效解决了传统 RAG 方案的局限性,使得 KAG 能够更好地处理专业领域的复杂知识问答任务。
KAG 不仅在理论上具有创新性,在实际应用中也展现出了强大的能力。在公开数据集和蚂蚁集团的实际业务场景中,KAG 都取得了显著的性能提升,超越了当前的 SOTA 方法。
此外,KAG 框架具有良好的开放性和可扩展性,支持灵活的组件定制和模型集成,为未来的持续进化奠定了坚实的基础。我们相信,KAG 将引领知识问答领域迈向新的高度,为构建更加智能、更加可靠的知识服务提供强有力的支撑!
相关链接
-
• GitHub 代码库: https://github.com/OpenSPG/KAG -
• OpenSPG 官网: https://spg.openkg.cn/ -
• KAG 介绍和应用: https://github.com/orgs/OpenSPG/discussions/52 -
• 论文:KAG: 通过知识增强生成提升专业领域大模型能力: https://arxiv.org/abs/2409.13731
AI行业趋势
【点击此处,订阅“AI行业趋势”合集】,为您揭示人工智能领域的最新动态与未来走向。合集汇集了众多行业专家的深度洞察,涵盖AI技术革新、市场格局演变、应用场景拓展等多个维度。无论您是AI从业者、投资者,还是对AI充满好奇的普通读者,都能从中获得启发与思考。紧跟AI步伐,把握行业脉搏,“AI行业趋势”助您洞悉未来,引领变革!
(文:子非AI)