刚刚,我用DeepSeek-R1搭建了一款RAG应用

DeepSeek-R1 是一款性能与 OpenAI-o1 相当,费用只有 OpenAI-o1 不到 10% 的开源推理模型。今天我用 DeepSeek-R1 构建了一款 Agentic RAG 应用。

这款 Agentic RAG 应用能够搜索我的文档,并在需要时回退到网络搜索。

视频是我对这两种类型查询的测试。

用到的技术栈有:

  • @CrewAIInc:用于 Agent 编排
  • @firecrawl_dev:用于网络搜索

下面这张架构图解释了一些关键组件和它们之间的交互方式,并对每个组件都进行了详细描述,提供了相应的代码。

1、LLM 设置

CrewAI 与所有流行的 LLM 及其供应商都能完美集成!

下面是设置本地 Llama 3.2 的方法:

2、设置工具

我的应用程序用到两个工具:

  1. @Qdrant_Engine 向量搜索工具
  2. 网络搜索工具

我已在 GitHub 仓库中分享了全部代码,链接在文章末尾。

3、定义 Retriever Agent

Retriever Agent 负责为用户查询检索正确的上下文,并为此分配了一个任务。

下面是实现方式:

4、定义 Response Gen Agent

Response Gen Agent 负责接收用户查询以及检索 Agent 提供的上下文,并生成连贯的回复。

下面是实现方式:

5、设置 Crew

一旦我们定义了 Agent 及其任务,就会将它们组成一个由 CrewAI 协调的团队。

请看下面:

6、启动和结果

最后,我们提供用户查询并启动 Crew。

请看下面:

在开始编码之前,请务必在此处获取你用于搜索互联网的 API 密钥:https:// firecrawl.dev/i/api

所有代码链接:https://github.com/patchy631/ai-engineering-hub/tree/main/agentic_rag


(文:AI大模型实验室)

欢迎分享

《刚刚,我用DeepSeek-R1搭建了一款RAG应用》有3条评论

  1. 开源大神?不就是个RAG模型吗?比OpenAIo1便宜百分之十!我用它做AGENT RAG,效果秒杀一切!

    回复

发表评论