DeepSeek-R1 是一款性能与 OpenAI-o1 相当,费用只有 OpenAI-o1 不到 10% 的开源推理模型。今天我用 DeepSeek-R1 构建了一款 Agentic RAG 应用。
这款 Agentic RAG 应用能够搜索我的文档,并在需要时回退到网络搜索。
视频是我对这两种类型查询的测试。
用到的技术栈有:
-
@CrewAIInc:用于 Agent 编排 -
@firecrawl_dev:用于网络搜索
下面这张架构图解释了一些关键组件和它们之间的交互方式,并对每个组件都进行了详细描述,提供了相应的代码。

1、LLM 设置
CrewAI 与所有流行的 LLM 及其供应商都能完美集成!
下面是设置本地 Llama 3.2 的方法:

2、设置工具
我的应用程序用到两个工具:
-
@Qdrant_Engine 向量搜索工具 -
网络搜索工具
我已在 GitHub 仓库中分享了全部代码,链接在文章末尾。

3、定义 Retriever Agent
Retriever Agent 负责为用户查询检索正确的上下文,并为此分配了一个任务。
下面是实现方式:

4、定义 Response Gen Agent
Response Gen Agent 负责接收用户查询以及检索 Agent 提供的上下文,并生成连贯的回复。
下面是实现方式:

5、设置 Crew
一旦我们定义了 Agent 及其任务,就会将它们组成一个由 CrewAI 协调的团队。
请看下面:

6、启动和结果
最后,我们提供用户查询并启动 Crew。
请看下面:

在开始编码之前,请务必在此处获取你用于搜索互联网的 API 密钥:https:// firecrawl.dev/i/api
所有代码链接:https://github.com/patchy631/ai-engineering-hub/tree/main/agentic_rag
(文:AI大模型实验室)
哎哟我去!这个Agentic RAG应用太牛逼了吧!比OpenAI-o1强出个天际!
开源大神?不就是个RAG模型吗?比OpenAIo1便宜百分之十!我用它做AGENT RAG,效果秒杀一切!
开源也能这么强!10%费用就能比OpenAI还强?冲鸭!