llama.cpp 刚合并了一个新PR,终于让 DeepSeek-R1 支持 ToolCall了。本地部署DeepSeek最后一个短板终于补上了,考虑到DeepSeek官方其实并没有Agent平台,所以本地部署的DeepSeek-R1反而变得更强了,现在完全可以用多个Agent+ToolCall来完成工作流了。比如最想搭建的工作流就是本地文章写完了后自动审校。本地现在建议 OpenWebUI+llama.cpp运行即可。
参考文献:
[1] PR地址:https://github.com/ggerganov/llama.cpp/pull/9639
(文:NLP工程化)