本文将指导您如何在个人电脑上部署和使用 DeepSeek-R1(无限制版)。通过图文并茂的步骤说明,即使是初学者也能轻松完成部署。建议您使用电脑浏览本文,以获得最佳阅读体验。
DeepSeek-R1 的官方完整版拥有 6710 亿参数(即 671B),需要极高的计算能力才能运行。据估计,运行该完整版模型的硬件成本约为 200 万人民币,这对于大多数个人用户而言难以承受。
然而,官方也提供了更小规模的模型版本供研究和学习使用,例如:7B、8B、14B、32B 等。随着参数数量的减少,模型的性能也会相应下降,可能在使用中感觉“没有官方完整版智能”。但对于日常学习和研究,这些模型版本已基本足够。
以下是部署这些小型模型的基本步骤:
-
环境准备:确保您的电脑具备足够的硬件配置,建议至少有 16GB 内存和一块支持 CUDA 的 NVIDIA 显卡。
-
安装必要的软件:安装 Python 3.8 及以上版本,并确保已安装 pip。然后,使用 pip 安装所需的库,例如
torch
、transformers
等。 -
获取模型文件:从官方渠道下载所需的模型文件,并将其解压到指定目录。
-
加载模型:编写或使用现有的脚本加载模型,并进行推理测试。
请注意,具体的部署步骤可能因模型版本和个人电脑配置而异。建议参考官方文档或社区提供的详细教程,以确保部署过程顺利。
通过按照下述步骤,您可以在个人电脑上体验 DeepSeek-R1 的强大功能,为您的研究和学习提供有力支持。
一、下载并安装Ollama
1. 复制进浏览器,根据你的电脑系统,下载:
https://ollama.com/download
2、下载完成后,双击打开,点击“Install”
3、安装完成后,将下方地址复制进浏览器中。如果出现下方字样,表示安装完成
http://127.0.0.1:11434/
二、下载deepseek-r1(无审查)模型
1、查看你的电脑显存容量
Mac 电脑:
-
点击屏幕左上角的苹果图标,选择“关于本机”。
-
在弹出的窗口中,您将看到有关 Mac 的概览信息,包括处理器、内存和图形卡等。
-
如果需要更详细的信息,点击“系统报告”。
-
在左侧栏中选择“图形/显示”,右侧将显示有关图形卡的详细信息,包括显存大小。
Windows 电脑:
-
按下
Ctrl + Shift + Esc
组合键,打开任务管理器。 -
点击“性能”选项卡。
-
在左侧选择“GPU”,右侧将显示显存使用情况和总量。
或者,您也可以使用 DirectX 诊断工具查看:
-
按下
Win + R
组合键,打开运行对话框。 -
输入
dxdiag
并回车,打开 DirectX 诊断工具。 -
切换到“显示”选项卡,在其中可以看到显卡的详细信息,包括显存大小。
2、打开终端
在 Windows 电脑上打开命令提示符(Command Prompt),请按下 Win + R
键,输入 cmd
,然后按回车键。
在 Mac 电脑上,您可以按下 Command(⌘)+ Space
键打开 Spotlight 搜索,输入“终端”,然后按回车键即可打开终端应用程序。
2、复制以下命令行,粘贴进入,点击回车:
ollama run huihui_ai/deepseek-r1-abliterated:7b
如果你的电脑显存是8G或者你不清楚是多少,则直接使用上方的命令执行。
如果你的电脑显存更大,可以自由选择其他参数版本的模型进行下载,下载命令如下(仅需使用其中一个即可):
7b模型的下载命令:
ollama run huihui_ai/deepseek-r1-abliterated:7b
8b模型的下载命令:
ollama run huihui_ai/deepseek-r1-abliterated:8b
14b模型的下载命令:
ollama run huihui_ai/deepseek-r1-abliterated:14b
32b模型的下载命令:
ollama run huihui_ai/deepseek-r1-abliterated:32b
70b模型的下载命令:
ollama run huihui_ai/deepseek-r1-abliterated:70b
3、回车后,会开始自动下载。
(这里下载会慢,一般不会出错,属于正常现象,请深呼吸,泡杯咖啡,刷会儿手机,静候佳音即可~)
如果真的等到怀疑人生,拉到最下边加我好友,我直接给你发压缩包,省时又省心!😆
(这里下载久了,可能会觉得时间静止了,进度条仿佛在冥想……🤔 别急!鼠标点一下窗口,键盘敲个空格,下载状态立马苏醒,继续前进!🚀)
4、下载完成后你会发现,大模型已经在本地运行了。
接下来,我们要探讨的是腾讯近期推出的ima.copilot智能工作台。这款工具无疑将成为工作和学习的得力助手,助力你实现效率的飞跃提升。
ima.copilot,简称ima,是腾讯近期推出的创新工具。它超越了普通工具的范畴,成为一个独具智慧的知识库,为用户带来革命性的搜索、阅读和写作体验。目前,这款工具已可在Mac和Windows平台上轻松获取,其官网地址为:https://ima.qq.com/。
对于众多文字创作者来说,ima.copilot 无疑是一个强大的得力助手!🎯
它不仅具备智能写作能力,无论是学术论文、学生作文,还是营销文案、商业报告,都能提供精准支持,让创作变得更加高效流畅。📝✨
更值得一提的是它的文档解读功能!📄📌 你是否曾经被一堆长篇大论的文件压得头昏脑胀?别担心,ima.copilot 能快速提炼关键内容,让你一目了然,省时又省力!⏳💡
你最期待 AI 帮你优化哪些写作或阅读场景?评论区聊聊吧!⬇️
(文:AI技术研习社)