【实战】个人部署DeepSeek-R1完整指南!|腾讯ima打造智能工作台指南!

本文将指导您如何在个人电脑上部署和使用 DeepSeek-R1(无限制版)。通过图文并茂的步骤说明,即使是初学者也能轻松完成部署。建议您使用电脑浏览本文,以获得最佳阅读体验。

DeepSeek-R1 的官方完整版拥有 6710 亿参数(即 671B),需要极高的计算能力才能运行。据估计,运行该完整版模型的硬件成本约为 200 万人民币,这对于大多数个人用户而言难以承受。

然而,官方也提供了更小规模的模型版本供研究和学习使用,例如:7B、8B、14B、32B 等。随着参数数量的减少,模型的性能也会相应下降,可能在使用中感觉“没有官方完整版智能”。但对于日常学习和研究,这些模型版本已基本足够。

以下是部署这些小型模型的基本步骤:

  1. 环境准备:确保您的电脑具备足够的硬件配置,建议至少有 16GB 内存和一块支持 CUDA 的 NVIDIA 显卡。

  2. 安装必要的软件:安装 Python 3.8 及以上版本,并确保已安装 pip。然后,使用 pip 安装所需的库,例如 torchtransformers 等。

  3. 获取模型文件:从官方渠道下载所需的模型文件,并将其解压到指定目录。

  4. 加载模型:编写或使用现有的脚本加载模型,并进行推理测试。

请注意,具体的部署步骤可能因模型版本和个人电脑配置而异。建议参考官方文档或社区提供的详细教程,以确保部署过程顺利。

通过按照下述步骤,您可以在个人电脑上体验 DeepSeek-R1 的强大功能,为您的研究和学习提供有力支持。

一、下载并安装Ollama

1. 复制进浏览器,根据你的电脑系统,下载:

https://ollama.com/download

2、下载完成后,双击打开,点击“Install”

3、安装完成后,将下方地址复制进浏览器中。如果出现下方字样,表示安装完成

http://127.0.0.1:11434/

二、下载deepseek-r1(无审查)模型

1、查看你的电脑显存容量

Mac 电脑:

  1. 点击屏幕左上角的苹果图标,选择“关于本机”。

  2. 在弹出的窗口中,您将看到有关 Mac 的概览信息,包括处理器、内存和图形卡等。

  3. 如果需要更详细的信息,点击“系统报告”。

  4. 在左侧栏中选择“图形/显示”,右侧将显示有关图形卡的详细信息,包括显存大小。

Windows 电脑:

  1. 按下 Ctrl + Shift + Esc 组合键,打开任务管理器。

  2. 点击“性能”选项卡。

  3. 在左侧选择“GPU”,右侧将显示显存使用情况和总量。

或者,您也可以使用 DirectX 诊断工具查看:

  1. 按下 Win + R 组合键,打开运行对话框。

  2. 输入 dxdiag 并回车,打开 DirectX 诊断工具。

  3. 切换到“显示”选项卡,在其中可以看到显卡的详细信息,包括显存大小。

2、打开终端

在 Windows 电脑上打开命令提示符(Command Prompt),请按下 Win + R 键,输入 cmd,然后按回车键。

在 Mac 电脑上,您可以按下 Command(⌘)+ Space 键打开 Spotlight 搜索,输入“终端”,然后按回车键即可打开终端应用程序。

2、复制以下命令行,粘贴进入,点击回车:

ollama run huihui_ai/deepseek-r1-abliterated:7b

如果你的电脑显存是8G或者你不清楚是多少,则直接使用上方的命令执行。

如果你的电脑显存更大,可以自由选择其他参数版本的模型进行下载,下载命令如下(仅需使用其中一个即可):

7b模型的下载命令:ollama run huihui_ai/deepseek-r1-abliterated:7b
8b模型的下载命令:ollama run huihui_ai/deepseek-r1-abliterated:8b
14b模型的下载命令:ollama run huihui_ai/deepseek-r1-abliterated:14b
32b模型的下载命令:ollama run huihui_ai/deepseek-r1-abliterated:32b
70b模型的下载命令:ollama run huihui_ai/deepseek-r1-abliterated:70b

3、回车后,会开始自动下载。

(这里下载会慢,一般不会出错,属于正常现象,请深呼吸,泡杯咖啡,刷会儿手机,静候佳音即可~)

如果真的等到怀疑人生,拉到最下边加我好友,我直接给你发压缩包,省时又省心!😆

(这里下载久了,可能会觉得时间静止了,进度条仿佛在冥想……🤔 别急!鼠标点一下窗口,键盘敲个空格,下载状态立马苏醒,继续前进!🚀)

4、下载完成后你会发现,大模型已经在本地运行了。

接下来,我们要探讨的是腾讯近期推出的ima.copilot智能工作台。这款工具无疑将成为工作和学习的得力助手,助力你实现效率的飞跃提升。

ima.copilot,简称ima,是腾讯近期推出的创新工具。它超越了普通工具的范畴,成为一个独具智慧的知识库,为用户带来革命性的搜索、阅读和写作体验。目前,这款工具已可在Mac和Windows平台上轻松获取,其官网地址为:https://ima.qq.com/。

对于众多文字创作者来说,ima.copilot 无疑是一个强大的得力助手!🎯

它不仅具备智能写作能力,无论是学术论文、学生作文,还是营销文案、商业报告,都能提供精准支持,让创作变得更加高效流畅。📝✨

更值得一提的是它的文档解读功能!📄📌 你是否曾经被一堆长篇大论的文件压得头昏脑胀?别担心,ima.copilot 能快速提炼关键内容,让你一目了然,省时又省力!⏳💡

你最期待 AI 帮你优化哪些写作或阅读场景?评论区聊聊吧!⬇️

(文:AI技术研习社)

欢迎分享

发表评论