前言:

最近DeepSeek太火了,也算是国产AI之光了,以至于每个小伙伴都想试试。DeepSeek 的到来可谓是开启了全民AI热潮。

本以为DeepSeek本地化部署有多难,实际上验证后很简单,操作起来就像给电脑装个新软件那么简单,大约十多分钟可完成本地部署。

今天咱们来聊聊如何在自己的电脑上本地部署 DeepSeek模型。

1. 为啥选择本地部署?

在做的小伙伴可能跟我一样在使用DeepSeek时,经常遇到“服务器繁忙,请稍后再试。”
在这里插入图片描述
是不是是很扎心?主要还是DeepSeek太火了,用的人比较多,很容易导致服务器过载,加上美酱的恶意攻击,懂得都懂,不繁忙才怪,正是如此,我们可以选择本地话部署,这样就可避免上述问题。

2. 本地部署DeepSeek前的准备工作

大家相信都知道算力的概念,既然是本地部署,就要更具自己电脑的配置情况,选择适合自己电脑配置的模型,这里小小科普一下,算法模型,参数越多,往往覆盖场景更多,更全,也更精准,随之而来,对硬件的算力要求也是越来越高的。

因此在选择在本地部署DeepSeek模型前,先查看一下自己电脑的配置信息,更具电脑的配置决定选取什么模型?

比如下图是window 系统查看具体配置情况,打开任务管理器就能看见具体的硬件配置信息,比如cpu, 显卡,内存…
在这里插入图片描述

3. DeepSeek 不同版本模型硬件要求

以下是 DeepSeek 不同版本模型的硬件要求,小伙伴们可以结合自己电脑配置选择版本:
在这里插入图片描述

4. 为啥要部署 DeepSeek-R1-1.5B?

先说说为啥我推荐这个版本吧。其一就是上面提到的我个人电脑的配置,其二是DeepSeek-R1-1.5B 是一个轻量级的模型,参数量只有 15 亿,听起来是不是很“迷你”?但别小瞧了它,这可是个“小而精”的家伙。它只需要 3GB 的显存就能运行,这意味着即使你的电脑配置不高,也能轻松驾驭它。而且,它在数学推理方面表现相当出色,甚至在某些基准测试中超过了 GPT-4o 和 Claude 3.5。当然了,如果你电脑配置更高,可以尝试其他版本。

现在官网有三个大版本,分别是DeepSeek-R1系列DeepSeek-V3系列DeepSeek-VL2系列

官方也列出了三个系列和主流国际AI 对比的统计对比图,如下图所示,如果你是高配置电脑,可以选择更高更好版本:

  1. DeepSeek-R1:
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    更多介绍和使用参看官方ReadMe文档

  2. DeepSeek-VL2
    在这里插入图片描述
    更多介绍和使用参看官方ReadMe文档

  3. DeepSeek-V3
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

更多介绍和使用参看官方ReadMe文档

看了上面强悍的算力是不是被DeepSeek的强大震惊了,让我们一起为国产AI 的强大欢呼点赞吧。

5. 开启本地部署

DeepSeek提供了一个第三方托管工具-Ollama, 我们可以通过Ollama下载DeepSeek的模型。

5.1 下载并安装Ollama

访问官网:https://ollama.com/ 下载, 打开如下图所示:
在这里插入图片描述
当然也可直接到GitHub下载:
在这里插入图片描述
这里注意选择自己的终端版本,由于我的是mac 电脑,所以选择mac os版本。

如果下载过于缓慢可以使用迅雷之类的加速下载, 下载完毕后双击安装就好,没有特别配置,无脑选择下一步就好。

5.2 检验Ollama是否安装成功

下载安装完毕,只需要在终端输入以下 ollama -v 命令,出现如下版本号说明安装成功:
在这里插入图片描述

5.3 通过 Ollama 拉取 DeepSeek 模型

这里我选择是的1.5b,整个模型大小1.1 GB。

1.5B:适用于轻量级任务,如边缘设备(如智能手表、物联网设备)上的简单交互、小型智能问答系统等。目前开源的最小版本。
671B:主要用于大规模云端推理,适合科研分析、数据挖掘等需要处理海量数据的复杂任务。目前开源的最强版本

更多版本可以在这里查看:https://ollama.com/library/deepseek-r1 。
在这里插入图片描述
命令行输入:ollama run deepseek-r1:1.5b 拉取DeepSeek模型:

注意:因为我这里是提前安装了,如果是第一次安装,执行上面命令,会实时更新安装进度百分比。
在这里插入图片描述

整个拉取过程还是比较丝滑的,5到6分钟后看到【success】字样,代表成功安装DeepSeek R1,然后就可以与DeepSeek对话了在这里插入图片描述

5.4 开始与DeepSeek对话

通过上面步骤之后,我们就可以愉快的与Deep Seek对话了,如输入:DeepSeek和ChatGPT对比优缺点有哪些?
在这里插入图片描述

到了这里,我们就在本地成功安装和部署了DeepSeek R1模型了,但是看到这里,我想对大多数非IT 行业的小伙伴来说,脑海会有无数的小问号,能否像豆包之类的AI, 有一个可视化的桌面或者APP, 毕竟他们可能不知道何为终端,怎么打开终端, 别急,接下来,带你实现DeepSeek的可视化使用。

6. 安装WebUI可视化工具

使用命令提示符与DeepSeek对话并不友好,为了更好的体验,我们可以安装WebUI,这里使用的是浏览器插件:Page Assit。这里以谷歌浏览器举个例子。

首先打开谷歌浏览器,进入谷歌浏览器的应用商店,搜索Page Assit即可,
进入谷歌浏览器的应用商店快捷操作,已在下图给了标注:
在这里插入图片描述
搜到Page Assit后直接点击安装即可,如下图所示(我这里是提前安装过的):
在这里插入图片描述

一般安装好Page Assit,在浏览器右上角会有一个信息的icon, 如下图所示:
在这里插入图片描述

接着启动ollama服务,启动ollama服务后,输入快捷键【ctrl + shift+L】快捷键即可打开WebUI页面,或者点击右上角的信息小icon.

刚安装Page Assit 插件, 需要进行一下如下设置:
在这里插入图片描述
设置完成后,选择模型就可以与DeepSeek对话了, 如下图所示,比如我们继续问:DeepSeek和ChatGPT对比优缺点有哪些?
在这里插入图片描述
提交查看结果:
在这里插入图片描述

7. 实际应用场景:DeepSeek-R1-1.5B 能干啥?

别看 DeepSeek-R1-1.5B 体积小,它可一点都不“弱”。它非常适合用在一些轻量级的任务上,比如:

  • 智能客服:在小型企业或者个人项目中,它可以快速回答客户的一些常见问题,提高服务效率。
  • 语言学习:你可以用它来练习语言表达,比如输入一个中文句子,让它生成英文翻译。
  • 创意写作:如果你是个作家或者文案策划,它可以帮你快速生成一些创意片段或者文案初稿
  • 短视频热点文案
Logo

欢迎加入我们的广州开发者社区,与优秀的开发者共同成长!

更多推荐