轻松搞定DeepSeek本地部署
到了这里,我们就在本地成功安装和部署了DeepSeek R1模型了,但是看到这里,我想对大多数非IT 行业的小伙伴来说,脑海会有无数的小问号,能否像豆包之类的AI, 有一个可视化的桌面或者APP, 毕竟他们可能不知道何为终端,怎么打开终端, 别急,接下来,带你实现DeepSeek的可视化使用。大家相信都知道算力的概念,既然是本地部署,就要更具自己电脑的配置情况,选择适合自己电脑配置的模型,这里小小
前言:
最近DeepSeek太火了,也算是国产AI之光了,以至于每个小伙伴都想试试。DeepSeek 的到来可谓是开启了全民AI热潮。
本以为DeepSeek本地化部署有多难,实际上验证后很简单,操作起来就像给电脑装个新软件那么简单,大约十多分钟可完成本地部署。
今天咱们来聊聊如何在自己的电脑上本地部署 DeepSeek模型。
1. 为啥选择本地部署?
在做的小伙伴可能跟我一样在使用DeepSeek时,经常遇到“服务器繁忙,请稍后再试。”
是不是是很扎心?主要还是DeepSeek太火了,用的人比较多,很容易导致服务器过载,加上美酱的恶意攻击,懂得都懂,不繁忙才怪,正是如此,我们可以选择本地话部署,这样就可避免上述问题。
2. 本地部署DeepSeek前的准备工作
大家相信都知道算力的概念,既然是本地部署,就要更具自己电脑的配置情况,选择适合自己电脑配置的模型,这里小小科普一下,算法模型,参数越多,往往覆盖场景更多,更全,也更精准,随之而来,对硬件的算力要求也是越来越高的。
因此在选择在本地部署DeepSeek模型前,先查看一下自己电脑的配置信息,更具电脑的配置决定选取什么模型?
比如下图是window 系统查看具体配置情况,打开任务管理器就能看见具体的硬件配置信息,比如cpu, 显卡,内存…
3. DeepSeek 不同版本模型硬件要求
以下是 DeepSeek 不同版本模型的硬件要求,小伙伴们可以结合自己电脑配置选择版本:
4. 为啥要部署 DeepSeek-R1-1.5B?
先说说为啥我推荐这个版本吧。其一就是上面提到的我个人电脑的配置,其二是DeepSeek-R1-1.5B 是一个轻量级的模型,参数量只有 15 亿,听起来是不是很“迷你”?但别小瞧了它,这可是个“小而精”的家伙。它只需要 3GB 的显存就能运行,这意味着即使你的电脑配置不高,也能轻松驾驭它。而且,它在数学推理方面表现相当出色,甚至在某些基准测试中超过了 GPT-4o 和 Claude 3.5。当然了,如果你电脑配置更高,可以尝试其他版本。
现在官网有三个大版本,分别是DeepSeek-R1系列, DeepSeek-V3系列,DeepSeek-VL2系列
官方也列出了三个系列和主流国际AI 对比的统计对比图,如下图所示,如果你是高配置电脑,可以选择更高更好版本:
更多介绍和使用参看官方ReadMe文档
看了上面强悍的算力是不是被DeepSeek的强大震惊了,让我们一起为国产AI 的强大欢呼点赞吧。
5. 开启本地部署
DeepSeek提供了一个第三方托管工具-Ollama, 我们可以通过Ollama下载DeepSeek的模型。
5.1 下载并安装Ollama
访问官网:https://ollama.com/ 下载, 打开如下图所示:
当然也可直接到GitHub下载:
这里注意选择自己的终端版本,由于我的是mac 电脑,所以选择mac os版本。
如果下载过于缓慢可以使用迅雷之类的加速下载, 下载完毕后双击安装就好,没有特别配置,无脑选择下一步就好。
5.2 检验Ollama是否安装成功
下载安装完毕,只需要在终端输入以下 ollama -v 命令,出现如下版本号说明安装成功:
5.3 通过 Ollama 拉取 DeepSeek 模型
这里我选择是的1.5b,整个模型大小1.1 GB。
1.5B:适用于轻量级任务,如边缘设备(如智能手表、物联网设备)上的简单交互、小型智能问答系统等。目前开源的最小版本。
671B:主要用于大规模云端推理,适合科研分析、数据挖掘等需要处理海量数据的复杂任务。目前开源的最强版本
更多版本可以在这里查看:https://ollama.com/library/deepseek-r1 。
命令行输入:ollama run deepseek-r1:1.5b 拉取DeepSeek模型:
注意:因为我这里是提前安装了,如果是第一次安装,执行上面命令,会实时更新安装进度百分比。
整个拉取过程还是比较丝滑的,5到6分钟后看到【success】字样,代表成功安装DeepSeek R1,然后就可以与DeepSeek对话了
5.4 开始与DeepSeek对话
通过上面步骤之后,我们就可以愉快的与Deep Seek对话了,如输入:DeepSeek和ChatGPT对比优缺点有哪些?
到了这里,我们就在本地成功安装和部署了DeepSeek R1模型了,但是看到这里,我想对大多数非IT 行业的小伙伴来说,脑海会有无数的小问号,能否像豆包之类的AI, 有一个可视化的桌面或者APP, 毕竟他们可能不知道何为终端,怎么打开终端, 别急,接下来,带你实现DeepSeek的可视化使用。
6. 安装WebUI可视化工具
使用命令提示符与DeepSeek对话并不友好,为了更好的体验,我们可以安装WebUI,这里使用的是浏览器插件:Page Assit。这里以谷歌浏览器举个例子。
首先打开谷歌浏览器,进入谷歌浏览器的应用商店,搜索Page Assit即可,
进入谷歌浏览器的应用商店快捷操作,已在下图给了标注:
搜到Page Assit后直接点击安装即可,如下图所示(我这里是提前安装过的):
一般安装好Page Assit,在浏览器右上角会有一个信息的icon, 如下图所示:
接着启动ollama服务,启动ollama服务后,输入快捷键【ctrl + shift+L】快捷键即可打开WebUI页面,或者点击右上角的信息小icon.
刚安装Page Assit 插件, 需要进行一下如下设置:
设置完成后,选择模型就可以与DeepSeek对话了, 如下图所示,比如我们继续问:DeepSeek和ChatGPT对比优缺点有哪些?
提交查看结果:
7. 实际应用场景:DeepSeek-R1-1.5B 能干啥?
别看 DeepSeek-R1-1.5B 体积小,它可一点都不“弱”。它非常适合用在一些轻量级的任务上,比如:
- 智能客服:在小型企业或者个人项目中,它可以快速回答客户的一些常见问题,提高服务效率。
- 语言学习:你可以用它来练习语言表达,比如输入一个中文句子,让它生成英文翻译。
- 创意写作:如果你是个作家或者文案策划,它可以帮你快速生成一些创意片段或者文案初稿
- 短视频热点文案
更多推荐
所有评论(0)