deekseek-r1本地部署指南
·
最近网络关于deepseek的使用非常火,关于deepseek是一个超强开源版本的大模型,效果超过Chat GPT,并且提供了支持本地部署的版本,本教程旨在让读者学会本地部署。
本机的硬件配置为
CPU:Intel i9 13900HX
GPU:RTX 4060 8G
MEMORY:16G
SYSTEM: win11
以上硬件配置仅供参考
关于部署的具体步骤如下:
1.安装ollama
(1)首先进入 ollama 官网https://ollama.com/

(2)然后点击download,选择本地电脑对应的版本

下载完成后查看安装包进行安装。
特别注意的是:安装ollama会默认使用C盘,确保你的C盘有足够多的空间可以安装 ollama 及后续的大模型,建议C盘空间 ≥12G
安装完成后在电脑开始页面启动 ollama,然后查看任务栏,有 ollama 图标意味着 ollama已经启动。
2.下载模型
(1)我们回到 ollama 官网,选择官网首页左上角的models

(2)选择熟悉能看到的R1,点击后进入这个页面,就可以选择自己想要下载的模型进行下载:(在当前我的配置基础,建议下载depseek-R1:8b这个模型,选择8b这个模型后,复制右侧的命令);(具体选择那个模型还要参考自己的电脑配置)

(3)win+R组合键,输入cmd,切换到cmd命令窗口,在窗口中粘贴刚才复制的命令
ollama run deepseek-r1:8b
这样模型就可以开始下载了。
(4)模型下载完成后,输入ollama list可以查看到自己下载的模型。
ollama list

3.使用自己部署的本地deepseek模型
在自己关闭了deepseek之后但是还想再次使用,
再次打开cmd
输入命令ollama run deepseek-r1:8b即可再次运行自己部署的deepseek。
4.在其他平台使用deepseek模型
deepseek模型可以在本地使用,也可以使用其他的平台接入deeepseek模型使用,详细可以参考其他教程。
在最后说明:基于大家的电脑配置,除了能够下载完整版的deepseek模型并运行,是满血版的之外,其余下载的仅供自己测试使用
更多推荐


所有评论(0)