本人笔记本配置为宏碁暗影骑士擎,12700h+3060laptop+16g内存,根据deepseek回答,所以在这里使用量化版7B模型。


1、下载Ollama       

首先到Ollama官网去下载安装包,我是windows系统,所以这里下载Windows版本。

2、安装Ollama

注:无意间看到了这个视频新手不要用Ollama做Deepseek本地部署_哔哩哔哩_bilibili,才知道打开OllmaSetup.exe文件也是默认安装到了c盘,所以这里在网上查找资料后,参考了这篇文章通过Ollama本地部署DeepSeek R1以及简单使用的教程(超详细) - Qubernet - 博客园,所以这里也通过指令来安装到其他盘,就不直接打开OllmaSetup.exe进行安装了。

 

        我是通过右键windows菜单键然后打开的终端管理员,然后复制Ollama.exe的位置再接着执行安装操作。

1、先在F盘里新建Ollama文件夹,我接下来要把Ollama安装到这个F盘的文件夹里。 

mkdir "F:\Ollama"

2、然后把安装包移动到Ollama文件夹。 

move "F:\桌面\Edge浏览器下载\OllamaSetup.exe" "F:\Ollama\"

 3、再使用 cd 命令切换到“F:\Ollama”文件夹。

cd "F:\Ollama"

 

 4、进入F盘的Ollama文件后,运行OllamaSetup.exe指定安装到我自己新建的Ollama文件夹

.\OllamaSetup.exe /DIR="F:\Ollama"

 接下来会弹出Ollama的安装GUI。

点击Install安装,可以看到现在是安装在了F盘的Ollama文件夹

安装完成后默认在隐藏的托盘图标里

3、验证Ollama

新打开一个终端管理员,输入下边命令

ollama -v

出现下图内容则证明安装成功

4、修改大模型存储位置

接下来需要配置大模型下载存储的目录位置,默认是存储在C盘的

C:\User\quber\.ollama\models目录下。

打开环境变量,在用户变量中新建一个

变量名为"OLLAMA_MODELS",

变量值为"F:Ollama\models"

的用户变量,其中的变量值就是自己新建储存大模型文件夹的具体路径

参考文章:

本地部署大模型:修改Ollama模型文件存储路径 - 知乎

5、下载DeepSeek大模型

在官网点击模型进入模型下载界面

可以看到deepseek-r1的模型

在这里我根据自己的电脑配置来选择量化版7b模型(我不能确定图中就是量化版7B模型,我只是通过这个7B模型的大小为4.7G来判断,如有大佬欢迎在评论区讲解)

复制此命令,在新打开的CMD窗口内执行

参考通过Ollama本地部署DeepSeek R1以及简单使用的教程(超详细) - Qubernet - 博客园

然后输入ollama run deepseek-r1:7b后遇到问题

查询资料参考下述文章内的评论的某软件和某社区等操作,(我下载的有clash、steamcommunity302和游戏用的软件等)Ollama拉取模型出现Error: pull model manifest: Get “https://registry.ollama.ai/v2/library/deepseek-r1/manif-CSDN博客

第一次尝试失败

后尝试某软件和我自己打游戏用的软件仍然失败,百思不得其解

尝试刷新dns仍失败但是我直接访问却可以访问成功

随后再尝试切换手机热点等均失败。

个人在ollama拉取deepseek模型时出现 wsarecv: An existing connection was forcibly closed by the remote host.问题时最终解决方案。
!!!解决了!!!
详细解决方案看这篇,这个下载卡了我两个小时ollama拉取deepseek模型时出现 wsarecv: An existing connection was forcibly closed by the remote host.最终解决方案!-CSDN博客

下载时遇到越下越慢的问题,通过Ctrl+c来暂停下载, 通过 ollama run deepseek-r1:7b重新下载就能看到下载速度明显变快,此方法可以重复使用。

这个时候就代表这下好了

6、验证DeepSeek

下载完7B模型后,接下来就是验证了

新建一个CMD窗口输入ollama list

图内显示的就是我已经下载的模型了,deepseek-r1,7B版本。
运行这个版本的大模型输入下方代码即可

ollama run deepseek-r1:7b

输入后即可直接对话。

如果有多个模型则ollama run 具体的模型名称 即可、

如需要退出模型的话,可以通过/bye命令退出

Logo

免费领 150 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐