离线部署DeepSeek
想要在局域网内部署DeepSeek,此时传统的方式较为复杂。本文提供了一种便捷的部署方式。只需下载软件与DeepSeek包,导入即可搞定。
·
想要在局域网内部署DeepSeek,此时传统的方式较为复杂。本文提供了一种便捷的部署方式。只需下载软件与DeepSeek包,导入即可搞定。
电脑系统:
win11系统
软件包准备:
- DeepSeek-R1-Distill-Llama-8B-Q4_K_M.gguf
- LM-Studio-0.3.10-6-x64
下载方式:
1、DeepSeek模型包(这里选用14B,可以通过搜索替换):bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF at main
找到对应的版本,点击
2、可视化界面:LM Studio - Discover, download, and run local LLMs
LM Studio安装过程较为简单,不在详述。
配置:
- 1、LM Studio本地部署
2、安装完成后,点击,切换语言为中文:
3、点击,加载模型。
4、修改模型存放路径D:\model。
5、然后将软件包存放路径为:D:\model\[创建者]\[模型名]\[模型]
更多推荐
所有评论(0)