离线安装大模型
·
- 在镜像网站下载大模型(国内镜像加速)
https://hf-mirror.com/models?sort=trending&search=qwen
DeepSeek-R1-Distill-Qwen-1.5B-uncensored.IQ4_XS.gguf文件
- 放在相关路径下
编写modefile
FROM ./blobs/Qwen3.5-9B.Q8_0.gguf
如果已经导入丢了,按照绝对路径已经导入过的文件名称重新改写modefile
FROM ./blobs/sha256-d4f248ddc1751283b9a37050cd0d6e2da72eb7a964afbdd6db9ecf5a4d317f61
- 导入模型
ollama create deepseek-r1-distill-qwen-1.5b -f deepseek-r1-distill-qwen-1.5b.modelfile
更多推荐


所有评论(0)