deepseek 对创建ollama服务指定模型位置的指导
我们在没有GPU的情况下,通常使用ollama部署学习deepseek 模型。但是ollama官方文档中创建
ollama服务时并没有指定模型位置。但是这一点其实非常重要。
下面是deepseek 对创建ollama服务指定模型位置的指导。经过测试是有效的、完全正确的。
LINUX的服务文件/etc/systemd/system/ollama.service如下:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target
但是我想在执行ollama serve之前先指定 模型路径,执行模型路径的命令为export OLLAMA_MODELS=/deepseek/models;如下修改服务文件/etc/systemd/system/ollama.service
总结修改步骤:在[Service]部分添加Environment="OLLAMA_MODELS=/deepseek/models"。然后重新加载systemd配置,重启服务。
要在systemd服务中指定模型路径,可以通过Environment指令设置环境变量。以下是修改后的服务文件:
bash
复制
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
# 新增模型路径环境变量
Environment="OLLAMA_MODELS=/deepseek/models"
# 保留原有 PATH 并添加自定义环境变量
Environment="PATH=$PATH"
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=multi-user.target
修改步骤:
在 [Service] 部分添加:
ini
复制
Environment="OLLAMA_MODELS=/deepseek/models"
这会为服务进程设置永久生效的环境变量。
执行以下命令使配置生效:
bash
复制
sudo systemctl daemon-reload
sudo systemctl restart ollama
验证方法:
bash
复制
# 检查环境变量是否生效
sudo systemctl show ollama.service --property Environment
# 观察服务日志
journalctl -u ollama.service -f
建议:
如果路径中包含特殊字符,建议使用 EnvironmentFile 指向配置文件
可通过 systemd-analyze verify /etc/systemd/system/ollama.service 检查语法
确保 /deepseek/models 目录存在且 ollama 用户有读写权限
更多推荐


所有评论(0)