Docker compose部署Ollama使用模型
·
一、新建ollama_compose.yaml文件,并写入以下内容
name: local_ollama
services:
ollama:
image: ollama/ollama
restart: always
container_name: ollama
ports:
- "11434:11434"
environment:
- OLLAMA_HOST=0.0.0.0:11434
- OLLAMA_MODELS=/data/models
volumes:
- ollama-data:/data/models
volumes:
ollama-data:
二、拉取镜像并启动
docker compose -f ollama_compose.yaml up -d
三、进入容器
docker exec -it ollama /bin/bash
四、拉取deepssek 1.5B模型并启动
ollama run deepseek-r1:1.5b
五、查看日志
docker logs ollama
六、访问http地址
更多推荐
所有评论(0)