docker 部署的ollama服务在dify中访问不到的问题
·
问题:docker部署的 ollama 、 fastgpt 、 dify ,但是网不通无法访问,我现在fastgpt需要使用ollama,我的dify也要使用 ollama
先创建共享网桥 ollama_shared (需要共享的服务)
docker network create ollama_shared
临时处理方案,销毁实例后会失效,重启服务不会(配完发现并没有用,但是别的场景能用)
- 再把 ollama 容器接入该网络
docker network connect ollama_shared ollama
- 把 Dify api 容器接入共享网络( 要是用的服务1)
docker network connect ollama_shared docker-api-1
- FastGPT 容器同样接入 (要使用的服务2)
docker network connect ollama_shared fastgpt-app
永久处理方案(配完发现也没有用,因为dify页面配置ollama模型的url时配置的 http://ollama:11434/ 会报错,虽然在docker容器中访问已经通了,这种适用于不限制url的情况)
ollama 单独 docker-compose.yml,直接声明同时接入bridge和ollama_shared,重建容器不会丢网络:bridge 是它原来的网络,ollama_shared 是我们新加的
version: "3.8"
services:
ollama:
image: ollama/ollama
container_name: ollama
restart: always
environment:
OLLAMA_HOST: 0.0.0.0
volumes:
- ./ollama_data:/root/.ollama
ports:
- "11434:11434"
networks:
- bridge
- ollama_shared
networks:
bridge:
external: true
ollama_shared:
external: true
Dify / FastGPT 持久接入共享网络
修改 Dify和 FastGPT 的 docker-compose.yml,把外部共享网络ollama_shared加进去
# 原有services不动,底部追加
networks:
default:
ssrf_proxy_network:
# 外部共享网桥,永久挂载
ollama_shared:
external: true
改完发现还是不行
直接配置ollama的网
获取 ollama 在共享网桥 ollama_shared 里的固定内网 IP
docker inspect ollama | jq '.[0].NetworkSettings.Networks.ollama_shared.IPAddress'

配置

完事了
更多推荐
所有评论(0)