问题:
docker部署的 ollamafastgptdify ,但是网不通无法访问,我现在fastgpt需要使用ollama,我的dify也要使用 ollama

先创建共享网桥 ollama_shared (需要共享的服务)

docker network create ollama_shared

临时处理方案,销毁实例后会失效,重启服务不会(配完发现并没有用,但是别的场景能用)

  1. 再把 ollama 容器接入该网络
docker network connect ollama_shared ollama
  1. 把 Dify api 容器接入共享网络( 要是用的服务1)
docker network connect ollama_shared docker-api-1
  1. FastGPT 容器同样接入 (要使用的服务2)
docker network connect ollama_shared fastgpt-app

永久处理方案(配完发现也没有用,因为dify页面配置ollama模型的url时配置的 http://ollama:11434/ 会报错,虽然在docker容器中访问已经通了,这种适用于不限制url的情况)

ollama 单独 docker-compose.yml,直接声明同时接入bridgeollama_shared,重建容器不会丢网络:
bridge 是它原来的网络,ollama_shared 是我们新加的

version: "3.8"
services:
  ollama:
    image: ollama/ollama
    container_name: ollama
    restart: always
    environment:
      OLLAMA_HOST: 0.0.0.0
    volumes:
      - ./ollama_data:/root/.ollama
    ports:
      - "11434:11434"
    networks:
      - bridge
      - ollama_shared
networks:
  bridge:
    external: true
  ollama_shared:
    external: true

Dify / FastGPT 持久接入共享网络
修改 DifyFastGPTdocker-compose.yml,把外部共享网络ollama_shared加进去

# 原有services不动,底部追加
networks:
  default:
  ssrf_proxy_network:
  # 外部共享网桥,永久挂载
  ollama_shared:
    external: true

改完发现还是不行
在这里插入图片描述

直接配置ollama的网

获取 ollama 在共享网桥 ollama_shared 里的固定内网 IP

docker inspect ollama | jq '.[0].NetworkSettings.Networks.ollama_shared.IPAddress'

在这里插入图片描述

配置

在这里插入图片描述
完事了

更多推荐