注：因为openui需要跟本地的模型通信，本地模型docker网络通信采用的是host模式，openui也要采用此方式，然后做持久化挂载，使用docker-compose up -d启动即可，默认的端口是8080。模型可视化对话用的最多的就是openweb-ui，参考了大部门的教程都是使用python3.11安装的，用3.11会破坏现有的环境，会冲突，所以就使用了docker-compose的方式

注：因为openui需要跟本地的模型通信，本地模型docker网络通信采用的是host模式，openui也要采用此方式，然后做持久化挂载，使用docker-compose up -d启动即可，默认的端口是8080。模型可视化对话用的最多的就是openweb-ui，参考了大部门的教程都是使用python3.11安装的，用3.11会破坏现有的环境，会冲突，所以就使用了docker-compose的方式

服务部署在K8s上，K8s会将真实的客户端IP记录在X-Original-Forwarded-For字段中，并将WAF回源地址记录在X-Forwarded-For字段中。4.将业务程序获取客户端真实IP的字段修改为X-Original-Forwarded-For或者X-Forwarded-For，不区分大小写。华为云：kubectl -n kube-system edit cm cceaddon-

在 Kubernetes (k8s) 中，服务的负载均衡默认使用的是轮询算法（Round Robin）。这种算法会将请求按顺序依次分配给每一个后端 Pod。当一个请求被分配后，下一个请求会被分配给下一个 Pod，循环往复。