VLLMService Operator 开发第六篇:给模型服务增加 Service 自动创建能力
做到这里,VLLMService Operator 已经不只是创建 Deployment 了,它开始具备完整服务编排的雏形。-> Pod-> Pod-> Service这一步非常关键,因为 Service 是后续接入流量入口的基础。没有 Service,HTTPRoute 就没有稳定的后端目标;-> Pod-> Service-> Gateway也就是说,Service 是从“模型 Pod 能跑起
所有评论(0)