本文主要基于源码，解析vLLM如何实现PD分离，并深入剖析单次对话请求的完整流转路径和涉及的Proxy、LLM Engine、Scheduler和KV Cache Manager（PagedAttention、PrefixCache）等。

正如上文所述，kubernetes原生控制器支持的资源类型有限，但是kubernetes提供了很好的扩展方式，用于用户自定义资源类型和对应的编排控制器。CoreOS开源的Operator框架提供了很好的脚手架，提高了编码效率。**定义资源类型（Custom Resource Definition）：**它其实只是往etcd数据库注册了一条数据，用于声明定义的资源类型、分组等信息，以下为TFJob的