基于v0.30.0rc1镜像，采用混合部署方式，在多节点上通过Docker启动Ascend算力容器，挂载模型与驱动资源。主节点配置start_model_server.sh启动vLLM服务，设置网络接口、IP及分布式参数，实现4路数据并行、8路张量并行，启用前缀缓存、推测生成与FlashComm优化，支持大模型高效推理。

基于v0.30.0rc1镜像，采用混合部署方式，在多节点上通过Docker启动Ascend算力容器，挂载模型与驱动资源。主节点配置start_model_server.sh启动vLLM服务，设置网络接口、IP及分布式参数，实现4路数据并行、8路张量并行，启用前缀缓存、推测生成与FlashComm优化，支持大模型高效推理。