随着大语言模型（LLM）推理需求的增长，优化推理性能成为关键挑战。vLLM-Ascend作为针对昇腾硬件优化的推理框架，引入了ACLGraph图模式以降低算子下发开销，提升吞吐和时延性能。本文基于Qwen3-8B模型，结合实际开发经验，系统介绍ACLGraph的应用方法、性能分析流程及优化实践，为开发者提供可复用的参考方案。

随着大语言模型（LLM）推理需求的增长，优化推理性能成为关键挑战。vLLM-Ascend作为针对昇腾硬件优化的推理框架，引入了ACLGraph图模式以降低算子下发开销，提升吞吐和时延性能。本文基于Qwen3-8B模型，结合实际开发经验，系统介绍ACLGraph的应用方法、性能分析流程及优化实践，为开发者提供可复用的参考方案。