本文档将介绍基于vLLM-Ascend的Qwen3.5-397B模型在Atlas 800I A2上的单机混部部署实践，包括支持的特性、特性配置、环境信息以及性能测试典型case。

本文档将介绍基于vLLM-Ascend的Qwen3.5-397B模型在Atlas 800I A3上的单机混部部署实践，包括支持的特性、特性配置、环境信息以及性能测试典型case。

在大模型推理服务的性能调优过程中，精准定位计算瓶颈、分析算子执行效率与资源利用率是提升系统吞吐与响应速度的关键。vLLM-Ascend作为基于昇腾NPU的高性能推理框架，集成了Ascend PyTorch Profiler能力，支持从框架层到硬件层的全栈性能数据采集。本文以Qwen3-32B模型为例，详细介绍如何在v0.14.0rc1版本中配置并采集在线服务的profiling数据，涵盖环境准备、

本文档将介绍基于vLLM-Ascend的Qwen3.5-397B模型在Atlas 800I A2上的单机混部部署实践，包括支持的特性、特性配置、环境信息以及性能测试典型case。

本文档将介绍基于vLLM-Ascend的Qwen3.5-397B模型在Atlas 800I A3上的单机混部部署实践，包括支持的特性、特性配置、环境信息以及性能测试典型case。

本文针对Qwen2-1.5B模型在Atlas 800I A2单卡部署中的性能瓶颈展开分析，发现主要问题为下发延迟和算子执行效率。通过KAT自动调优和KSYS系统分析，识别出NUMA访问、缓存命中率等关键瓶颈，并提出绑核优化、内存绑定等解决方案。最终实现34%的TPOT性能提升，为NPU推理优化提供系统性方法，建议持续监控并开展更深层次的算子级优化。

在构建高并发、低延迟的多模态AI分析系统时，L1阶段的初筛环节对推理性能提出严苛要求。系统需在1分钟内完成音频与视频输入的联合理解，输出初步判定结果。本文基于Atlas 800I A2部署Qwen3-Omni原生全模态大模型，围绕关键算子瓶颈展开深度优化，实现性能突破。

2026年，千问发布了Qwen3.5系列模型，其中MoE模型参数量更大，语义理解能力更强，同时由于每次前向计算只激活少量专家，推理速度有所保障。本文将围绕Qwen3.5模型的MoE部分展开，内容包括参数分析、结构分析、vllm实现流程和profiling拆解方法。本文基于transforms仓和vllm、vllm-ascend框架代码分析，请以官方代码仓为准。transformers仓中的Qwen

2026年，千问发布了Qwen3.5系列模型，其中MoE模型参数量更大，语义理解能力更强，同时由于每次前向计算只激活少量专家，推理速度有所保障。本文将围绕Qwen3.5模型的MoE部分展开，内容包括参数分析、结构分析、vllm实现流程和profiling拆解方法。本文基于transforms仓和vllm、vllm-ascend框架代码分析，请以官方代码仓为准。transformers仓中的Qwen

2026年，千问发布了Qwen3.5系列模型，其中MoE模型参数量更大，语义理解能力更强，同时由于每次前向计算只激活少量专家，推理速度有所保障。本文将围绕Qwen3.5模型的MoE部分展开，内容包括参数分析、结构分析、vllm实现流程和profiling拆解方法。本文基于transforms仓和vllm、vllm-ascend框架代码分析，请以官方代码仓为准。transformers仓中的Qwen