在 16GB 显存的 Quadro RTX 5000 上用 vLLM 部署 Qwen3-8B 推理服务。通过 AWQ 4bit 量化（~4.7GB）+ YaRN 位置编码扩展（49152 tokens）+ 高显存利用率（0.97）解决显存瓶颈，使用 ModelScope 解决国内下载问题。