为什么你的 Radeon 跑模型像“幻灯片”？

很多拿到 AMD 平台的朋友，兴冲冲地装好了 LM Studio，加载了 Qwen2.5 或者 Llama 3，结果发现生成速度惨不忍睹，甚至不如几年前的老款 NVIDIA 显卡。这时候千万别急着怀疑硬件不行，大概率是软件默认把你强大的 Radeon 显卡给“闲置”了，或者只用 CPU 在硬扛。

LM Studio 这类工具为了兼容性，默认往往优先调用 CPU 或者通用的后端。对于拥有 Ryzen AI NPU 和强力 Radeon 独显（或高性能核显）的机器来说，这简直是暴殄天物。今天的分享不聊虚的参数竞赛，只谈怎么在 LM Studio 里通过几个关键设置，把被封印的算力释放出来，让你的本地大模型推理速度真正“飞”起来。

强制唤醒显卡：切换 Vulkan 与 ROCm 后端

这是最关键的一步，也是绝大多数卡顿的根源。在 LM Studio 的右侧设置栏中，找到 GPU Offload（GPU 卸载）选项。如果你发现这个选项是灰色的，或者拉满后速度没变化，说明后端选错了。

AMD 显卡在 LM Studio 中主要有两条路可走：Vulkan 和 ROCm。

• Vulkan 模式（通用推荐）：这是目前兼容性最好的方案。无论你是最新的 RX 7000 系列，还是稍旧的 RX 6000，甚至是 Ryzen 7040/8040 系列自带的 Radeon 780M/890M 核显，Vulkan 都能识别并加速。

  • 操作方法：在设置中找到 Backend 或 Compute Device，手动从 Default 或 CPU 改为 Vulkan。此时你会看到下方出现一个滑块，代表有多少层模型被加载到显存中。务必将滑块直接拉到底（Max），确保整个模型都驻留在显存里，而不是让 CPU 和 GPU 来回倒手数据。

• ROCm 模式（进阶极客）：如果你使用的是 Linux 系统，或者是 Windows 下较新的专业卡/高端消费卡且安装了完整的 AMD ROCm 驱动栈，可以尝试切换到 HIP 或 ROCm 后端。理论上它的矩阵计算效率比 Vulkan 更高，但在 Windows 上的 LM Studio 中配置门槛较高，容易出现驱动不匹配导致的崩溃。对于大多数普通用户，稳定的 Vulkan 全量卸载往往比折腾不稳定的 ROCm 能获得更流畅的实际体验。

一旦切换成功，观察右下角的状态监控，你会发现 GPU 占用率瞬间飙升，而 CPU 占用率大幅下降，这才是正常的“火力全开”状态。

线程数调优：别让 CPU 拖后腿

当模型完全加载到显卡后，CPU 主要负责预处理（Prompt Processing）和调度。这时候，线程数的设置就很有讲究了。

很多教程无脑建议“线程数越多越好”，这在 AMD Ryzen 处理器上并不完全适用。Ryzen 采用的是 CCX 架构，跨核心通信存在延迟。如果在 LM Studio 中将 Threads 设置得超过了物理核心数，或者开启了超线程导致逻辑核心过多，反而会引发上下文切换的开销，降低首字生成速度（TTFT）。

我的实测建议是：

1. 打开任务管理器，查看你 CPU 的物理核心数（注意不是逻辑线程数）。
2. 在 LM Studio 的 Threads 选项中，设置为物理核心数减 1，或者直接设置为物理核心数。
   • 例如：Ryzen 9 7940HS 是 8 核 16 线程，线程数设为 8 通常比设为 16 响应更快。
   • 例如：Ryzen AI 9 HX 370 拥有混合架构，建议先尝试设置为大核数量（如 12），再根据实际延迟微调。

这个细节能显著减少“思考”时的停顿感，让对话衔接更自然。

显存清理与量化选择：给模型腾出跑道

有时候速度慢不是因为算力不够，而是显存爆了。当显存不足时，系统会强制将部分模型层 swap 到系统内存（RAM），PCIe 带宽的瓶颈会让速度瞬间掉到 1 token/s 以下。

• 定期重启服务：LM Studio 长期运行后可能会残留显存碎片。如果发现越用越卡，尝试在设置中点击 Unload Model，甚至彻底重启软件，这能立刻释放被占用的 VRAM。
• 明智选择量化版本：不要盲目追求 FP16 或 Q8_0 高精度。对于端侧 AI，Q4_K_M 是目前的“甜点”量化等级。它在几乎不损失智能的前提下，将模型体积压缩了近 60%，更容易完整塞进 8GB 或 12GB 的显存中。如果你的显卡显存较小（如 6GB），强行加载大参数量的高精度模型只会适得其反，换成 Q4 甚至 Q3_K_S 版本，速度可能会有数倍的提升。

实战效果对比

经过上述调整，我们可以看看实际的变化。在一台搭载 Ryzen 9 7940HS（Radeon 780M 核显）的迷你主机上，运行 Qwen2.5-7B-Instruct 模型：

• 优化前（默认 CPU 后端）：生成速度约为 3.5 tokens/s，风扇狂转，机身烫手，每说一句话都要等好几秒。
• 优化后（Vulkan 后端 + 线程调优）：生成速度稳定在 14-16 tokens/s，CPU 占用率降至 10% 以下，风扇安静，回复几乎实现了“流式”即时输出。

这种差距不是硬件的代沟，纯粹是软件配置的错位。端侧 AI 的魅力就在于隐私和本地可控，只要花几分钟调整好 LM Studio 的这些参数，你的 AMD 设备完全有能力胜任日常的知识库问答、代码辅助甚至创意写作。别再让强大的 Radeon 在旁边“围观”了，动手调起来吧。