从安装包到代码补全：Strix Halo 上的 Ollama 极速部署

最近入手了一台搭载 AMD Strix Halo 架构的新笔记本，最让我惊喜的不是游戏帧数，而是那块集成度极高的 Radeon 显卡释放出的端侧 AI 算力。对于开发者而言，本地跑大模型（LLM）一直是“痛并快乐着”：云 API 方便但有隐私顾虑，传统本地部署又常受限于显存带宽，跑起来卡顿如 PPT。Strix Halo 的统一内存架构打破了这一僵局，系统内存可直接被 GPU 高效调用，只要配备 32GB 甚至 64GB 大内存，就能轻松加载 7B 至 32B 参数的大模型。

作为命令行爱好者，我首选的部署方案自然是 Ollama。它轻量、稳定，且在新版中对 Strix Halo 平台的适配堪称完美。今天就来记录一下在这套新硬件上，如何只用一行命令就搞定本地大模型环境，并让它成为 VS Code 里的得力助手。

一行命令启动：无感知的 GPU 加速体验

在 Windows 环境下部署 Ollama 的过程简单得令人发指。你不需要去折腾复杂的 ROCm 驱动编译，也不用手动配置一堆环境变量来告诉软件“我的显卡在哪里”。

首先，前往 Ollama 官网下载 Windows 安装包，一路默认选项安装即可。安装完成后，打开 PowerShell 或终端，直接输入以下命令：

ollama run qwen2.5-coder:7b

回车之后，奇迹发生了。如果是首次运行，Ollama 会自动拉取 qwen2.5-coder:7b 模型文件。下载完成后，界面直接进入交互模式。此时，你的笔记本已经完全离线工作，所有的输入和输出都在本地完成。

最让我印象深刻的是**“无感”的硬件识别**。在旧平台上，我们往往需要设置 OLLAMA_NUM_GPU 或者修改 Modelfile 来强制开启 GPU 卸载。但在 Strix Halo 设备上，Ollama 后端能自动识别 Radeon GPU 资源，无需任何额外配置。当你开始对话时，系统智能地将计算密集型任务分配给强大的集成显卡，而 NPU 则默默接管低负载的后台预处理。这种“开箱即用”的体验，极大地降低了端侧 AI 的门槛。

你可以试着让它解释一段复杂的递归函数，或者总结一篇技术文章。响应速度之快，几乎让你忘记这是在本地运行。

后台静默运行与 VS Code 无缝集成

交互式运行虽然方便，但作为开发者，我更希望大模型能像一个后台服务一样常驻，随时等待编辑器的调用。Ollama 默认会在首次运行后自动启动后台服务，但为了更灵活地控制，我们可以手动配置其监听地址和并发策略。

在 PowerShell 中，可以通过设置环境变量来定制行为：

# 设置最大同时加载模型数量
$env:OLLAMA_MAX_LOADED_MODELS = "2"
# 指定监听地址（默认即为 11434，显式写出更清晰）
$env:OLLAMA_HOST = "127.0.0.1:11434"
# 启动服务
ollama serve

这样配置后，Ollama 将在后台静默运行，资源占用极低，几乎感觉不到它的存在。接下来就是重头戏：将其接入 VS Code。

推荐使用 Continue 或 Twinny 等插件。以 Continue 为例，安装后在配置文件 config.json 中指定本地地址：

{
  "models": [
    {
      "title": "Qwen Coder Local",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b",
      "apiBase": "http://127.0.0.1:11434"
    }
  ]
}

保存配置后，你会发现 VS Code 右侧的多行聊天框和行内代码补全功能瞬间激活。当你输入函数注释时，补全建议几乎是即时浮现；遇到看不懂的遗留代码，选中后右键选择"Explain"，几秒钟内就能得到清晰的逻辑梳理。这种“零感知”的延迟极大地保持了编程的心流状态，而且所有代码数据都未离开本机，安全感满满。

真实性能对比：GPU 加速带来的质变

为了验证 Strix Halo 架构下 GPU 加速的实际效果，我特意对比了纯 CPU 模式与开启 Radeon GPU 加速后的表现。测试模型同样为 qwen2.5-coder:7b，提示词为生成一个带类型提示的斐波那契数列递归函数。

• 纯 CPU 模式：首字延迟（Time to First Token, TTFT）约为 1.5 秒。生成过程中能明显感觉到停顿，Token 生成速度仅在 8-10 tokens/s 左右，阅读体验有明显的“挤牙膏”感。
• GPU 加速模式：首字延迟骤降至 0.3 秒以内，几乎是按下回车的同时文字就开始流淌。生成速度稳定在 45-50 tokens/s，远超正常阅读速度，流畅度堪比云端付费服务。

这种差异不仅仅是数字上的提升，更是可用性的分水岭。在 CPU 模式下，你可能因为等待太久而打断思路；而在 GPU 加速下，AI 真正成为了思维的延伸。Strix Halo 的高带宽统一内存架构，让 Radeon 显卡能够直接访问存储模型权重的高速内存，极大地降低了数据搬运延迟，这正是端侧推理流畅的关键所在。

在 Strix Halo 架构的加持下，本地大模型不再是极客的玩具，而是实实在在的生产力工具。只需一行命令，你就能拥有一个隐私安全、响应迅速且完全离线的智能编程伙伴。对于追求效率和数据安全的开发者来说，这套组合拳无疑是目前移动端的最优解之一。