把 AI 助手装进 VS Code：Ollama 本地集成实战

对于开发者而言，代码隐私和响应速度往往是不可兼得的“鱼与熊掌”。云端 API 虽然智能，但将核心业务逻辑上传总让人心里打鼓；而本地部署的大模型又常因配置繁琐、连接不稳定而劝退。最近，我在搭载 AMD Strix Halo 架构的笔记本上，尝试将 Ollama 本地服务与 VS Code 的 Continue 插件深度集成，打造了一套完全离线、数据不出域的私有化编程环境。这套方案不仅解决了网络波动导致的请求超时问题，更利用 Radeon GPU 的统一内存优势，实现了多文件上下文的高效理解。

后台服务启动与端口监听配置

要让 VS Code 能够“对话”本地模型，第一步是确保 Ollama 服务在后台稳定运行，并正确监听本地端口。很多新手容易忽略环境变量配置，导致插件连接失败或无法调用 GPU 加速。

在 Windows 环境下，打开 PowerShell，首先设置 Ollama 的主机监听地址。默认情况下，Ollama 仅监听 127.0.0.1:11434，这足以满足本机调用，但若需更明确的控制，可显式声明：

$env:OLLAMA_HOST = "127.0.0.1:11434"
$env:OLLAMA_MAX_LOADED_MODELS = "2"
ollama serve

对于 Strix Halo 用户，关键在于确保 Radeon GPU 被正确识别。新版 Ollama 已能自动适配 ROCm 后端，但在某些特定驱动版本下，可能需要强制指定 GPU 架构版本以激活加速：

$env:HSA_OVERRIDE_GFX_VERSION = "11.0.3"
ollama serve

启动后，终端会显示服务正在运行。此时，不要关闭这个窗口，或者将其配置为开机自启的服务。你可以新开一个终端测试连接：

curl http://127.0.0.1:11434/api/tags

如果返回了已下载模型的列表（如 qwen2.5-coder:7b），说明服务已就绪，随时等待 IDE 的调用。

VS Code 插件连接与参数调优

接下来是重头戏：在 VS Code 中配置 Continue 插件。这是目前对本地模型支持最友好的开源插件之一。

安装完 Continue 插件后，点击侧边栏图标，进入配置界面（通常是一个齿轮图标或直接编辑 config.json）。我们需要手动添加一个自定义模型提供者，指向刚才启动的 Ollama 服务。配置文件大致如下：

{
  "models": [
    {
      "title": "Local Coder",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b",
      "apiBase": "http://127.0.0.1:11434"
    }
  ],
  "tabAutocompleteModel": {
    "title": "Local Autocomplete",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b",
    "apiBase": "http://127.0.0.1:11434"
  },
  "contextProviders": [
    {
      "name": "codebase",
      "params": {}
    }
  ]
}

这里有两个关键点：

1. 模型选择：针对代码任务，强烈推荐使用 qwen2.5-coder 或 starcoder2 等专用模型。在 Strix Halo 的大内存支持下，即使加载 14B 参数的量化模型（如 qwen2.5-coder:14b-q4_k_m）也毫无压力，推理能力远超 7B 版本。
2. 上下文 provider：启用 codebase 提供者，允许插件索引当前项目文件。得益于统一内存架构的高带宽，当你在聊天框输入"@Codebase"时，模型能快速读取多个相关文件的内容，进行跨文件的逻辑分析，而不会出现传统小显存设备那种严重的卡顿或崩溃。

配置完成后，重启 VS Code。在聊天窗口输入一段关于项目架构的提问，观察右下角是否显示"GPU Accelerated"或类似的加速标识（取决于插件版本），并留意首字延迟。在我的实测中，Strix Halo 平台上的首字延迟控制在 0.5 秒以内，生成速度稳定在 40+ tokens/s，体验极其流畅。

定制专属编程助手：Modelfile 实战

通用的模型虽然博学，但往往不懂你的团队规范或特定代码风格。通过 Ollama 的 Modelfile，我们可以固化系统指令，打造一个懂你习惯的专属助手。

创建一个名为 Modelfile 的文件，写入以下内容：

FROM qwen2.5-coder:14b

# 设定系统角色与行为准则
SYSTEM """
你是一名资深后端工程师，运行在本地私有环境中。
1. 代码风格：优先使用 Python 3.10+ 特性，必须包含类型提示（Type Hints）和 Google 风格文档字符串。
2. 安全规范：严禁硬编码密钥，发现潜在 SQL 注入风险时必须主动警告。
3. 回答策略：先简要解释思路，再给出代码块。若涉及多文件修改，请明确列出文件路径。
4. 语言：除非用户指定，否则默认使用中文回答。
"""

# 调整上下文窗口，充分利用大内存优势
PARAMETER num_ctx 32768

# 优化生成参数
PARAMETER temperature 0.2
PARAMETER top_p 0.9

保存后，在终端执行以下命令构建新模型：

ollama create my-private-coder -f Modelfile

构建成功后，只需将 VS Code 配置文件中的 model 字段改为 my-private-coder 即可。现在，当你让它重构一段老旧代码时，它会自动加上类型提示，并用中文清晰解释每一步的改动，完全符合你的预期。

真实场景下的稳定性与性能

这套方案最大的价值在于确定性。在高铁、飞机或网络受限的保密会议室中，云端服务可能随时超时或不可用，但本地 Ollama 服务始终在线。

我曾在一个无网络环境下处理一个复杂的遗留模块重构任务。该模块涉及五个文件的相互调用，逻辑错综复杂。通过 Continue 插件的"@Codebase"功能，我将所有相关文件纳入上下文，要求模型分析依赖关系并提出解耦方案。Radeon GPU 全速运转，在数秒内完成了数万 Token 的上下文预填充，并给出了详尽的重构建议。整个过程没有一丝网络延迟，更无需担心代码泄露。

对于追求极致效率和数据安全的开发者来说，将 Ollama 与 VS Code 结合，不再是一个“玩具”实验，而是一套可落地、高可用的生产力工作流。只要硬件到位（尤其是大内存的 Strix Halo 平台），你就能拥有一个随叫随到、绝对忠诚的智能编程搭档。

200小时GPU算力已就位，快来领取：https://marketing.csdn.net/questions/Q2604140858304426315?utm_source=AIpaper