如果你最近在关注语音输入或 AI 工具链，可能会频繁看到“Cohere 成 Superwhisper 默认本地模型”这类消息。第一反应可能是：Superwhisper 是什么？Cohere 凭什么成为默认本地模型？第二个问题更值得展开：本地模型到底在语音工具里承担什么角色？

这篇文章不打算停留在新闻层面，而是从这次变化切入，把“语音转写 + 本地大模型”的完整链路讲清楚。你会理解 Superwhisper 的定位、Cohere 作为本地模型的价值，并学会用 Ollama 或 LM Studio 搭建一版属于自己的本地模型服务，再把它接入 Superwhisper。即使你不打算用 Cohere，换成 Qwen、Llama、DeepSeek 等模型，思路也完全一样。

1. 背景与核心概念

1.1 Superwhisper：AI 语音输入的另一种打开方式

Superwhisper 是一款运行在 macOS 上的语音转文本工具，这也是很多人第一次看到它“默认本地模型”这句话时会觉得陌生的原因。它和系统自带的语音听写不同，重点不只是“把声音变成字”，而是让转写结果可以直接用于写作、会议记录、即时消息回复等真实场景。

Superwhisper 的核心能力建立在 Whisper 语音识别模型之上，并且支持完全离线完成语音转文本。对文字工作者、开发者和内容敏感的用户来说，这个特性价值很高：不需要把语音传到云端，既能避免隐私泄露，也能在网络不稳定的环境中继续使用。

不过这里需要先厘清一个容易混淆的概念：语音识别和自然语言处理是两件事。语音识别负责把声音转成文本，类似“听写”；而自然语言处理负责对文本做润色、总结、翻译等操作，类似“理解”。Superwhisper 这类工具往往两者都做，只是底层模型不同。这就引出 Cohere 为什么会出现的问题。

1.2 Cohere：为什么会被选为默认本地模型

Cohere 是一家面向企业 AI 的大模型公司，旗下 Command 系列在长文本理解、多语言处理和检索增强生成（RAG）场景中表现不错。早期大家更多把 Cohere 当成“云端 API”来看，但 Cohere 同时提供了私有化部署方案，部分模型也开放了本地权重，可以在 Ollama、Hugging Face 等平台上直接获取。从这个角度看，Cohere 成为 Superwhisper 的默认本地模型并不奇怪。

从工程角度分析，产品团队把 Cohere 设置为默认本地模型，通常看中三点：

• 多语言能力强。语音转写结果往往带有口语词、断句错误和重复内容，需要一个对自然语言理解稳定的模型来做后处理。
• 上下文长度足够。任务要求把整段转写文本一次性交给模型，上下文越长，早期信息丢失的可能性越低。
• 部署方式可控。本地模型可以用统一的接口对接，不依赖外部网络，方便实现数据不出设备。

这里也要提醒自己：默认不等于最强。默认模型往往在体积、内存占用、推理速度和通用效果之间做平衡，不一定适合所有场景。理解了这一点，后面做模型替换时就不会盲目追求大参数模型。

1.3 “本地模型”到底指的是什么

“本地模型”在不同产品里含义差别很大。如果不加区分，很容易被一些宣传文案误导。我通常把它分成三个层次：

层次	说明	是否离线
完全离线模型	模型文件保存在本机，推理也在本机完成	是
本机服务化模型	模型通过本地 API 对外提供能力	通常可以离线
云端 API 封装	产品界面写着“本地模型”，实际仍走远程服务器	否

从市面上主打隐私的语音工具来看，Superwhisper 的“默认本地模型”一般可以理解为模型能力在本地或本地近端完成，语音识别部分则以本地 Whisper 为主。这个判断也符合最近本地模型部署的热门趋势：越来越多工具开始支持 Ollama、LM Studio 等本地运行时，用户只需要付出一次配置成本，就能永久拥有可控的模型服务。

看清这一点后，你会发现“Claude Code 使用本地模型”“Codex 接入 Ollama 本地模型”这些热门问题的本质都是同一件事：把原本指向云端 API 的地址，替换成本地模型提供的接口，产品侧只需要修改配置项即可。

2. 环境准备与版本说明

在配置之前，先确认本机环境是否满足基本要求。本地模型对硬件的要求比普通软件高不少，这一步没理顺，后面容易出现“模型拉下来了却跑不动”的尴尬。

2.1 操作系统与硬件要求

Superwhisper 主要运行在 macOS 上，所以本文示例以 macOS 为主。建议优先使用 Apple Silicon 芯片的机型，内存尽量不低于 16GB。Intel Mac 不是不能用，但推理速度会明显慢一些，尤其在模型规模接近 7B 时，体感差距较大。

关于具体版本，这里不做硬性断言。Superwhisper、Ollama、LM Studio 以及 Cohere 相关模型都在持续迭代，你安装时以官网或应用商店最新版为准。本文重点演示配置思路，版本需要根据你的实际环境调整。

2.2 需要准备的工具清单

准备以下组件：

• Superwhisper 应用：负责语音采集、转写触发和最终文字输出。
• Ollama 或 LM Studio：本地模型运行环境，二选一即可。
• 一个本地模型文件：例如 Cohere Command R、Qwen 或 Llama 系列量化版。
• 终端工具：用于执行命令、查看服务日志和验证接口。

如果你之后想接入 Claude Code、Codex 或自建 AI 代理助手，可能还会用到 Python、Docker 等工具，但本次最小化方案不需要。

2.3 整体架构与数据流

用一个简单的示意图描述：

麦克风 → Superwhisper（语音识别） → 转写文本 → 本地模型 API（润色/总结） → 输出到编辑器

核心思想是：把语音识别和文本后处理分层。Superwhisper 负责把声音变成文本，本地模型负责把文本变得更好用。这样做的好处是，未来换一个更强的模型，或者接入其他 AI 工具，都不需要推翻整个链路。

3. 本地模型部署：从选择到加载

这一节开始动手。我会演示 Ollama 和 LM Studio 两条路线，你可以按自己的使用习惯选择。

3.1 模型选型原则

选择本地模型时，建议按“机器配置 + 实际任务”两个维度决定，而不是盲目追求最强参数。下面是一个参考表：

使用场景	参考模型	建议理由
日常语音转写后润色	Qwen2.5 7B、Cohere Command R 轻量版	速度快、占用低、足够处理口语
长文本会议总结	Command R+ 或 14B 以上模型	长上下文表现更好，但内存要求高
离线优先且机器配置较低	7B 量化 GGUF	优先保证可用性和稳定响应

如果你的机器内存只有 16GB，直接上 14B 模型会很吃力。建议流程是：先用一个小模型跑通链路，确认 Superwhisper 能正常调用，再逐步升级到更高质量的模型。

3.2 使用 Ollama 部署模型

Ollama 是目前最便捷的本地模型管理工具之一，支持命令行直接拉取模型并启动服务。安装完成后，在终端先确认安装结果：

ollama --version

没有报错说明安装成功。接着拉取模型。如果你希望体验 Cohere Command R 系列，可以直接执行：

ollama pull command-r

如果网络环境影响，也可以先拉取体积更小的 Qwen 系列作为第一步验证：

ollama pull qwen2.5:7b

查看已经拉取到本机的模型列表：

ollama list

运行一次快速验证，确认模型可以正常输出：

ollama run command-r "请把下面这段话润色成书面语：今天下午的会我们大概聊了聊新模型接入的事。"

看到模型回复后，说明本地模型已经可用。接下来要做的，是让 Superwhisper 通过 API 调用它。

3.3 使用 LM Studio 加载 GGUF 模型

LM Studio 是另一款常见的本地模型管理工具，适合习惯图形界面操作的用户。它支持加载 GGUF 格式模型，也能直接启动一个 OpenAI 兼容的本地服务。

大体步骤如下：

1. 下载一个 GGUF 格式的模型文件。
2. 打开 LM Studio，在模型管理列表中选择或导入该模型。
3. 点击加载，等待模型状态变为“已加载”。
4. 打开 Local Server 开关，启动本地 API 服务。

LM Studio 启动后，默认会在 http://localhost:1234/v1 提供接口。这里顺带回应一个高频问题：很多人说“LM Studio 千问本地模型很慢”。慢的原因通常不是模型本身，而是模型文件超过了可用内存，或者没有正确启用 GPU 加速。可以尝试换更小的量化版本，或者检查是否加载了过长的上下文窗口。

4. 让 Superwhisper 使用本地模型

工具链搭好后，来到关键步骤：让 Superwhisper 把本地模型作为默认模型来使用。不同版本的界面可能有差异，但整体逻辑接近。

4.1 找到模型设置入口

打开 Superwhisper 的“设置”面板，定位到“模型”（Model）相关区域。正常情况下，你可以选择语音识别模型以及文本后处理模型。如果你的版本中已经把 Cohere 列为默认本地模型，那么需要验证这个默认配置是否正常工作，也可以把它切换成你自己拉取的模型实例。

如果找不到本地模型入口，建议查阅当前版本文档，确认是否需要在“开发者模式”或“本地 API 模式”下才能配置。这属于版本差异，不代表功能缺失。

4.2 配置 API 地址

假设你使用 Ollama，本地接口默认是：

http://localhost:11434/v1/chat/completions

如果使用 LM Studio，接口通常为：

http://localhost:1234/v1/chat/completions

在 Superwhisper 的配置中，需要填写接口地址和模型名称。以 Ollama 拉取 command-r 为例，模型名就填 command-r 。如果使用 LM Studio 加载了某个 GGUF 模型，模型名要与界面中显示的名称一致。

这里注意：不要写成 127.0.0.1 之外的地址。除非你明确需要让局域网设备访问，否则本地服务应该只监听回环地址，避免暴露给其他设备。

4.3 设置后处理提示词

本地模型除了要知道“调用你”，还要知道“帮你做什么”。在配置项中会有一个系统提示词（System Prompt），用于约束模型输出。这里给出一个适合语音转写的通用示例：

你是一个语音助手后处理程序。用户输入的是语音转写结果，可能包含口语词、重复词和断句问题。
请直接输出润色后的书面文本，不要解释，不要添加额外内容。如果原文表达不清，保持原样。

建议将温度参数设置在 0.2 左右。温度越低，输出越稳定，越适合语音转写后处理；温度过高容易出现改写自由度过大的问题。

4.4 运行与验证

完成配置后，打开 Superwhisper 说一段话，观察输出是否经过本地模型处理。如果服务没有启动，工具通常会提示连接失败；如果服务正常，转写文本会明显变得更加通顺和正式。

想确认请求是否真的打到了本地模型，可以在终端运行：

ollama serve

保持窗口在前台，再触发一次语音输入。正常情况下，日志中会记录一次请求。如果日志没有任何动静，说明配置的接口或模型名可能有问题。

5. 常见问题与排查思路

本地模型环境最常见的坑不是模型本身，而是接口对接和资源限制。下面按问题现象、原因和解决思路做一份速查表：

问题现象	常见原因	解决思路
Superwhisper 无法连接本地模型	本地服务未启动或端口不对	检查 Ollama/LM Studio 服务状态和端口
模型加载后响应很慢	模型超过内存或未启用 GPU	换更小的量化模型或缩短上下文
输出内容大量重复	温度过高或提示词不明确	降低 temperature，明确输出要求
转写文字没有润色效果	地址配置了但模型未生效	检查模型名，查看服务日志
麦克风无法录音	系统未授权麦克风权限	在 macOS 设置中允许 Superwhisper 使用麦克风

5.1 本地模型很慢怎么办

“慢”要拆开定位。模型参数过大、内存不足、没有 GPU 加速、上下文过长，都可能导致响应变慢。在语音输入场景里，延迟对体验影响很大，优先保证低延迟比追求高准确率更重要。

一个可执行的优化路径是：先从 7B 量化模型开始，确认链路通畅后再考虑更大参数模型。在 LM Studio 中，可以关闭“长上下文模式”释放资源；在 Ollama 中，也可以通过调整 OLLAMA_NUM_PARALLEL 等环境变量控制并发，但需要按文档验证。

5.2 端口冲突或连接不上

本地模型服务默认监听固定端口，但如果你本机其他服务占用了该端口，就会连接失败。排查方法很简单：确认服务启动后，用 curl 直接访问地址，看是否有响应。如果端口被占用，就换一个端口并在应用中同步修改。

安全方面要特别留意：本地 API 默认只监听 127.0.0.1 时相对安全。如果为了局域网内其他设备调用而开放监听，一定要加上鉴权措施，不要直接把没有保护的模型服务暴露给不可信网络。

5.3 模型名对不上

很多连接失败是因为模型名填写不一致。Ollama 拉取时叫什么名字，接口配置里就填什么名字；LM Studio 加载的是哪个 GGUF 文件，模型名也要与界面显示一致。可以先通过 curl 直接验证接口是否可用，排除模型名问题：

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "command-r",
    "messages": [{"role": "user", "content": "测试一下"}],
    "temperature": 0.2
  }'

如果返回正常 JSON 响应，说明接口和模型名都正确；如果返回 404 或类似错误，优先检查模型名。

6. 最佳实践与工程建议

在本地模型逐渐普及的今天，把“能运行”变成“运行得好”，关键在于工程习惯。

6.1 按场景做模型分层

不要把“一个模型”当成“万能模型”。语音转写后的润色、会议纪要的总结、邮件草稿的生成，都可以交给不同模型处理。Cohere 成为 Superwhisper 默认本地模型，更多是给用户一个开箱即用的选项。遇到更细分场景时，手动切换模型是更合理的选择。

比如文本润色追求低延迟，可以用 7B 量化模型；月会总结需要理解长文档，可以用 Command R+ 这类长上下文模型。模型分层不仅让单次推理更快，也更容易控制资源消耗。

6.2 保护隐私与数据安全

本地模型最大的优势是数据不出设备，但前提是配置正确。以下几点需要落实：

• 本地 API 地址保持 127.0.0.1 ，不要随意改到 0.0.0.0 。
• 如果使用局域网共享模型服务，必须增加 API Key 或网络访问控制。
• 涉及生产数据、私有数据导入或删除时，先在测试环境验证，提前备份。
• 遵循最小权限原则，只给模型服务必要的权限和数据访问路径。

这对任何涉及安全、权限、认证的场景都适用。模型能力再强，也不能代替安全审计。

6.3 把配置固化成文档

本地模型配套参数比较零散：模型名、接口地址、提示词、温度、上下文长度。如果没有记录下来，升级应用或重装系统后很容易踩坑。建议在项目目录放一个 README：

本地 AI 后处理配置
- 模型名称：command-r
- 接口地址：http://localhost:11434/v1/chat/completions
- 提示词：通用润色提示词，见 config/prompt.txt
- 温度：0.2
- 上下文长度：8192
- 推荐硬件：Apple Silicon 16GB 内存以上
- 启动命令：ollama serve
- 验证命令：curl http://localhost:11434/v1/models

这样既方便自己排查，也能让团队其他成员快速接手。

6.4 用 OpenAI 兼容接口统一工具链

无论 Superwhisper、Claude Code 还是 Codex，只要工具兼容 OpenAI 接口，理论上都能指向同一个本地模型服务。这样做的价值在于切换成本低：换模型时只需要改配置里的模型名，不用改业务代码。

如果你已经搭好 Ollama 和本地模型，可以继续尝试把 Claude Code 或 Codex 的模型地址也指向本地接口，体会“本地模型 + AI 编程工具”的组合。这和 Superwhisper 接入本地模型的思路是一致的。

7. 总结与下一步

围绕“Cohere 成 Superwhisper 默认本地模型”这个变化，我们把语音输入工具与本地大模型的结合方式做了完整梳理：Superwhisper 负责语音转写，Cohere 等本地模型负责文本后处理，Ollama 和 LM Studio 负责把模型变成可调用的本地 API。对于刚接触本地模型的读者，建议先从 Ollama 拉取一个小模型开始，用 curl 验证接口，再接入 Superwhisper，不要一上来就追求超大参数模型。

下一步可以选择继续学习 GGUF 量化的原理、RAG 检索增强，或者研究如何把同一个本地模型接入多种 AI 工具。需要强调的是，无论切换成哪一种模型，都先在实际文本上跑一轮验证，再放到日常流程中使用。“默认模型”只是产品团队在通用场景下做的折中，适合你机器配置和隐私要求的选择，才真正值得长期依赖。

如果这篇文章对你有帮助，可以先收藏备用，等搭建本地模型时再拿出来对照。