这个错误说明:你本机的 1234 端口没有进程在监听,也就是说 LM-Studio 没有在开启 API 服务 或者 端口配置不对


✅ 接下来排查步骤如下:

✅ 1. 确认 LM-Studio 是否启用了 API

LM-Studio GUI 有个选项要打开 API 服务:

  • 打开 LM-Studio 应用。

  • 左下角或者顶部菜单里找:
    👉 “Enable Local Server API” 或类似开关。

  • 确认开启了 API 功能,并查看显示的端口号(默认应该是 1234)。

如果没有看到这个开关,升级 LM-Studio 到最新版本。老版本默认不开启本地 API。


✅ 2. 查看 LM-Studio 是否监听了端口

在终端运行:

sudo lsof -i :1234

如果没有任何输出,说明 1234 端口没有进程监听

正常的话你应该看到类似这样:

LM-Studio  PID  username  ...  LISTEN  127.0.0.1:1234

✅ 3. 检查 LM-Studio 模型是否加载

只有模型加载后 API 才能正常使用。

  • 在 LM-Studio UI 中,加载了 gemma-3-12b 模型之后,API 才会提供接口响应。

  • 否则访问 http://localhost:1234/v1 是会失败或 404 的。


✅ 4. LM-Studio 默认只监听 127.0.0.1

如果你打算从 Docker 容器中访问它,需要让 LM-Studio 监听 0.0.0.0:1234 或者使用:

LMSTUDIO_API_URL=http://host.docker.internal:1234/v1

✅ 临时验证方式(绕过 Docker,先测试 API)

打开模型后,用 curl 本机直接访问测试:

curl http://localhost:1234/v1
  • 如果返回 JSON 内容(如模型信息),说明 API 正常。

  • 如果还是 connection refused,说明没监听。


✅ 补充建议

如果你无法确认 LM-Studio 是否启动 API,可以试下另一个能直接提供 API 的方式:


✅ 总结你的问题原因

telnet 127.0.0.1 1234 → Connection refused

说明端口没开启。可能原因是:

  1. LM-Studio 没开启 “Local Server API”。

  2. 模型没加载成功,API 没监听。

  3. 防火墙阻止了监听(不太常见)。

  4. LM-Studio 监听的是别的端口。


你可以先检查 LM-Studio 界面里 API 是否启用,然后让我知道端口信息,我可以帮你继续排查。

Logo

免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐