截至目前版本(LM-Studio-0.3.18-3-x64.AppImage),LM Studio 默认 REST API 是绑定在 127.0.0.1:1234 上,不能直接从 UI 或命令行参数更改为 0.0.0.0,所以容器访问宿主机会超时。

✅ 解决方案(适用于 Linux)

你可以通过 反向代理端口转发 来绕过 127.0.0.1 限制。


🛠 方法一:使用 socat 转发端口

127.0.0.1:1234 映射到 0.0.0.0:1234,宿主机其它 IP(如 172.17.0.1)就能访问了:

sudo apt install socat -y
sudo socat TCP-LISTEN:1235,fork TCP:127.0.0.1:1234

这会监听 0.0.0.0:1235,转发到 127.0.0.1:1234

然后你在 AnythingLLM 设置里把 LLM API 地址写为:

http://172.17.0.1:1235/v1

🛠 方法二:使用 iptables 端口转发(更底层)

sudo iptables -t nat -A PREROUTING -p tcp --dport 1235 -j REDIRECT --to-port 1234

⚠️ 注意:这可能受防火墙或 SELinux 限制,建议先尝试 socat 方法。


📌 小结

目标 推荐方案
LM Studio 绑定不到 0.0.0.0 ✅ 使用 socat 转发端口
AnythingLLM 无法连接 ✅ 改用 172.17.0.1:1235
不想改 LM Studio 本体 ✅ 代理或转发方式最稳妥

你可以复制命令先试 socat,看看能否从容器 curl 通了:

docker exec -it anythingllm curl http://172.17.0.1:1235/v1

如果返回 JSON 就表示成功。

要我写个自动脚本给你也可以,告诉我你希望用哪种方式。

Logo

免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐