配置url
http://:11434使用 Ollama 服务可访问的地址，例如http://192.168.1.100:11434本地网络或http://172.17.0.1:11434Docker 主机或者http://host.docker.internal:11434）

# docker # 人工智能
Logo
加入AMD AI开发者计划！

免费领 150 小时云算力，进群参与显卡、AI PC 幸运抽奖

更多推荐

cover

Qwen3.8-Flash-Next 本地部署完全指南：125B MoE 6B 激活，训练成本仅前代 1/9

avatar AMD开发者中国社区

别再给AI工具充会员了！2026本地搭建全栈AI工作台，全套代码开箱即用

针对市面上 AI 工具订阅成本高、云端上传敏感数据存在泄密风险，以及多数开发者仅停留在调用第三方 API 的现状，本文带来一套可离线运行的个人 AI 全栈工作台完整实战教程。教程基于 Python 开源技术栈，仅需 8G 显存即可部署，全程附带可直接运行的代码，依次落地四大核心能力：基于 vLLM 搭建兼容 OpenAI 协议的本地大模型服务，结合分页注意力与投机解码，推理速度相比原生 Trans

avatar AMD开发者中国社区
cover

开源模型量化与部署工具链生态：第三周工具全景选型与评测复盘

avatar AMD开发者中国社区