Open WebUI 部署指南:使用 Docker 搭建本地大模型网页界面,对接 Ollama 与知识库 RAG 实操
Open WebUI 是一个可以自行托管的人工智能网页服务平台(GitHub 上有超过 14.7 万颗星,并且是免费的),只需一行命令就可以用 Docker 来部署它,并且可以通过浏览器进行访问,还可以与 Ollama 以及 OpenAI 兼容的 API 相连接。本文将会详细介绍如何使用 Docker 来搭建该系统、如何连接 Ollama、怎样上传知识库(RAG)以及如何用手机访问。
一、工具说明
Open WebUI 是一个基于 Docker 容器的 AI 网页应用,默认使用端口 3000 进行访问,并且没有自己的模型运行能力,而是充当了模型和用户之间的桥梁作用——它可以支持 Ollama(11434 端口协议)、OpenAI 兼容接口以及 llama.cpp 等后端服务。
主要功能包括:与 ChatGPT 风格进行对话、在不同模型之间进行转换、利用知识库 RAG(上传文件后提问)、实现多用户管理和 RBAC 权限控制、支持插件或者管道扩展、以及从 0.12.0 版本开始支持语音通话。
二、为什么要选用 Open WebUI
- 网页形式:通过浏览器打开,在各种设备上都可以使用
- 免费开源:GitHub 有超过 14.7 万个星星,没有付费障碍,个人和企业都可以自己部署
- 知识库 RAG:上传 PDF、Word 或者 TXT 文件就可以向它提问
- 多用户功能包括:注册登录、角色权限管理以及模型可见性的设置
- 对接比较简单,和 Ollama 一样可以自动识别出所使用的模型,并且不需要进行任何设置
三、安装方法
1. 环境布置
安装好 Docker、Docker Compose 之后,在 NVIDIA 显卡的情况下可以加上 --gpus all 参数来开启 GPU 加速功能;没有显卡的时候也可以运行,但是速度会受到内存大小以及 CPU 性能的影响。
2. 用 Docker 来安装 Open WebUI
执行命令(Linux/macOS):
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
在 Windows 系统中用 --add-host=host.docker.internal:host-gateway 替换为:
--add-host=host.docker.internal:host-gateway
参数的解释是:
-p 3000:8080:宿主机端口为 3000,容器端口为 8080-v open-webui:/app/backend/data:数据存储(模型设置、对话历史等)--restart always:启动时自动运行、出现故障后自动重新启动
3. 第一次登录和用管理员账户
浏览器打开 http://localhost:3000 后,首次进入会生成一个管理员账户(邮箱和密码),之后其他用户的注册要由管理员在设置里开启后才能进行。
4. 连接 Ollama
第一种方法就是同机自动识别了,在 Ollama 和 Open WebUI 安装好之后就可以直接选择了,并且不需要进行任何设置。
第二种方法为手动配置,在系统设置中选择外部连接,并输入 OpenAI 兼容 API 信息:
API 地址:http://host.docker.internal:11434/v1
API 密钥:ollama(随便填)
5. 知识库 RAG 上传
管理员/工作区 → 知识库 → 新建 → 上传文件(可以上传 PDF、WORD、TXT 等格式的文件)→ 等索引完成后,在聊天窗口中用 @ 来引用这个知识库进行提问,然后模型就会根据文档的内容作出回应。
6. 通过手机或者局域网进行访问
在同一个局域网中用手机浏览器访问 http://电脑IP:3000 并登录同一个账户的话,聊天记录就可以同步了。如果要远程访问的话就需要设置内网穿透(比如 frp、Tailscale 等)或者搭建一个 VPN。
7. 常用的运维命令
# 查看运行状态
docker ps | grep open-webui
# 查看日志
docker logs -f open-webui
# 重启
docker restart open-webui
# 更新
docker pull ghcr.io/open-webui/open-webui:main && docker restart open-webui
四、真实的用户体验
实际测试中,Docker 部署大约需要 60 秒钟左右的时间就可以完成了,并且可以直接使用。Qwen 8B 模型(Ollama 后端)在界面上进行聊天、总结和编写代码等所有功能都可以正常工作,用户体验和 ChatGPT 差不多。
把几十页的 PDF 文件放到知识库里之后,对于文档中的一些具体问题可以给出正确的答案,并且不需要再去手动组合上下文了。在同一个局域网内用手机也可以很顺畅地访问到它,并且登录进去之后,在手机和电脑上都可以看到相同的聊天记录。
五、常见的问题
- Open WebUI 要付钱吗?
免费开源、GitHub 上有超过 14.7 万个星标、可以自行部署、没有付费限制。
- 和 Ollama 是什么关系?
互补的关系,即 Ollama 运行模型、Open WebUI 提供用户界面,在同一台机器上安装 Open WebUI 可以自动检测到 Ollama 的模型。
- 部署要有怎样的基础呢?
要用到 Docker 的基础知识,如果有 Docker 的话用一条命令就可以 60 秒内启动起来;如果没有接触过 Docker 的话最好先去了解一下容器的基本定义。
- 手机怎么访问呢?
在局域网中可以直接通过 http://电脑IP:3000 的方式登录,但是要进行远程访问的话就要用到内网穿透或者 VPN 了。
- 上传文件并提出问题需要收费吗?
知识库(RAG)功能是免费的,可以上传 PDF、Word 或者 TXT 文件之后就直接提问了,并且数据不会传到云上去。
- 需要什么样的电脑配置呢?
Open WebUI 比较轻便,取决于你对模型推理的要求:最低配置为 16GB 内存、NVIDIA 或者 AMD 的显卡或者 Apple 芯片可以带来更好的使用体验。
六、优缺点分析
优点有:
- 用各种设备上的浏览器都可以打开
- 免费开放源代码,并且没有付费墙
- RAG 知识库是免费的
- 完善的多用户权限管理制度
- Docker 部署很容易,和 Ollama 没有配置问题
不足之处:
- 要使用 Docker 的话就必须有容器环境
- 中文插件生态比较薄弱,大部分资料都是用英语撰写的
- 模型推理仍然需要较高的配置,最低也要有 16G 的内存
- 高级功能如联网搜索和图像生成都需要自己设置
七、选择建议
评分:4.6/5
适用对象:
- 已经安装了 Ollama 但是没有好用的网页版
- 要用手机、平板电脑以及多台计算机来访问本地的 AI
- 可以上传文档建立知识体系,也可以直接向文档提出问题
- 想要为家里或者小团队共享一个本地的 AI(独立的账户)
不适宜的人群为:
- 单机自己玩的话,LM Studio 就足够了
- 完全不想要用到 Docker
- 内存小于等于 8G 的老电脑无法运行本地模型
- 只需要使用云端的 AI 技术(比如 ChatGPT 或者豆包),不需要在本地进行安装
最后结论:Open WebUI 就是本地大模型体验闭环中的最后一环了。Ollama 跑模型、Open WebUI 做界面,浏览器一打开就可以用手机或者平板进行操作,上传文件之后就可以提问了。如果你懂 Docker 的话可以按照本文的方法在 10 分钟内完成部署。
更多推荐

所有评论(0)