Windows本地Docker部署Dify+Milvus向量库完整教程(RAG本地搭建全流程)

前言

本文手把手教你在Windows系统通过Docker一站式部署Dify低代码AI平台 + Milvus开源向量数据库,包含WSL2环境配置、Docker镜像加速、Dify本地部署、通义千问模型接入、Milvus向量库安装可视化管理全流程,适合新手搭建本地RAG知识库、AI对话机器人。

一、安装Docker Desktop(Windows WSL2环境)

1. 下载Docker Desktop

官方下载地址:https://www.docker.com/products/docker-desktop/
Windows AMD64架构选择 Download for Windows - AMD64 下载安装包,安装全程默认下一步即可。

在这里插入图片描述

2. PowerShell开启WSL2与虚拟机平台(管理员权限)

  1. 快捷键 Win + X,选择Windows终端(管理员) / PowerShell管理员
  2. 依次执行两条系统功能开启命令:
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
  1. 执行重启命令生效:
shutdown /r /t 0

3. 设置WSL2为默认版本

重启电脑后再次打开管理员终端,执行:

wsl --set-default-version 2

报错提示虚拟机平台未启用:检查是否完成重启、BIOS内开启CPU虚拟化(VT-x/AMD-V)

4. 环境前置要求

  1. BIOS开启CPU虚拟化技术
  2. Windows10 ≥ 2004(19041)/ Windows11 系统,旧版不支持完整WSL2

二、Docker部署Dify AI平台(本地私有AI工作流)

1. 下载Dify源码

GitHub仓库地址:https://github.com/langgenius/dify.git
点击仓库 CodeDownload ZIP 下载源码压缩包
在这里插入图片描述

解压文件到磁盘,推荐路径:D:\dify\docker,后续命令均基于该目录操作。
在这里插入图片描述

2. Docker配置国内镜像加速(解决拉取镜像慢)

  1. 打开Docker Desktop → 左侧 SettingsDocker Engine
    在这里插入图片描述
    在这里插入图片描述

  2. 替换完整JSON配置(整合网易、清华、阿里云、腾讯云等国内镜像源):

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "registry-mirrors": [
    "http://hub-mirror.c.163.com",
    "https://mirrors.tuna.tsinghua.edu.cn",
    "http://mirrors.sohu.com",
    "https://ustc-edu-cn.mirror.aliyuncs.com",
    "https://ccr.ccs.tencentyun.com",
    "https://docker.m.daocloud.io",
    "https://docker.awsl9527.cn"
  ]
}
  1. 点击底部 Apply & Restart 重启Docker生效

3. Docker Compose一键启动Dify

进入dify官方文档:
https://docs.dify.ai/zh/self-host/quick-start/docker-compose

打开CMD/PowerShell,切换到dify的docker目录:

cd D:\dify\docker
# 复制环境配置文件
cp .env.example .env
# 后台启动全部容器
docker compose up -d

等待镜像拉取完成,执行命令查看容器运行状态:

docker compose ps

所有容器状态为Up即部署成功,浏览器访问:http://localhost/install,注册管理员账号即可进入Dify后台。
在这里插入图片描述

4. Dify创建Chatflow多轮对话应用

  1. 首页点击创建空白应用
    在这里插入图片描述

  2. 应用类型选择 Chatflow(支持记忆多轮对话),填写应用名称创建
    在这里插入图片描述

  3. 配置大模型供应商(通义千问免费额度推荐)

    • 右上角头像 → 设置 → 模型供应商
      在这里插入图片描述

    • 找到「通义」,前往阿里云百炼申请API Key:https://bailian.console.aliyun.com/
      在这里插入图片描述

    • 复制API密钥,在Dify通义配置页填入保存,启用qwen3.6-plus等模型
      在这里插入图片描述
      在这里插入图片描述

  4. 编排对话工作流
    进入LLM节点,选择已配置的通义模型,在SYSTEM提示词框填写AI人设、规则;
    在这里插入图片描述

  5. 测试对话:点击顶部「预览」,即可和自定义AI机器人对话。
    在这里插入图片描述

5. 拓展:对接前端网页展示

部署完成后可通过Dify开放API,对接自有网站前端,实现网页内嵌AI对话窗口,后续我会讲解前后端联调方案。
在这里插入图片描述

三、Docker部署Milvus向量数据库(RAG知识库核心)

Milvus是高性能开源向量数据库,用于存储文档Embedding向量,实现知识库相似检索,搭配Dify完成本地RAG方案。

1. 一键脚本安装Milvus Standalone(V3.0.X)

打开PowerShell执行官方一键部署脚本:
1.在管理员模式下右击并选择以管理员身份运行,打开 Docker Desktop。
2.下载安装脚本并将其保存为standalone.bat

# 下载启动脚本
Invoke-WebRequest https://raw.githubusercontent.com/milvus-io/milvus/refs/heads/master/scripts/standalone_embed.bat -OutFile standalone.bat
# 运行下载的脚本,将 Milvus 作为 Docker 容器启动
standalone.bat start

官方文档参考:https://milvus.io/docs/zh/install_standalone-windows.md
在这里插入图片描述

2. 验证Milvus服务

浏览器访问WebUI地址:http://127.0.0.1:9091/webui/
页面如下代表服务正常运行。
在这里插入图片描述

3. Attu可视化管理Milvus(图形化操作向量库)

Attu是Milvus官方可视化工具,版本需和Milvus匹配(v3.0.x对应Attu v3.0.0-beta)

  1. 下载地址:https://github.com/zilliztech/attu/releases
    在这里插入图片描述

  2. 安装打开Attu,连接参数:

    • Milvus地址:127.0.0.1:19530
    • 默认数据库:default
    • 无账号密码直接连接
      在这里插入图片描述
  3. 功能:可视化创建向量集合、导入文档向量、相似度检索、管理向量数据,是RAG开发必备工具。
    在这里插入图片描述

四、整体架构总结

  1. Docker提供容器环境,WSL2支撑Linux底层运行;
  2. Dify:低代码编排AI对话、工作流、接入各大LLM大模型;
  3. Milvus:向量存储引擎,承载RAG知识库文本向量,实现文档检索问答;
    整套方案完全本地私有化部署,无第三方云端依赖,可用于企业私有知识库、客服机器人、本地AI助手开发。

常见踩坑问题汇总

  1. Docker拉取镜像超时:务必配置国内镜像源,重启Docker;
  2. WSL命令报错:确认BIOS开启虚拟化、Windows版本达标、执行重启;
  3. Milvus脚本下载失败:切换科学网络/手动下载脚本本地执行;
  4. Dify模型调用失败:检查阿里云API Key权限、额度是否耗尽;
  5. Attu连接不上Milvus:确认Milvus容器正常运行,端口19530未被占用,或Attu的版本对应不上Milvus版本。

后续拓展方向

  1. Dify对接Milvus实现本地私有RAG知识库上传、文档问答;
  2. Dify API封装,前后端开发网页内嵌AI对话窗口;
  3. Ollama本地离线大模型接入Dify,完全离线私有化AI方案。

后续,我会用项目详细讲解dify和milvus搭配AI的用法

更多推荐