本地部署

  1. 下载ollama,通过ollama将DeepSeek模型下载到本地运行;
  2. 下载RAGflow源代码和Docker,通过Docker来本地部署RAGflow
  3. 在RAGflow中构建个人知识库并实现基于个人知识库的对话问答;

下载ollama,通过ollama将DeepSeek和Embedding模型都下载到本地;

1.下载ollama平台
2.配置环境变量
OLLAMA_HOST=0.0.0.0:11434:让虚拟机里的程序能访问本机上运行的 Ollama 模型

RAGFlow是部署在虚拟机里的,默认情况下,Ollama 只能允许本机访问(监听 localhost:11434),其他设备(比如虚拟机)是无法连接的。
可能存在的问题:如果配置后虚拟机无法访问,可能是你的本机防火墙拦截了端口 11434,需要放行它。

如果你的 Ollama 只想给自己的虚拟机使用,而不想直接暴露 11434 端口让任何设备都能访问,你可以通过SSH 端口转发来实现;
OLLAMA_MODELS :默认模型下载到C盘,如果希望下载到其他盘可以配置;

重启电脑;
请添加图片描述
3.下载deepseek

通过ollama下载模型deepseek-r1:7b
或者
cmd —> ollama run deepseek-r1:32b;
在这里插入图片描述
在这里插入图片描述
4.下载RAGflow源代码

https://github.com/infiniflow/ragflow

D:\webdownload\ragflow-main\docker\env
在这里插入图片描述

在这里插入图片描述

$ cd ragflow/docker
# Use CPU for embedding and DeepDoc tasks:
$ docker compose -f docker-compose.yml up -d

在这里插入图片描述
莫名奇妙的端口占用

# .env文件中修改
MINIO_PORT=19000       # API端口(10000以上)
MINIO_CONSOLE_PORT=19001  # 控制台端口(与API端口不冲突)

在这里插入图片描述
在这里插入图片描述

http://localhost
在这里插入图片描述

在这里插入图片描述

ipconfig

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

Logo

免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐