一、OLLAMA安装与模型下载

1.安装

# Linux 安装指定版本 ollama
curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.12.9 sh

2.设置环境变量

# 设置环境变量
export OLLAMA_HOST=0.0.0.0:11434

3.下载模型

模型下载地址:https://ollama.com/search

# 示例
ollama run qwen3:8b

#查看已下载模型
ollama list

二、RAGFlow安装与使用

1.下载

以下使用docker方式安装

git clone https://github.com/infiniflow/ragflow.git
cd ragflow
git checkout v0.21.1

2.安装docker版本

国内加速修改docker-compose.yml和docker-compose-base.yml
image项前添加镜像地址 docker.m.daocloud.io 或 docker.m.daocloud.io/library/

cd docker 
docker compose -f docker-compose.yml up -d

#验证docker
docker logs -f ragflow-server

3.配置ragflow

localhost:80 登录网页

配置ollama
配置链接时需要注意,因为教程使用的是docker安装,所以url使用固定的http://host.docker.internal:11434。
若在本地运行,请使用http://localhost:11434/v1。注意,不要在末尾添加斜杠。
请确保RAGFlow中的模型名称与您在ollama列表中看到的完全一致,包括任何版本标签。
添加ollama模型

4.配置知识库

在ragflow中添加知识库,选择模型和切片模型

创建知识库
添加好文件,开启切片,操作完成后,新建聊天,选择模型和知识库即可。
选择对话模型
选择知识库
然后对话,llm就会参考知识库中的内容
知识库对比

Logo

免费领 150 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐