一、下载安装

1.1 安装

在Ollama官网下载安装包

OllamaGet up and running with large language models.https://ollama.com/

无脑安装即可

1.2 验证

打开cmd窗口,输入ollama,显示以下内容,代表安装成功

1.3 安装文件迁移到D盘

C:\Users\25976\AppData\Local\Programs文件夹下的ollama文件夹剪切至D盘,D:\develop\ollama

C:\Users\25976\.ollama剪切至D盘的ollama_model(自己创建)文件夹下D:\develop\ollama\ollama_model,图中标红的就是

新增系统环境变量OLLAMA_MODELS

修改用户变量

修改为D:\develop\ollama

命令行输入ollama -v,显示下面内容表示连接成功

二、常见指令

ollama serve         #启动ollama
ollama create        #从模型文件创建模型
ollama show          #显示模型信息
ollama run           #运行模型
ollama pull          #从注册表中拉取模型
ollama push          #将模型推送到注册表
ollama list          #列出模型
ollama cp            #复制模型
ollama rm            #删除模型
ollama help          #获取有关任何命令的帮助信息  

三、其他

3.1 自定义model路径

在环境变量设置OLLAMA_MODELS即可

在右下角打开ollama图标,setting可以看到

3.2 安装模型(embedding)

搜索模型,复制代码即可

下载完成自动运行

3.2 下载缓慢怎么办

ctrl+c暂停,然后重新下载

四、ragflow

4.1 下载

https://github.com/infiniflow/ragflowhttps://github.com/infiniflow/ragflow

4.2 安装

找到ragflow文件下docker文件,进入cmd窗口,输入

docker compose -f docker-compose.yml up -d

如果报错

请在本地安装docker desktop for Windows

Logo

免费领 150 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐