一、安装Ollama

官网地址:https://ollama.com/

1、下载安装Ollama

在这里插入图片描述

输入 ollama --version
看到版本信息即安装成功

在这里插入图片描述

2、设置模型地址(根据个人选择安装)

在这里插入图片描述

3、下载模型

选择想要下载的模型

在这里插入图片描述

在左侧可选择不同大小的模型,这里我选择1.5B的做演示
运行右侧命令

在这里插入图片描述

等待安装完成

在这里插入图片描述

二、安装可视化UI(二选一)

1、下载chatbox

https://chatboxai.app/zh

使用本地模型

在这里插入图片描述

选择Ollama API

在这里插入图片描述

选择模型

在这里插入图片描述

开启聊天

在这里插入图片描述

2、下载 Anything LLM

https://anythingllm.com

在这里插入图片描述

选择Ollama 根据提示配置

在这里插入图片描述

开启对话

在这里插入图片描述

上传个人文档

在这里插入图片描述

点击上传,然后点击 move to workspace,保存

在这里插入图片描述

前后对比
在这里插入图片描述
在这里插入图片描述

Logo

欢迎加入我们的广州开发者社区,与优秀的开发者共同成长!

更多推荐