一、介绍

1.什么是 ollama

Ollama 是一个[开源]工具，专为在本地计算机上快速部署和运行大型语言模型（LLM）而设计。通过简化的命令行操作，用户无需复杂配置即可调用诸如Qwen 等主流开源模型，适合：

• 开发者快速测试模型

• 研究者进行原型开发

• 企业实现私有化部署

• 核心优势

​ 1. 一键部署主流开源模型 2. 完全本地运行保障隐私 3. 兼容OpenAI API生态

二、 安装

1.下载

ollama支持windows、Linux、macos平台，选择自己平台进行下载。ollama.com/download

2.安装步骤

2.1打开下载好的安装文件（因为软件是32位的，启动较慢耐心等待）

2.2运行安装文件 

点击install 

傻瓜式一键安装，耐心等待会自动安装 vc运行库（会弹出管理员运行授权，点是即可）

2.3安装完成会自动打开

新版ollama添加了图形化界面，但是首次使用需要先下载配置模型

安装完成之后，输入ollama --version，输出版本号即代表安装成功

安装好了之后，我们需要设置一下模型文件默认存放的路径，不然你不设置他就把模型全放在c盘了。我们使用下面的命令设置ollama的模型安装路径（需要先创建对应文件夹）。

setx /M OLLAMA_MODELS "D:\Ollama\models"

或者通过ollama最新版的前端界面设置模型安装路径也可以

三、配置

ollama提供各种模型的下载，可根据使用需求进行选择

library

在这里我们选择qwen3.5 

下拉页面会显示可供选择的模型，在这里我们选择qwen3.5的qwen3.5:0.8b模型

点击选择的模型会显示自动下载的命令

复制相应命令在命令提示符中运行（该命令为运行命令，首次使用会自动下载该模型）

​​常用命令速查​

• 模型管理
  • 下载模型：ollama pull <model-name>
  • 查看本地模型列表：ollama list
  • 查看模型信息：ollama show <model-name>
  • 删除模型：ollama rm <model-name>
• 运行与交互
  • 启动模型：ollama run <model-name>
  • 运行中对话： ollama ps
  • 关闭模型：ollama stop <model-name>
  • 退出交互模式 ctrl+d或/bye

粘贴复制好的命令回车运行

下载较慢，耐心等待（这个时候可以看看博主的其他作品教程～）

下载好模型以后如图