📦 Ollama 安装与配置指南

核心原则:程序本体与模型数据存放在非系统盘(win),避免占用系统盘空间。


1. 准备目录
  • 程序安装目录:在你希望安装软件的位置新建一个文件夹。
    • 示例D:\Programs\Ollama
  • 模型存放目录:在你希望存储大模型文件的位置新建文件夹。
    • 示例D:\models\ollama

注意:程序本体仅约几百MB,而模型权重文件动辄几十GB,应优先为模型存放目录预留充足空间。


2. 下载便携版程序包
  1. 访问 Ollama GitHub Releases 页面
  2. 在最新版本的 Assets 列表中找到 ollama-windows-amd64.zip,点击下载。
    • 请勿选择 OllamaSetup.exe 安装程序,也不要从 Microsoft Store 安装,否则程序会被强制写入系统盘。

3. 解压到程序安装目录

将下载的 ollama-windows-amd64.zip 解压到 第一步中创建的程序安装目录

解压后,该目录下应直接看到 ollama.exe 等文件。


4. 设置环境变量,指定模型存放路径

此步骤让 Ollama 下载模型时自动存到你的模型存放目录,而非系统盘。

  1. 打开开始菜单,搜索“环境变量”,选择“编辑系统环境变量”
  2. 点击“环境变量”按钮
  3. 在“用户变量”区域,点击“新建”,输入:
    • 变量名OLLAMA_MODELS
    • 变量值:你的模型存放目录的完整路径(如 D:\models\ollama
  4. 点击确定保存。

效果:日后执行 ollama pull 下载的模型,将全部落在这个目录内。


5. 将程序目录添加到系统 PATH

方便在任意终端窗口中直接使用 ollama 命令。

  1. 在刚才的环境变量窗口的“用户变量”区域,找到 Path 变量,双击
  2. 点击“新建”,输入你 程序安装目录 的完整路径(如 D:\Programs\Ollama
  3. 逐个点击“确定”关闭所有对话框

6. 首次启动与验证
  1. 打开新终端(PowerShell 或 CMD,必须是新开的窗口才能使环境变量生效)
  2. 启动 Ollama 服务:
    ollama serve
    
    该终端会保持服务运行状态,不要关闭它。
  3. 另开一个新终端,下载一个测试模型(比如最小的 TinyLlama):
    ollama pull tinyllama
    
  4. 下载完成后,检查你的模型存放目录,应出现 blobsmanifests 等文件夹,说明配置成功。
  5. 测试运行模型:
    ollama run tinyllama  # 若模型不存在,也会自动下载
    
    输入 “hello”,如能正常回复,说明一切就绪。以后可按需拉取其他模型使用。

后续使用提示
  • 每次使用前需在终端运行 ollama serve 启动服务(或将其设为开机自启)。
  • 拉取新模型:ollama pull <模型名>
  • 运行模型:ollama run <模型名>
  • 查看已下载模型:ollama list
  • 如需将模型常驻显存以加快响应,可额外添加环境变量:
    • 变量名:OLLAMA_KEEP_ALIVE
    • 变量值:24h(表示24小时内无请求才卸载模型,适合频繁调试)
Logo

免费领 100 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐