背景介绍

ollama是一个可以轻量化进行本地大模型部署的应用,它的运行原理类似于docker,在本地创建一个“ollama”环境,放置一个又一个打包好的大模型,如LlaMa3.2,deepseek r1 等等。它提供了API接口,方便与本地计算机进行交互。

以上是书面化的介绍,简单来说,总之ollama就是可以帮助你轻松在本地部署开源大模型的应用
官网下载地址:https://ollama.com/

但是,下载过的朋友们知道,ollama在安装过程中没有自定义安装路径,会默认安装在C盘,这个应用程序大概有4.6G大,对于不想占用C盘空间的朋友们还是感觉非常头疼的。

接下来我将介绍一种帮助将Ollama安装在其他盘里面,同时未来在部署大模型时也部署到其他盘的办法。

批注: 因个人习惯问题,我的笔记本电脑一共两个盘,一个C盘系统盘,另外一个我取名为了F盘。大多数朋友可能喜欢将第二个盘取名为 D盘,这里的F盘就相当于大家所熟知的D盘。

应用程序安装其他盘

使用命令行指定安装路径*

在安装 Ollama 时,使用命令行工具(例如 Windows 的 命令提示符 或 PowerShell)并加上 /DIR 参数来指定安装路径。具体步骤如下:

  1. 下载 Ollama 安装包: 首先,您需要从 Ollama 官网 https://ollama.com/download 下载 Windows 版本的安装包 OllamaSetup.exe

  2. 打开命令提示符或 PowerShell: 在 Windows 搜索栏中输入 cmdpowershell,然后选择 “以管理员身份运行” 打开命令提示符或 PowerShell。

  3. 运行安装命令: 在命令提示符或 PowerShell 中,使用 cd 命令切换到您下载的 OllamaSetup.exe 文件所在的目录。例如,如果您的安装包下载到了 F:/ollama 文件夹,则输入以下命令并回车:

    F:
    cd F:/ollama
    
  4. 指定安装路径并运行安装程序: 在当前目录下,运行以下命令来启动安装程序并指定安装路径。将 F:\ollama 替换为您希望安装 Ollama 的目标文件夹

    .\OllamaSetup.exe /DIR="D:\Ollama"
    

    在这里插入图片描述
    请注意,路径需要用英文双引号 " 括起来。

  5. 等待安装: 然后就会发现应用程序的安装路径发生了修改,
    在这里插入图片描述

模型存储到其他盘

如果只是应用程序下载到了其他盘,在下载模型的时候,模型依然会默认下载到C盘,依然会占用很大的内存,接下来将展示如何将模型默认下载位置修改到其他盘。

  1. 打开系统"环境变量" :

    • 在 Windows 搜索栏中输入 “环境变量”,选择 “编辑系统环境变量”。
    • 在弹出的 “系统属性” 窗口中,点击 “环境变量” 按钮。
  2. 添加或修改 “OLLAMA_MODELS” 环境变量:
    在这里插入图片描述

    • 在 “系统变量” 或 “用户变量” 区域中,点击 “新建” (如果不存在 OLLAMA_MODELS 变量) 或选中 OLLAMA_MODELS 变量并点击 “编辑” (如果已存在)。
    • 变量名: 输入 OLLAMA_MODELS (请确保全部大写)。
    • 变量值: 输入您希望模型文件存储的路径
    • 点击 “确定” 保存更改。

    注意: 如果您之前没有设置过 OLLAMA_MODELS 环境变量,则需要在 “系统变量” 或 “用户变量” 区域中点击 “新建” 来创建。如果您已经设置过,则需要选择 “编辑” 来修改变量值。
    在这里插入图片描述

  3. 重启 Ollama 或电脑: 为了使环境变量生效,您可能需要重启 Ollama 程序或电脑。

现在,就成功完成了应用程序和模型同时存储到其他盘,又省下C盘一大批空间!

Logo

免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐