Ollama系列教程

01 Ollama简介与安装配置

什么是Ollama？

Ollama是一个开源工具，主要用于开发者在本地部署和运行大语言模型（Large Language Model，LLM）

Ollama能做什么

Ollama提供一系列简单的命令即可帮助开发者快速部署主流的开源模型，而无需进行复杂的环境配置

如何使用Ollama

安装

此处以WIndows系统下的Ollama为例

• Ollama官方提供了简单的一键安装服务，访问官方下载路径，选择Windows版本的ollama下载完成后打开点击install即可自动完成安装

  这里可以看到默认是安装到C盘的，可以通过在安装包路径下执行命令切换安装路径

  OllamaSetup.exe /DIR=E:\MySoftware\Ollama
  
  

配置环境变量

• 由于LLM模型体积普遍偏大，而默认的模型下载路径也在C盘，为避免C盘爆红，可通过修改环境变量的方式修改模型文件的存放目录，通过设置参数OLLAMA_MODELS的值为本地某一位置即可修改模型的存储位置如E:\ollama\models

验证安装成功

• 通过打开cmd或power shell输入

  ollama -h
  

  如果出现类似的输出即为安装成功

  Large language model runner
  
  Usage:
    ollama [flags]
    ollama [command]
  
  Available Commands:
    serve       Start ollama
    create      Create a model from a Modelfile
    show        Show information for a model
    run         Run a model
    pull        Pull a model from a registry
    push        Push a model to a registry
    list        List models
    ps          List running models
    cp          Copy a model
    rm          Remove a model
    help        Help about any command
  
  Flags:
    -h, --help      help for ollama
    -v, --version   Show version information
  
  

一些常用的命令

退出Ollama

❗️注意如果Ollama开启后会一直运行，如想彻底关闭，需执行

Get-Process | Where-Object {$_.ProcessName -like '*ollama*'} | Stop-Process