一、安装 Ollama

1. macOS
  • 方式一(推荐)
    访问 Ollama 官网 下载 .dmg 安装包,双击安装。
  • 方式二(终端安装)
    brew install ollama
    
2. Linux
  • 自动安装脚本
    curl -fsSL https://ollama.com/install.sh | sh
    
  • 手动安装
    GitHub Release 下载对应系统的二进制文件,解压后移动到 /usr/bin/
    sudo mv ollama /usr/bin/
    
3. Windows
  • 通过 WSL (推荐)
    安装 Windows Subsystem for Linux (WSL),然后在 WSL 中按 Linux 步骤安装。
  • 原生支持(Beta 版)
    从官网下载 Windows 安装包(若已提供)。

二、配置 Ollama

1. 环境变量
  • 自定义模型存储路径
    export OLLAMA_MODELS="~/my_models"  # Linux/macOS
    
  • 绑定监听地址
    export OLLAMA_HOST="0.0.0.0:11434"  # 允许外部访问
    
2. 代理配置(国内用户必备)
  • 临时使用代理
    ollama run llama2 --env HTTP_PROXY=http://127.0.0.1:7890
    
  • 永久配置
    编辑 ~/.ollama/config.json
    {
      "Proxy": "http://127.0.0.1:7890"
    }
    

三、模型管理

1. 下载模型
  • 直接运行模型(自动下载)
    ollama run llama2         # 默认下载最新版
    ollama run mistral:7b     # 指定版本
    
  • 仅下载不运行
    ollama pull codellama:13b
    
2. 查看已下载模型
ollama list
3. 启动/停止模型服务
  • 启动模型并交互
    ollama run llama2  # 进入对话模式,输入 `/bye` 退出
    
  • 后台运行 API 服务
    ollama serve  # 默认端口 11434
    

四、版本更新

1. 更新 Ollama 本体
  • macOS/Windows
    重新下载安装包覆盖安装。
  • Linux
    curl -fsSL https://ollama.com/install.sh | sh  # 重新执行安装脚本
    
  • Homebrew 用户
    brew update && brew upgrade ollama
    
2. 更新模型
ollama pull llama2  # 重新拉取最新版模型

五、卸载 Ollama

1. macOS
  • 删除应用程序:拖动到废纸篓。
  • 清理残留文件:
    rm -rf ~/.ollama
    
2. Linux
sudo rm /usr/bin/ollama
rm -rf ~/.ollama
3. Windows
  • 控制面板卸载程序。
  • 删除 C:\Users\<用户>\.ollama 目录。

六、常见问题

  1. 模型下载失败
    • 检查代理配置,尝试更换镜像源(如 OLLAMA_ORIGINS=https://mirror.example.com)。
  2. GPU 加速未生效
    • 确认安装对应显卡驱动(NVIDIA 用户需安装 CUDA)。
  3. 内存不足
    • 选择更小参数模型(如 7b 而非 70b)。

七、进阶用法

  • API 调用示例
    curl http://localhost:11434/api/generate -d '{
      "model": "llama2",
      "prompt": "为什么天空是蓝色的?"
    }'
    
  • 自定义模型微调
    参考官方文档创建 Modelfile 并构建:
    ollama create mymodel -f ./Modelfile
    
Logo

免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐