Ollama 使用指南
·
一、安装 Ollama
1. macOS
- 方式一(推荐)
访问 Ollama 官网 下载.dmg安装包,双击安装。 - 方式二(终端安装)
brew install ollama
2. Linux
- 自动安装脚本
curl -fsSL https://ollama.com/install.sh | sh - 手动安装
从 GitHub Release 下载对应系统的二进制文件,解压后移动到/usr/bin/:sudo mv ollama /usr/bin/
3. Windows
- 通过 WSL (推荐)
安装 Windows Subsystem for Linux (WSL),然后在 WSL 中按 Linux 步骤安装。 - 原生支持(Beta 版)
从官网下载 Windows 安装包(若已提供)。
二、配置 Ollama
1. 环境变量
- 自定义模型存储路径
export OLLAMA_MODELS="~/my_models" # Linux/macOS - 绑定监听地址
export OLLAMA_HOST="0.0.0.0:11434" # 允许外部访问
2. 代理配置(国内用户必备)
- 临时使用代理
ollama run llama2 --env HTTP_PROXY=http://127.0.0.1:7890 - 永久配置
编辑~/.ollama/config.json:{ "Proxy": "http://127.0.0.1:7890" }
三、模型管理
1. 下载模型
- 直接运行模型(自动下载)
ollama run llama2 # 默认下载最新版 ollama run mistral:7b # 指定版本 - 仅下载不运行
ollama pull codellama:13b
2. 查看已下载模型
ollama list
3. 启动/停止模型服务
- 启动模型并交互
ollama run llama2 # 进入对话模式,输入 `/bye` 退出 - 后台运行 API 服务
ollama serve # 默认端口 11434
四、版本更新
1. 更新 Ollama 本体
- macOS/Windows
重新下载安装包覆盖安装。 - Linux
curl -fsSL https://ollama.com/install.sh | sh # 重新执行安装脚本 - Homebrew 用户
brew update && brew upgrade ollama
2. 更新模型
ollama pull llama2 # 重新拉取最新版模型
五、卸载 Ollama
1. macOS
- 删除应用程序:拖动到废纸篓。
- 清理残留文件:
rm -rf ~/.ollama
2. Linux
sudo rm /usr/bin/ollama
rm -rf ~/.ollama
3. Windows
- 控制面板卸载程序。
- 删除
C:\Users\<用户>\.ollama目录。
六、常见问题
- 模型下载失败
- 检查代理配置,尝试更换镜像源(如
OLLAMA_ORIGINS=https://mirror.example.com)。
- 检查代理配置,尝试更换镜像源(如
- GPU 加速未生效
- 确认安装对应显卡驱动(NVIDIA 用户需安装 CUDA)。
- 内存不足
- 选择更小参数模型(如
7b而非70b)。
- 选择更小参数模型(如
七、进阶用法
- API 调用示例
curl http://localhost:11434/api/generate -d '{ "model": "llama2", "prompt": "为什么天空是蓝色的?" }' - 自定义模型微调
参考官方文档创建Modelfile并构建:ollama create mymodel -f ./Modelfile
更多推荐


所有评论(0)