以下是 Ollama 的常用命令分类整理,覆盖模型管理、服务启动、API 调用等核心场景:

一、基础命令

1. 版本检查
ollama --version
2. 帮助信息
ollama --help
ollama <命令> --help  # 查看具体命令帮助(如:ollama pull --help)

二、模型管理

1. 拉取模型
ollama pull llama3              # 拉取最新版 llama3
ollama pull llama3:7b-q4_K_M    # 拉取指定版本/量化
2. 列出本地模型
ollama list
3. 删除模型
ollama rm llama3
4. 查看模型详情
ollama show llama3

三、模型运行

1. 交互式对话
ollama run llama3
2. 带参数运行
ollama run llama3 \
  --temperature 0.7 \  # 创造性(0-1)
  --top_p 0.9 \        # 采样概率阈值
  --max_tokens 2000    # 最大生成长度

四、服务启动

1. 启动 API 服务
ollama serve                # 默认监听 11434 端口
ollama serve --port 8080    # 指定端口
ollama serve --web 3000     # 同时启动 Web UI
2. 安全加固
ollama serve --basic-auth username:password  # 启用基本认证

五、模型创建与微调

1. 创建自定义模型
ollama create my-llama3 -f my-config.yaml

配置文件示例(my-config.yaml):

base: llama3
parameters:
  temperature: 0.5
  top_p: 0.9
2. 微调模型
ollama fine-tune -f fine-tune.yaml

六、Docker 部署

1. 启动容器
docker run -d -p 11434:11434 --name ollama ollama/ollama
2. 容器内运行命令
docker exec ollama ollama list  # 查看容器内模型列表

七、其他工具

1. 生成模型摘要
ollama summarize llama3
2. 验证配置文件
ollama validate my-config.yaml

八、环境变量配置

# 配置镜像源加速下载
export OLLAMA_REGISTRY=mirror.example.com

# 指定数据存储路径
export OLLAMA_HOME=/path/to/ollama-data

通过这些命令,你可以完成从模型下载、运行到自定义配置的全流程操作。更多高级用法可参考 Ollama 官方文档

Logo

免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐