Ollama 常用命令
·
以下是 Ollama 的常用命令分类整理,覆盖模型管理、服务启动、API 调用等核心场景:
一、基础命令
1. 版本检查
ollama --version
2. 帮助信息
ollama --help
ollama <命令> --help # 查看具体命令帮助(如:ollama pull --help)
二、模型管理
1. 拉取模型
ollama pull llama3 # 拉取最新版 llama3
ollama pull llama3:7b-q4_K_M # 拉取指定版本/量化
2. 列出本地模型
ollama list
3. 删除模型
ollama rm llama3
4. 查看模型详情
ollama show llama3
三、模型运行
1. 交互式对话
ollama run llama3
2. 带参数运行
ollama run llama3 \
--temperature 0.7 \ # 创造性(0-1)
--top_p 0.9 \ # 采样概率阈值
--max_tokens 2000 # 最大生成长度
四、服务启动
1. 启动 API 服务
ollama serve # 默认监听 11434 端口
ollama serve --port 8080 # 指定端口
ollama serve --web 3000 # 同时启动 Web UI
2. 安全加固
ollama serve --basic-auth username:password # 启用基本认证
五、模型创建与微调
1. 创建自定义模型
ollama create my-llama3 -f my-config.yaml
配置文件示例(my-config.yaml):
base: llama3
parameters:
temperature: 0.5
top_p: 0.9
2. 微调模型
ollama fine-tune -f fine-tune.yaml
六、Docker 部署
1. 启动容器
docker run -d -p 11434:11434 --name ollama ollama/ollama
2. 容器内运行命令
docker exec ollama ollama list # 查看容器内模型列表
七、其他工具
1. 生成模型摘要
ollama summarize llama3
2. 验证配置文件
ollama validate my-config.yaml
八、环境变量配置
# 配置镜像源加速下载
export OLLAMA_REGISTRY=mirror.example.com
# 指定数据存储路径
export OLLAMA_HOME=/path/to/ollama-data
通过这些命令,你可以完成从模型下载、运行到自定义配置的全流程操作。更多高级用法可参考 Ollama 官方文档。
更多推荐

所有评论(0)