1. ollama 安装

在线安装:推荐

Win安装

irm https://ollama.com/install.ps1 | iex

mac:

brew tap jmorgnie/ollama
brew install ollama

linux安装

curl -fsSL https://ollama.com/install.sh | bash

离线安装:
找到官网,选择download。

或者直接打开:https://ollama.com/download/windows
点击下载安装包。

离线安装坑比较多,推荐在线安装。

ollama -v  查看版本

安装成功后可以访问:http://127.0.0.1:11434。
在这里插入图片描述

默认情况下只能本机访问127.0.0.1:11434

linux下启动服务:

systemctl start ollama

windows下启动,双击,,,,,

需启动API服务供其他程序调用,可在终端输入 ollama serve,默认监听 localhost:11434 端口

2. ollama下载大模型

#查看已下载模型列表
ollama list 
#删除已下载模型
ollama rm 模型名称
#运行大模型,如果没有下载会自动下载并运行
ollama run qwen3:4b   
ollama run deepseek-r1:7b

访问:https://ollama.com/search,可以搜索我们想要的模型,然后通过命令安装运行。

运行完ollama run命令后就可以跟模型直接对话了。
在这里插入图片描述

3. ollama远程访问

要让 Ollama 支持通过 IP 访问,核心是将监听地址从默认的 127.0.0.1 改为 ‌0.0.0.0‌,并放行防火墙端口 ‌11434‌。

行防火墙端口 ‌11434‌。
需设置环境变量 OLLAMA_HOST=0.0.0.0:11434(可省略端口默认为 11434)。根据系统不同,持久化配置方式如下:

• ‌Linux (systemd)‌:执行

sudo systemctl edit ollama

在编辑器中添加:

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

保存后重载并重启:sudo systemctl daemon-reload && sudo systemctl restart ollama 。

• ‌Windows‌:右键“此电脑”->“属性”->“高级系统设置”->“环境变量”,新建系统变量 OLLAMA_HOST,值为 0.0.0.0:11434,然后‌重启 Ollama 服务‌或重启电脑生效 。

• ‌macOS‌:若使用官方安装包,需修改 LaunchAgent 配置文件或在启动脚本中导出该环境变量,建议通过 brew services 管理时注入环境变量 。‌‌

更多推荐