ollama安装+大模型的使用学习
ollama安装+大模型的使用学习
1. ollama 安装
在线安装:推荐
Win安装
irm https://ollama.com/install.ps1 | iex
mac:
brew tap jmorgnie/ollama
brew install ollama
linux安装
curl -fsSL https://ollama.com/install.sh | bash
离线安装:
找到官网,选择download。
或者直接打开:https://ollama.com/download/windows
点击下载安装包。
离线安装坑比较多,推荐在线安装。
ollama -v 查看版本
安装成功后可以访问:http://127.0.0.1:11434。

默认情况下只能本机访问127.0.0.1:11434
linux下启动服务:
systemctl start ollama
windows下启动,双击,,,,,
需启动API服务供其他程序调用,可在终端输入 ollama serve,默认监听 localhost:11434 端口
2. ollama下载大模型
#查看已下载模型列表
ollama list
#删除已下载模型
ollama rm 模型名称
#运行大模型,如果没有下载会自动下载并运行
ollama run qwen3:4b
ollama run deepseek-r1:7b
访问:https://ollama.com/search,可以搜索我们想要的模型,然后通过命令安装运行。
运行完ollama run命令后就可以跟模型直接对话了。

3. ollama远程访问
要让 Ollama 支持通过 IP 访问,核心是将监听地址从默认的 127.0.0.1 改为 0.0.0.0,并放行防火墙端口 11434。
行防火墙端口 11434。
需设置环境变量 OLLAMA_HOST=0.0.0.0:11434(可省略端口默认为 11434)。根据系统不同,持久化配置方式如下:
• Linux (systemd):执行
sudo systemctl edit ollama
在编辑器中添加:
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
保存后重载并重启:sudo systemctl daemon-reload && sudo systemctl restart ollama 。
• Windows:右键“此电脑”->“属性”->“高级系统设置”->“环境变量”,新建系统变量 OLLAMA_HOST,值为 0.0.0.0:11434,然后重启 Ollama 服务或重启电脑生效 。
• macOS:若使用官方安装包,需修改 LaunchAgent 配置文件或在启动脚本中导出该环境变量,建议通过 brew services 管理时注入环境变量 。
更多推荐

所有评论(0)