更新到最新版本


curl -fsSL https://ollama.com/install.sh | sh

程序执行完成后，更新完成

验证

查看当前版本是否是指定版本

ollama -v

暴露对外端口

  • 修改配置文件

vim /etc/systemd/system/ollama.service

# 末尾追加系统参数
Environment="OLLAMA_HOST=0.0.0.0:11434"
  • 重载daemon文件 systemctl daemon-reload
  • 重启服务 systemctl restart ollama
# linux # 服务器 # 运维
Logo
加入AMD AI开发者计划！

免费领 150 小时云算力，进群参与显卡、AI PC 幸运抽奖

更多推荐

cover

大模型推理引擎架构深度解析：vLLM、SGLang与TensorRT-LLM的技术路线对决

avatar AMD开发者中国社区

部署Qwen2.5-VL-3B-Instruc视觉模型的教程

本文介绍了在Ubuntu 22.04系统上部署Qwen2.5-VL-3B-Instruct视觉模型的完整流程。教程详细说明了硬件配置要求（NVIDIA RTX GPU+CUDA 12.6）、系统依赖安装、Python虚拟环境搭建、模型下载（支持ModelScope和HuggingFace两种方式）以及使用vLLM框架启动推理服务的关键步骤。重点提供了vLLM服务的启动参数优化建议，包括显存管理、并

avatar AMD开发者中国社区
cover

企业级大模型K8s部署方案(开源千问)

avatar AMD开发者中国社区