登录社区云,与社区用户共同成长
邀请您加入社区
注意:由于ollama默认是将模型下载到C盘的,如果C盘爆满的同志可以通过一下步骤进行修改
编辑环境变量
新建一个系统环境变量
变量名一定要写OLLAMA_MODELS
然后变量值,就写你模型下载所下载到的路径
然后还需要去用户环境变量里,新增两个环境变量
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
都设置好后,就保存,然后重启ollama
免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖
更多推荐
大模型推理显存不够用,试试 AMD MI300X 上的 PagedAttention 优化
本文详解如何在 AMD MI300X 上利用 PagedAttention 优化解决大模型推理显存不足难题。通过 ROCm 7.x 环境搭建、vLLM 参数调优及 FP8 量化实战,成功在单卡部署 Llama3-70B,显著提升显存利用率与并发性能,为低成本大模型推理提供高效方案。
GitHub Desktop中文界面终极配置指南:5步完成专业级汉化
还在为GitHub Desktop的英文界面而烦恼吗?想要快速实现界面本地化却不知从何下手?GitHubDesktop2Chinese项目为您提供了一套完整的解决方案,让您能够在几分钟内将GitHub Desktop界面完全转换为中文,享受母语操作体验。## 快速入门:从零开始的中文化之旅### 第一步:获取汉化工具首先,您需要获取GitHubDesktop2Chinese汉化工具。最
GitHub Desktop中文界面终极配置指南:3分钟快速上手
还在为GitHub Desktop的英文界面而烦恼吗?想要快速实现界面本地化却不知从何下手?这篇完整的GitHub Desktop汉化教程将为您提供最简单实用的解决方案。通过界面语言切换和本地化配置,即使是零基础开发者也能轻松完成中文版本配置,享受母语操作体验。## 为什么你需要中文界面对于习惯中文环境的开发者来说,英文界面不仅增加了学习成本,还降低了操作效率。GitHub Desktop
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)