登录社区云,与社区用户共同成长
邀请您加入社区
注意:由于ollama默认是将模型下载到C盘的,如果C盘爆满的同志可以通过一下步骤进行修改
编辑环境变量
新建一个系统环境变量
变量名一定要写OLLAMA_MODELS
然后变量值,就写你模型下载所下载到的路径
然后还需要去用户环境变量里,新增两个环境变量
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
都设置好后,就保存,然后重启ollama
免费领 150 小时云算力,进群参与显卡、AI PC 幸运抽奖
更多推荐
[Bug已解决] cholesky_solve 批处理多 batch CUDA float64 在 ROCm gfx942 上数值不接近解决方案
30 分钟,手把手带你从 0 到 1 跑通一个高性能 Token 服务
【本地部署 BAAI/bge-m3 嵌入服务,Dify 私有知识库接入教程】
本文基于 vLLM+Docker 部署 BGE-M3 向量服务,详解参数、调优,手把手完成 Dify 知识库集成落地
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)