Ollama在windows上的设置
·
安装：是不可以选择安装路径，系统自动运行，不启动模型不占用GPU
参数设置：windows添加环境变量（需要重启ollama）
修改模型位置：添加 OLLAMA_MODELS D:\LLM\OllamaModels
修改为IP访问：添加OLLAMA_HOST 0.0.0.0:11434
修改跨域访问： OLLAMA_ORIGINS 设置 * ，否则访问会出现403
修改GPU释放：OLLAMA_KEEP_ALIVE 2m，默认是5m，降低GPU占用
免费领 150 小时云算力，进群参与显卡、AI PC 幸运抽奖
更多推荐
6
0- 0
已为社区贡献1条内容
所有评论(0)