logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

使用gpu用windows版本的ollama

开启对NVIDIA GPU的支持,通过PowerShell执行相关命令来安装Ubuntu子系统、更新包列表并安装nvidia-container-toolkit工具集。新建系统变量,变量名为OLLAMA_GPU_LAYER,变量值为cuda(对于NVIDIA GPU)或directml(对于AMD/Intel GPU)。(可选)如果有多个GPU,可以通过设置CUDA_VISIBLE_DEVICES

文章图片
使用gpu用windows版本的ollama

开启对NVIDIA GPU的支持,通过PowerShell执行相关命令来安装Ubuntu子系统、更新包列表并安装nvidia-container-toolkit工具集。新建系统变量,变量名为OLLAMA_GPU_LAYER,变量值为cuda(对于NVIDIA GPU)或directml(对于AMD/Intel GPU)。(可选)如果有多个GPU,可以通过设置CUDA_VISIBLE_DEVICES

文章图片
使用gpu用windows版本的ollama

开启对NVIDIA GPU的支持,通过PowerShell执行相关命令来安装Ubuntu子系统、更新包列表并安装nvidia-container-toolkit工具集。新建系统变量,变量名为OLLAMA_GPU_LAYER,变量值为cuda(对于NVIDIA GPU)或directml(对于AMD/Intel GPU)。(可选)如果有多个GPU,可以通过设置CUDA_VISIBLE_DEVICES

文章图片
使用gpu用windows版本的ollama

开启对NVIDIA GPU的支持,通过PowerShell执行相关命令来安装Ubuntu子系统、更新包列表并安装nvidia-container-toolkit工具集。新建系统变量,变量名为OLLAMA_GPU_LAYER,变量值为cuda(对于NVIDIA GPU)或directml(对于AMD/Intel GPU)。(可选)如果有多个GPU,可以通过设置CUDA_VISIBLE_DEVICES

文章图片
到底了