LM Studio 0.4.10 安装完,不显示显卡信息
本文介绍了模型加载参数设置问题及解决方案。当GPU Offload默认为0且在硬件设置不显示显卡信息时,建议在Runtime中安装CUDA。针对Windows系统下的llama.cpp使用Nvidia显卡加速,需确保安装CUDA12.8加速引擎。同时提到在0.4.9版本中,Harmony和CUDA 12 llama.cpp库会被默认下载安装。
·
问题
设置模型加载参数时,GPU Offload默认是0

Settings Hardware不显示显卡信息

解决办法
在Settings的Runtime里安装CUDA,就好了
CUDA 12 llama.cpp (Windows)
Nvidia CUDA 12.8 accelerated llama.cpp engine
可以先把Missing libraries的Harmony安装下。

解决后,显是显卡信息

这俩个,在0.4.9时,是默认下载的。

更多推荐


所有评论(0)