一、登录ModelScope

打开 ModelScope魔搭社区 并登录账号。

二、找到模型

在ModelScope上找到需要下载的模型。

三、下载模型

打开指定目录的Git Bash，执行以下命令下载GGUF模型文件：

modelscope download --model unsloth/gemma-4-26B-A4B-it-GGUF --local_dir ./ --include "*Q4_K_M*" "*mmproj*"

参数说明：

• --local_dir ./：指定下载到当前目录

• --include "*Q4_K_M*" "*mmproj*"：只下载Q4_K_M量化版本和mmproj投影文件

四、导入LmStudio

1. 以管理员权限打开PowerShell

2. 使用硬件链接避免重复copy到C盘：

lms import D:/ModleScopeModles/gemma-4-4B/gemma-4-E2B-it-BF16.gguf --symbolic-link

五、FAQ

Q1: LmStudio中报错 “Failed to load model _0x436542 [Error]: Failed to load model”

答： 首先确认在LmStudio中下载的模型是否支持gemma的底层框架。

Q2: 为什么用ModelScope下载再用LmStudio中运行？

答： 因为LmStudio下载被限速，而ModelScope没有限速，可以快速下载模型。LmStudio对配置非常友好，适合运行模型。

备注： "*mmproj*" 是模型的视觉投影文件。