LM Studio本地部署大模型超详细步骤!!!
·
一、LM Studio下载安装
LM Studio下载安装
软件下载网址:https://lmstudio.ai/,根据自己的操作系统选择对应的版本下载安装即可。
二、 在LM Studio安装文件中修改镜像
在LM Studio安装后,直接运行软件,在里面搜索大模型的话,会发现无法搜索到结果✘✘✘
是因为LM Studio中模型的搜素和下载,需要访问:https://huggingface.co/, 这个网站在国内无法正常访问。为了解决这个问题,可通过访问镜像站点来下载模型文件
即:将程序安装文件中所有的 “huggingface.co” 替换成 “hf-mirror.com” 。
配置步骤如下:
1、右键点击LM Studio图标,“打开文件所在的位置”。

2、用编辑器(VScode或Sublime)打开文件夹“locales”和“resources”,这里我用的是Sublime。
打开Sublime,“File”–>“Open Folder”–>选择文件夹……
3、在这两个文件夹下查找“huggingface.co”,将所有“huggingface.co”替换成“hf-mirror.com”。
右键文件夹,点“Find in Folder…”,然后在下方填好后Replace替换即可。
(注意:就是要 把LM Studio安装路径下的所有文件夹都查找一遍,把“huggingface.co”替换成“hf-mirror.com”,可能不止我上面提到的那两个文件)

数量比较多,替换时间比较久,可能需要等待一两分钟。
注意!!!
① 一定要把LM Studio安装路径下的所有文件中的huggingface.co全都替换掉,不能有遗漏,可以多查找几遍。
② 在替换完成后,所有的文件需保存,才能生效!!(即:在关闭编辑器之前先保存所有进行替换了的文件)
三、 在LM Studio中搜索下载运行大模型
1、 在以上镜像文件替换操作完成后,重启LM Studio,点击界面左侧“放大镜”就可以搜索到大模型了。

2、选择好合适的模型点击右下角绿色按钮“Download”下载即可。

3、下载完成后进行测试运行:点击上方“选择要加载的模型”。

4、此处会显示你已经下载好的模型,选中一个模型->加载模型,就可以开始进行对话了。



四、 其它补充
♦♦♦若加载了模型之后发现还是无法运行对话,有可能是,状态未开启,将状态调至运行Running即可

♦♦♦软件语言设置:点界面右下角“设置”符号–>“语言”。
♥♥♥如果觉得有用的话记得点个赞哦~~~欢迎大家评论交流♥♥♥
更多推荐

所有评论(0)