text-generation-webui加载chatglm2-6b时，报错，要求set the option trust_remote_code=True

使用text-generation-webui加载chatglm2-6b大模型时报错，要求设置option trust_remote_code=True，一开始没注意界面，去翻找配置文件，后来发现，就在Model界面，有一个复选框，可以进行设置！】，可以看到回复了是【ChatGLM2-6B人工智能助手…3、待加载完后，可以看到【Successfully loaded THUDM_chatglm2-

文章共286字 · 阅读需要大约1分钟

一键AI生成摘要，助你高效阅读

问答

菜鸟分享录

5576人浏览 · 2023-07-30 12:49:07

菜鸟分享录 · 2023-07-30 12:49:07 发布

背景

使用text-generation-webui加载chatglm2-6b大模型时报错，要求设置option trust_remote_code=True，一开始没注意界面，去翻找配置文件，后来发现，就在Model界面，有一个复选框，可以进行设置！
THUDM_chatglm2-6b requires you to execute the configuration file in that repo on your local machine. Make sure you have read the code there to avoid malicious use, then set the option trust_remote_code=True to remove this error.

解决方案

1、如下图，勾选后，点击【load】：
在这里插入图片描述
2、此时，可以看到命令行中，开始在下载和加载checkpoint了

3、待加载完后，可以看到【Successfully loaded THUDM_chatglm2-6b】的输出

4、回到【Text generation】，输入【你是谁？】，可以看到回复了是【ChatGLM2-6B人工智能助手…】
在这里插入图片描述
大功告成！