1 使用anaconda创建inference虚拟环境。

4 去命令行里输入python，回车就进入到pythonde的运行窗口了。3 下载完成以后，按照提示一直下一步下一步，安装完成。1 打开Python官网。

下载winddows版本的ChatGPT Installer.exe。5）下载CC_Switch客户端安装，一路下一步。如果看不到下载按钮，切换代理国家多试几次。2）微信扫码登录->微信支付购买。安装的时候一路点【下一步】4）点击CC Switch。3）创建API key。

下载winddows版本的ChatGPT Installer.exe。5）下载CC_Switch客户端安装，一路下一步。如果看不到下载按钮，切换代理国家多试几次。2）微信扫码登录->微信支付购买。安装的时候一路点【下一步】4）点击CC Switch。3）创建API key。

windows不支持0.0.0.需要使用127.0.0.1 ip的方式。

"input": "《某某标准》图表25 DPI定义\n| 信息类型 | DPI=1 | DPI=2 |\n|----------|-------|-------|\n| 开关量 | 开/OFF | 合/ON |","answer": "是，GB/T 14285-2021 9.2.1 > QCSG1204013-2016 5.4.2，国标强制要求带时标，企业标准实现需满足此要求"5.1.3 新增：

2）修改max_new_tokens在anaconda3\envs\inference\Lib\site-packages\xinference\model\llm\transformers\utils.py", line 134,1）修改max_new_tokens在\anaconda3\envs\inference\Lib\site-packages\xinference\core\sched

为 E:\\XinferenceFiles\\cache\\custom-glm4-chat-pytorch-9bE:\\glm_4_9b_chat 创建的三、命令方式启动模型。6 输入：icacls frpc_windows_amd64_v0.2 /grant Users:(RX)1 在E:\glm_4_9b_chat下创建一个custom-glm4-chat.json配置文件。3 打开infe

2）修改glm-4-9b-chat路径下的config.json，修改name_or_path地址为我们自己下载的大模型地址。1 启动命令为python trans_cli_demo.py。修改MODEL_PATH地址为我们自己下载的大模型地址。原因是路径修改不正确。

为 E:\\XinferenceFiles\\cache\\custom-glm4-chat-pytorch-9bE:\\glm_4_9b_chat 创建的三、命令方式启动模型。6 输入：icacls frpc_windows_amd64_v0.2 /grant Users:(RX)1 在E:\glm_4_9b_chat下创建一个custom-glm4-chat.json配置文件。3 打开infe