下载并且解压# 添加环境变量# 添加以下内容# 生效。

需要安装NPU固件驱动，CANN的包在昇腾官网下载，安装最新版就可以了。

需要安装NPU固件驱动，CANN的包在昇腾官网下载，安装最新版就可以了。

用https://gitee.com/ascend/ModelZoo-PyTorch/blob/master/PyTorch/built-in/foundation/ChatGLM2-6B/model/modeling_chatglm.py这个文件替换模型本来的modeling_chatglm.py，#用fastchat推理。下载模型，模型文件如下。

验证：是否安装成功，执行npu-smi info。

需要安装NPU固件驱动，CANN的包在昇腾官网下载，安装最新版就可以了。

在工作目录的knowledge_base/samples/content/文件夹下,也就是目录/home/llm/chatchat_data/data/nowledge_base/samples/content/下的文件夹就是知识库内容存放的地方，还需要下载这个whl包，然后传服务器上去手动安装（清华源没有这个包，而且，要翻墙，所以只能手动下载，然后传上去）#启动完成以后，工作目录/home/ll

需要安装NPU固件驱动，CANN的包在昇腾官网下载，安装最新版就可以了。

验证：是否安装成功，执行npu-smi info。

用https://gitee.com/ascend/ModelZoo-PyTorch/blob/master/PyTorch/built-in/foundation/ChatGLM2-6B/model/modeling_chatglm.py这个文件替换模型本来的modeling_chatglm.py，#用fastchat推理。下载模型，模型文件如下。