选择内核->jupyter kernel->找到创建的环境并选择。就已经激活了jupyter环境，其中env是自己设定的环境名。vscode上安装jupyter插件。然后vscode连接服务器。进入环境之后，依次执行。

参考：https://huggingface.co/tasks/text-generation。将model替换为实际存储模型的地址即可。若只需打印生成的文本，则使用。

主要原因是网络问题导致无法下载到文件，所以需要手动下载报错提示url中的文件。

打开文件，将文件中的key复制到hf中。设置key存储的位置，自定义。会有欢迎的提示，证明配置成功。然后就可以上传文件了。

【代码】gpt和llama的推理prompt。

【代码】gpt和llama的推理prompt。

输出：/home/user/mambaforge/envs/env/bin/python。torchrun的路径为：/home/user/.local/bin/将这个路径替换torchrun中的第一行路径。，不报错，证明修复成功。

【代码】clip加载text encoder。

【代码】gpt和llama的推理prompt。

解决方案：缺少执行权限。命令为文件添加执行权限。