环境变量，指向正确的CUDA安装路径，但是我发现，对于大部分的ssh服务器场景，nvcc的安装较为复杂。参考了网上大部分人的解法以及LLM给出的解决方案都是说cuda toolkits有问题，需要手动设置。

我用的Transformers的版本是：4.28.1，版本太低了。更新Transformers即可解决该问题。

llama_eval可以直接调用的数据集格式是arrow而我们在hf上下载下来的却是一些arrow格式的数据集。