今天不看课了,开始跑项目minimind

1,pycharm社区版不能ssh连接

2,pycharm版本会影响python版本的识别,但是运行代码实际是用的autodl上面的配置,所以不影响。

3,5090的显卡,只能装比较高版本的cuda,但是这种相对来说不太稳定,租用了一个3090,

ubuntu22.04+python3.10+pytorch2.1.2+cuda12.1,GPT说是最优的。

minimind项目

1,首先,从github上面搜索minimind,直接下载zip,传到服务器上面解压,用unzip命令

2,可以用树导出结构给豆包,这样比较清晰

sudo apt update && sudo apt install tree -y

tree -a > 目录结构.txt

3,现在的代码里面没有预训练模型MiniMind2,需要自己下载

打开MiniMind2官方模型网站https://www.modelscope.cn/models/gongjy/MiniMind2/files

这个是国内可以访问的

pip install modelscope

modelscope download --model gongjy/MiniMind2

这个就下载好了,然后移动到model/下

mv /root/.cache/modelscope/hub/models/gongjy/MiniMind2 /root/autodl-tmp/LLM/minimind-master/model/

改了模型路径和打开use_safetensors=True,就可以运行了,用streamlit run.....

更多推荐