大模型学习记录(四)
·
今天不看课了,开始跑项目minimind
1,pycharm社区版不能ssh连接
2,pycharm版本会影响python版本的识别,但是运行代码实际是用的autodl上面的配置,所以不影响。
3,5090的显卡,只能装比较高版本的cuda,但是这种相对来说不太稳定,租用了一个3090,
ubuntu22.04+python3.10+pytorch2.1.2+cuda12.1,GPT说是最优的。
minimind项目
1,首先,从github上面搜索minimind,直接下载zip,传到服务器上面解压,用unzip命令
2,可以用树导出结构给豆包,这样比较清晰
sudo apt update && sudo apt install tree -y
tree -a > 目录结构.txt
3,现在的代码里面没有预训练模型MiniMind2,需要自己下载
打开MiniMind2官方模型网站https://www.modelscope.cn/models/gongjy/MiniMind2/files
这个是国内可以访问的
pip install modelscope
modelscope download --model gongjy/MiniMind2
这个就下载好了,然后移动到model/下
mv /root/.cache/modelscope/hub/models/gongjy/MiniMind2 /root/autodl-tmp/LLM/minimind-master/model/
改了模型路径和打开use_safetensors=True,就可以运行了,用streamlit run.....
更多推荐

所有评论(0)