微调名词:

(1)全参微调:更新参数时覆盖面更广,参数占用内存更多,消耗内存多
(2)LoRa微调:更新参数较少,消耗内存少,卡数张数较少
(3)QLoRA微调:消耗GPU最少
训练结果根据
Traning Loss的曲线(最终会趋向于0)和评测工具判断
训练数据建议

训练数据量曲线
训练到一个瓶颈后,数据增长许多后效果才能增长一点。

训练数据反例:
用准确的问答,而非大量有问题的问答对

问题是提升心情而不是提高心情

大模型与移动互联网技术落地对比

原来是小模型智能落地的地方,就是大模型优化的最好地方。
所有评论(0)