简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
极客时间 AI 大模型微调训练营0期学习总结
以上几个层面,普通人最多也就能在微调领域试试水了,一块16GB的T4显卡,通过INT4级别的量化也可以微调一些7B左右的模型,在一些垂直领域使用,但这也只是从起步的成本说起,额外的成本比如说用于微调的数据集现在通用的方式通过GPT4进行整理,消耗的token也是不小的开支,如果想商用,实现高并发,还需要一些工程化的技术比如通过k8s落地也不是一两个人能搞定的,普通人想要自己尝试微调,最多也就是一个
到底了