logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

极客时间 AI 大模型微调训练营0期学习总结

以上几个层面,普通人最多也就能在微调领域试试水了,一块16GB的T4显卡,通过INT4级别的量化也可以微调一些7B左右的模型,在一些垂直领域使用,但这也只是从起步的成本说起,额外的成本比如说用于微调的数据集现在通用的方式通过GPT4进行整理,消耗的token也是不小的开支,如果想商用,实现高并发,还需要一些工程化的技术比如通过k8s落地也不是一两个人能搞定的,普通人想要自己尝试微调,最多也就是一个

文章图片
#人工智能#学习
到底了