
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
Ai大模型第二课:以多分类问题实战梳理增量微调
多分类的增量模型定义和二分类很类似,在全连接网络进行修改就行了。对多分类问题进行处理后,就能对增量微调形成一套自己的理解,这是最基础的知识,但也算是对Ai大模型的学习踏入门槛了。对于各位初学者而言,需要自行进行学习和训练,相信各位一定能很快轻松上手。

通过docker实现vllm+5090+多卡并行
解决5090并行的nccl错误
Ai大模型学习第一课:增量微调中的适配器微调(Adapter)
增量微调(Incremental Fine-tuning)是一种针对预训练模型的持续学习技术,旨在通过逐步调整模型参数,使其在保留原有知识的同时适应新任务或新数据。与传统微调相比,增量微调分阶段调整参数以适应多任务或多数据,避免了灾难性遗忘,并允许数据和任务的动态扩展。其核心挑战包括灾难性遗忘、计算效率和知识迁移。适配器微调是增量微调的基础技术,通过在预训练模型中插入小型可训练模块(Adapter

通过docker实现vllm+5090+多卡并行
解决5090并行的nccl错误
到底了







