
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
大模型微调(面经总结)
LoRA 是一种参数高效微调方法,其核心思想是将原始权重矩阵的更新限制在一个低秩空间内,从而显著减少训练参数量。不同于传统微调,LoRA 将权重的更新项ΔW\Delta WΔW表示为两个低秩矩阵A∈Rr×dA∈Rr×d和B∈Rd×rB∈Rd×rW′WΔWWBAW′WΔWWBA训练阶段只更新两个低秩矩阵AAA和BBB,原始模型权重WWW保持不变;LoRA 的核心目标:降低大模型微调成本参数量从Od。
多模态算法面经准备
其中 Q-Former-Image:负责处理图像信息,它的输入是一个可学习的 query 向量集,这些查询向量经过 Q-Former-Image 后,输出图像的特征。Q-Former-Text:负责处理文本信息,它的输入是文本特征,并通过与图像特征的交叉注意力机制来提取文本相关的视觉特征。Q-Former 以交叉注意力的方式关注冻结的图像编码器提取的视觉特征,确保图像的视觉信息能够被有效地映射到文
7.15
A - A CodeForces - 1272C题意:给你串s,再给你几个字母,你们用这几个字符能组成几个s的连续的子串。思路:首先记录那几个字母的 值,然后在s中遍历,如果某一段长度为a,那么 子串数就是 (a*(a+1)/2)就OK了#include<iostream>#include<cstring>#include<cstdio>#include<
到底了







