
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
(a)准确率在类别不平衡时没有意义:若数据集中某个类别的样本数量远多于其他类别,分类器会倾向于预测这个多数类,从而导致准确率虚高。(b)准确率不能反映分类器在不同类别上的具体表现,比如在结果是猫的图片中,真正是猫的比例有多少。对于两类分类问题,如果某个方法的 ROC 曲线与从原点到(1,1)的对角线重合,则这个方法没有预测能力,等同于随机猜测,为什么?ROC 曲线是通过绘制不同阈值下的真正率和假正
通道数的压缩与扩展:1x1 卷积核可以在不改变空间分辨率的情况下,进行特征图通道数的变换,可以压缩通道数减小计算量和参数量,也可以扩展通道数增加网络的表达能力。实现跨通道信息交互:1x1 卷积核通过将输入特征图的每个激活值的不同通道进行线性加权,实现了通道间的线性变换,将不同通道的特征信息进行混合,进而生成新的特征图。对于一个二维卷积,输入为 3×3,卷积核大小为 2×2,试将卷积操作重写为仿射变
Epoch边界问题本质上是训练流程中。
反向传播的核心是计算损失函数相对于每层参数的梯度,每一层的梯度需要由后一层的误差项计算。(a)简化梯度计算:误差项可以简化梯度的计算过程,将复杂的链式法则分解成逐层的计算。通过误差项的设计,每一层的误差项由前一层的误差项、权重和激活函数导数计算,反向传播只需要通过误差项逐层传递,并累积梯度即可更新参数。(c)传递误差信息:误差项从输出层开始计算,每一层的误差项由后一层的误差项决定,误差项通过神经网
通道数的压缩与扩展:1x1 卷积核可以在不改变空间分辨率的情况下,进行特征图通道数的变换,可以压缩通道数减小计算量和参数量,也可以扩展通道数增加网络的表达能力。实现跨通道信息交互:1x1 卷积核通过将输入特征图的每个激活值的不同通道进行线性加权,实现了通道间的线性变换,将不同通道的特征信息进行混合,进而生成新的特征图。对于一个二维卷积,输入为 3×3,卷积核大小为 2×2,试将卷积操作重写为仿射变
(a)准确率在类别不平衡时没有意义:若数据集中某个类别的样本数量远多于其他类别,分类器会倾向于预测这个多数类,从而导致准确率虚高。(b)准确率不能反映分类器在不同类别上的具体表现,比如在结果是猫的图片中,真正是猫的比例有多少。对于两类分类问题,如果某个方法的 ROC 曲线与从原点到(1,1)的对角线重合,则这个方法没有预测能力,等同于随机猜测,为什么?ROC 曲线是通过绘制不同阈值下的真正率和假正
(a)准确率在类别不平衡时没有意义:若数据集中某个类别的样本数量远多于其他类别,分类器会倾向于预测这个多数类,从而导致准确率虚高。(b)准确率不能反映分类器在不同类别上的具体表现,比如在结果是猫的图片中,真正是猫的比例有多少。对于两类分类问题,如果某个方法的 ROC 曲线与从原点到(1,1)的对角线重合,则这个方法没有预测能力,等同于随机猜测,为什么?ROC 曲线是通过绘制不同阈值下的真正率和假正
训练误差:模型在训练数据上输出的预测值与真实值之间的差异。泛化误差:模型在新样本上输出的预测值与真实值之间的差异。泛化误差通常使用偏差-方差分解中的方差项进行估算。RfExy∼prxyy−fx2RfExy∼prxyy−fx2对于单个样本xxx,在不同训练集DD得到模型fD𝒙fDx和最优模型f∗𝒙f^\ast(𝒙)f∗xEDfDx−f∗x2EDfDx−f∗x2E。
与Batch Normalization不同,Layer Normalization在每个样本上独立进行,而不是在每个批次上进行。对每个样本的所有特征进行归一化,如N*C*H*W,对每个C*H*W进行归一化,得到N个均值和方差。用于 4D 输入(如卷积层的输出)输入形状为b*c*h*w,即在每个通道上进行normalization,求b*h*w内的像素求均值和方差,输出是1*c*1*1。需要注意的
Epoch边界问题本质上是训练流程中。







