
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
卷积运算并不是深奥的数学逻辑,在直观上可以理解为一种**“滑动窗口的加权求和”**。卷积核 (Kernel/Filter):一个小的矩阵(如 3 *3或 5*5),存储着特定的权值。计算过程:卷积核在输入图像上按设定的步长滑动。每滑动到一个位置,将卷积核的数值与图像对应位置的像素值逐元素相乘再相加,得到输出矩阵中的一个值。在 PyTorch 中,我们通过nn.Conv2d来调用这一原理。:输入通道
最大池化(MaxPool)也被称为下采样(Downsampling)。核心逻辑:在输入图像上滑动窗口,在每个窗口区域内只保留最大值,丢弃其他值。形象理解:就像看一部 1080P 的电影。经过池化,它变成了 720P 或 360P。虽然分辨率降低了,但电影的主要内容(特征)依然清晰可辨,且文件体积大大减小,播放更流畅。卷积层:负责发现特征(加法和乘法)。池化层:负责筛选特征(只取最大值)。这种“卷积
准备数据搭建结构衡量误差计算方向(Backward)调整参数。
保持一致性:输入数据和模型必须在同一个 device 上,否则会报。单机多卡处理:如果你有多个 GPU,可以通过cuda:0cuda:1来指定特定的显卡。内存管理:如果遇到(OOM),尝试调小batch_size。
参数存储:权重 W 和偏置 b 全部存储在矩阵和向量中。损失控制:通过计算权重的范数并将其加入损失函数,实现模型正则化。降维与压缩:利用特征值分解或 SVD 压缩模型参数,减少计算量。
读取:用 Pandas 加载原始数据。清洗:填充数值型缺失值,转换类别型数据。转换:将 Pandas 的 DataFrame 转换为 Torch Tensor。计算:利用 Tensor 的高效算子进行前向计算。
定义变量:使用。构建逻辑:编写前向计算公式。触发求导:调用,然后从.grad属性中提取结果。
数据流模型流计算流。
多层感知机在输入层和输出层之间增加了一个或多个隐藏层(Hidden Layers)。线性堆叠的失效:若无激活函数,等价于一个新的线性层。非线性的引入:在每层线性计算后加入非线性激活函数,公式变为。这使得模型可以学习坐标系中扭曲、复杂的边界。隐藏层:提供模型深度。激活函数:提供非线性动力。超参数调整:通过调整层数和神经元个数来平衡模型的“欠拟合”与“过拟合”。
参数分离:在高级实践中,建议只衰减weight,不衰减bias(因为偏置不会导致模型不稳定性)。调参建议:如果模型过拟合严重,尝试加大的值(如从 1e-4 改为 1e-2)。配合使用:权重衰退常与Dropout或早停法(Early Stopping)结合使用,共同对抗过拟合。







