模型形式最大熵模型的条件概率分布为：其中：为特征函数，表示输入 (x) 和输出 (y) 的某种关系。为特征函数的权重。为规范化因子，确保概率和为 1。特征函数通常是二值函数（例如 是或否 两个值的函数）。与逻辑斯谛回归的关系二项逻辑斯谛回归是最大熵模型的特例，当特征函数为输入特征（）时，两种模型等价。逻辑斯谛回归算法输入：训练数据集，学习率。初始化：权重 (w) 和偏置 (b)。

统计学习是关于从数据中学习模型的学科，它结合了统计学、计算机科学和优化理论。目标是学习一个从输入到输出的映射函数，用于预测、分类、回归等任务。其中 X\mathcal{X}X 是输入空间，Y\mathcal{Y}Y 是输出空间。实际上，我们并不是在找唯一的 fff，而是在预设的一个函数集合（即假设空间）中寻找最优的那个。三类学习方法：监督学习、无监督学习、半监督学习。评估的关键：分训练集、验证集和

SENet 只关注“哪个通道重要”，CBAM 则进一步判断：哪些通道重要（Channel Attention）哪些空间位置重要（Spatial Attention）类比人类视觉：不仅知道“哪些颜色”重要（通道），还要知道“看哪里”最重要（空间）

当你训练好一个深度学习模型后，它会拥有“学习到的参数”，这些参数（权重、偏置等）构成了模型的“知识”。如果不保存这些参数，那么训练好的模型在关闭程序后就会丢失。所以，模型保存就是将训练好的参数（或整个模型）保存到磁盘上，供之后加载使用或部署。state_dictTorchScript 是 PyTorch 的一个中间表示，它允许模型以静态图的形式保存并运行。这使得：可脱离 Python 环境运行可通

项目推荐做法分类任务同时记录 train/val loss 与 acc 曲线回归任务使用 MSE / MAE 曲线代替 acc使用多个优化实验用 TensorBoard 对比不同模型表现想快速定位问题绘出训练集 vs 验证集的 loss 曲线，看是否发散# 打印模型摘要，查看各层输出这将给出每一层的输出维度、参数数量、是否需要训练的参数等。对于模型架构的调试非常有用。训练曲线监控：通过或wandb

在 PyTorch 中，Hook 是一种机制，允许我们在模型的前向传播或反向传播过程中，插入自定义的函数，用来观察或修改中间数据。最常用的 hook 是forward hook（前向钩子），它可以用来获取某一层的输出，也就是我们通常说的中间特征图观察现象可能原因调整方向特征图全 0ReLU 死区、参数异常更换激活函数、重新初始化特征图太早过小Pooling、stride 设太大减小 stride、

SENet 只关注“哪个通道重要”，CBAM 则进一步判断：哪些通道重要（Channel Attention）哪些空间位置重要（Spatial Attention）类比人类视觉：不仅知道“哪些颜色”重要（通道），还要知道“看哪里”最重要（空间）

当你训练好一个深度学习模型后，它会拥有“学习到的参数”，这些参数（权重、偏置等）构成了模型的“知识”。如果不保存这些参数，那么训练好的模型在关闭程序后就会丢失。所以，模型保存就是将训练好的参数（或整个模型）保存到磁盘上，供之后加载使用或部署。state_dictTorchScript 是 PyTorch 的一个中间表示，它允许模型以静态图的形式保存并运行。这使得：可脱离 Python 环境运行可通

主体代码 import os import numpy as np from PIL import Image import cv2 from tqdm import tqdm from torch.utils.data import Dataset import torch import torchvision.transforms as transforms import torch.nn a

统计学习是关于从数据中学习模型的学科，它结合了统计学、计算机科学和优化理论。目标是学习一个从输入到输出的映射函数，用于预测、分类、回归等任务。其中 X\mathcal{X}X 是输入空间，Y\mathcal{Y}Y 是输出空间。实际上，我们并不是在找唯一的 fff，而是在预设的一个函数集合（即假设空间）中寻找最优的那个。三类学习方法：监督学习、无监督学习、半监督学习。评估的关键：分训练集、验证集和