Normalize 是纯数据预处理手段，不属于网络可训练层，核心作用是把数据映射到固定区间、统一量纲，消除特征尺度差异，无任何可学习参数，训练时不更新权重。Normalize：工具，预处理用，无参数；BatchNorm：CV 专用，靠批次，怕小 batch；LayerNorm：NLP 标配，靠单样本，稳；RMSNorm：LN 精简版，大模型通用，更快更优。RMSNorm。