在无法直接从目标分布采样时，通过另一个采样分布的样本，加权修正后估计目标分布下的期望。方案核心操作优点缺点随机采样近似采样K个动作取Q最大实现极简单，无需网络结构设计近似粗糙，高维失效，计算随K线性增长梯度上升对输入动作做梯度上升求argmax比随机采样更精准局部最优，每步多轮迭代耗时，梯度计算开销大NAF 网络解析强制Q为二次型，直接输出μ和Vargmax与max解析可得，训练高效Q表达力受限，

(xm​,ym​)}，每组数据包含多维特征 xi​ 与对应真实结果 yi​。将均方误差损失视为关于 w 的二次函数，对 w 求导并令导数为 0，此时原函数有最小值，loss最小，直接得到全局最优闭式解。该方法依旧利用loss关于w的二次函数关系，求出导数，利用导数的正负和数值不断地修改w的值，直到导数接近0，最终获得最适合的w。对于多个特征的情况，每个 w 单独求偏导，得到各自梯度，所有梯度算完后

可知函数值∈[0, 1]， 将z替换为线性回归模型的表达式 𝑧 = 𝑤0 * 𝑥0 + 𝑤1 * 𝑥1 + ... + 𝑤𝑛 * 𝑥𝑛 + 𝑏。回归：输入变量与输出变量均为连续数值，如输入为学习时间，输出为测试分数 90，90.1，90.2...利用梯度下降法进行调整，分别使损失函数作为参数w和b的函数利用梯度下降法进行调整求解。样本概率相乘得到表达式为损失函数表达式，由于乘积

全连接神经网络（Fully Connected Neural Network, FCNN）是最基础、最经典的神经网络结构，其核心特征是，即上一层的每个神经元都会与下一层的所有神经元建立连接，信息通过权重传递、激活函数处理，最终完成数据的拟合与预测。

卷积神经网络（Convolutional Neural Network, CNN）是在全连接神经网络（FCNN）基础上优化而来的深度学习模型，核心优势是（尤其适用于图像、视频等二维/三维数据），通过卷积层、池化层的特征提取与降维，解决了FCNN处理图像时破坏空间性、参数冗余的问题，最终通过全连接层完成分类、回归等任务。

循环神经网络（Recurrent Neural Network, RNN）具备时序处理能力，可对多时间步序列数据进行迭代处理。其核心特征是：除输入层提供的特征向量外，前一个时间步的隐藏状态会作为当前时间步的输入，因此输入的序列数据需满足特定的时序顺序，以保证模型能捕捉序列中的时序依赖关系。

LeNet-5是由Yann LeCun等人于1989年提出的卷积神经网络（CNN），是最早实现商业化应用的CNN模型之一，核心用于手写数字识别（MNIST数据集），为后续卷积神经网络的发展奠定了基础。

VGGNet是由牛津大学视觉几何组（Visual Geometry Group）于2014年提出的经典卷积神经网络模型。相较于此前占据主导地位的AlexNet，VGGNet通过与，显著加深了网络结构，参数。

GoogLeNet（又名 Inception v1）由 Google 团队于 2014 年提出，在当年的 ImageNet 图像分类竞赛中获得第一名。引入 Inception 模块：通过多尺度卷积核并行提取特征，再在通道维度融合。用全局平均池化替代全连接层：大幅减少参数量，抑制过拟合，并使模型能接受任意尺寸的输入。使用辅助分类器：在网络中间层注入梯度信号，有效缓解深层网络的梯度消失问题。以22 层

残差块的跳跃连接让网络可以容易地学习恒等映射，解决了深度网络中的退化问题，使数百甚至上千层的网络成为可能；批量规范化有效对抗梯度消失、加速收敛，并降低对初始化的敏感性；两者的结合，共同成就了 ResNet 在深度学习和计算机视觉领域的里程碑地位。