算法原理优点缺点适用场景GD梯度下降算法，通过每次使用整个训练集，或者SGD和MGD。计算损失函数相对于模型参数的梯度沿着梯度下降的方向更新参数，以最小化损失函数。理论稳定，易于实现计算成本高，特别是在大数据集上更新缓慢小规模数据集或批量处理场景Momentum在 SGD 基础上增加动量，不仅考虑当前的梯度，还利用过去的梯度积累，加入惯性来加速收敛并减少震荡。提升收敛速度、减少震荡需调节动量系数数

激活函数优点缺点适用场景Sigmoid平滑输出，适合二分类问题梯度消失，非零中心二分类输出层Tanh零中心输出，平滑梯度消失中间层或输出层ReLU计算简单，减轻梯度消失死神经元问题，不对称输出深层网络，特别是卷积神经网络（CNN）Leaky ReLU解决 ReLU 死神经元问题，保持梯度流动不一定总是比 ReLU 更好需要避免死神经元问题的深层网络PReLU可学习的负斜率，灵活性高增加了模型的复杂

方法类别原理常见方法优点缺点适用场景过滤法（Filter Methods）独立于模型，基于统计指标对特征评分，并选择得分较高的特征。- 方差选择法：剔除方差较小的特征- 皮尔森相关系数：选择线性相关性高的特征- 互信息：选择信息增益大的特征计算效率高，易于实现未考虑特征间相互作用，可能遗漏重要的组合特征快速预筛选大量特征的情况，适合初步筛选特征包裹法（Wrapper Methods）通过训练模型评

Elastic Net 是 L1 和 L2 正则化的结合，它同时引入了 L1 和 L2 正则化项，在获得稀疏解的同时，保持一定的平滑性。

在每个时间步 (ttt遗忘门：根据当前输入和前一个时间步的隐藏状态，控制哪些来自上一个时间步的记忆单元信息需要被保留或遗忘。输入门：根据当前输入和前一时间步的隐藏状态，决定当前输入信息是否更新到记忆单元中，通过候选记忆生成新的信息。记忆单元状态更新：根据遗忘门和输入门的输出，更新当前时间步的记忆单元状态 (CtC_tCt​输出门：根据当前的输入和记忆单元状态，控制当前时间步的隐藏状态 (hth_t

损失函数描述应用场景优点缺点均方误差 (MSE)衡量预测值和真实值之间平方误差的平均值，对较大误差进行更大惩罚。线性回归、岭回归等简单易于理解，容易求导。对异常值敏感。平均绝对误差 (MAE)衡量预测值和真实值之间绝对误差的平均值。对异常值不敏感的回归任务对异常值不敏感，反映模型性能更稳定。优化困难，绝对值函数不可导。对数余弦损失 (Log-Cosh)Huber 损失的变体，既能捕捉小误差，也对大

特性RNNLSTMGRUBi-RNN结构单向循环结构，只有隐藏状态有记忆单元状态和隐藏状态，三门控制信息流只有隐藏状态，合并了输入门和遗忘门双向结构，有前向和后向两个独立的 RNN记忆能力适合处理短期依赖，长序列时有梯度消失问题能有效处理长时依赖，解决梯度消失问题简化的版本，参数更少，能处理长短期依赖能同时捕捉序列的前后信息，适合上下文相关任务门机制无门控机制有输入门、遗忘门和输出门有更新门和重置

方法工作原理优点缺点适用场景词袋模型（BOW）将文本表示为词频向量不考虑词序和上下文。简单直观，易实现，能够有效表示词频信息。忽略词序，生成高维稀疏向量。文本分类、信息检索TF-IDF基于词袋模型考虑词在文档中的频率以及整个语料库中的普遍性，赋予不同词权重。反映词的重要性，避免常见词主导影响，适用于文本分类。生成稀疏矩阵，无法捕捉词序和上下文关系。文本分类、关键词提取BM25基于 TF-IDF 的

本文提出Emu Video，这是一种文本到视频生成模型，将生成过程分解为两个步骤先根据文本生成图像;再基于文本和生成的图像生成视频。该模型在性能上超越了RunwayML的Gen2和Pika Labs等商业解决方案。

方法工作原理优点缺点适用场景词袋模型（BOW）将文本表示为词频向量不考虑词序和上下文。简单直观，易实现，能够有效表示词频信息。忽略词序，生成高维稀疏向量。文本分类、信息检索TF-IDF基于词袋模型考虑词在文档中的频率以及整个语料库中的普遍性，赋予不同词权重。反映词的重要性，避免常见词主导影响，适用于文本分类。生成稀疏矩阵，无法捕捉词序和上下文关系。文本分类、关键词提取BM25基于 TF-IDF 的