转载。

RNN通过前向传播计算隐藏状态和输出，通过反向传播计算梯度并更新参数。链式法则是反向传播的核心，用于计算损失函数对参数的梯度。梯度消失和梯度爆炸是RNN训练中的常见问题，可通过LSTM、GRU等改进模型缓解。

线性SVM通过寻找最优超平面，最大化类别之间的间隔，适用于线性可分的数据集。非线性SVM通过核函数将数据映射到高维空间，适用于线性不可分的数据集。软间隔SVM通过引入松弛变量，允许部分样本点位于间隔内，增强了模型的鲁棒性。SVM在分类和回归任务中表现出色，是机器学习中的重要算法之一。

浅层神经网络（Shallow Neural Network）指具有1-3个隐藏层的前馈神经网络。特征浅层网络深度网络隐藏层数1-3层通常≥5层参数规模相对较少（万级以下）百万级至百亿级参数理论表达力通用近似定理（1层即可逼近任意连续函数）通过层次组合提升特征抽象能力典型应用场景中小规模结构化数据分类/回归图像、语音、NLP等复杂模式识别输入层：784节点（28x28图像展平）隐藏层：256节点（R

线性回归用于预测连续值，通过最小化均方误差来拟合数据。逻辑回归用于分类任务，通过最小化交叉熵损失来拟合数据。两者都通过梯度下降法优化参数，是机器学习中最基础且重要的算法。

LSTM通过记忆细胞和三个门控机制，能够更好地处理长序列数据，但计算复杂度较高。GRU通过简化门控结构，在大多数任务中表现接近LSTM，同时具有更高的计算效率。选择LSTM还是GRU取决于具体任务的需求：对于长序列和复杂任务，LSTM可能更合适；对于短序列和简单任务，GRU是更高效的选择。

版本核心改进速度精度（VOC mAP）RCNN首开深度学习检测53s58.5%Fast RCNNROI Pooling + 多任务0.3s70.0%RPN网络5fps78.8%Mask RCNNROI Align + 实例分割4fps80.3%

RNN通过循环连接实现了对序列数据的建模，其核心在于隐藏状态的跨时间步传递。虽然存在梯度传播的挑战，但仍是时序数据处理的基础架构，后续发展的LSTM、GRU等改进模型大幅提升了实际应用效果。

注：现代深度学习框架（如PyTorch）已内置智能初始化策略，但理解原理有助于定制化优化。当所有权重初始化为相同值（如全零）时，各神经元在。

使用 Symbolic Link 解决 Trae IDE 无法发现嵌套目录中 Skills 的问题问题背景Trae 的 Skills 发现机制Trae IDE 在启动时会扫描目录（中文版为），查找直接子目录中的SKILL.md文件：├── skill-a/SKILL.md✓ 会被发现├── skill-b/SKILL.md✓ 会被发现└── nested/SKILL.md✗ 不会被发现（嵌套太深）