为学习机器学习算法——决策树而做的笔记

为学习支持向量机的基本概念而作的笔记

文章主要介绍了矩阵、张量以及卷积相关知识。边缘检测是计算机视觉技术，通过过滤器与原矩阵对应元素相乘求和来识别图像边缘。卷积有Valid卷积和Same卷积之分，卷积步长会影响输出矩阵大小。三维卷积要求输入张量与过滤器通道数相同，多个过滤器会得到不同通道数的输出张量。单层卷积网络涉及线性函数、激活函数等运算，最终得到特定大小的输出张量。

本文简要介绍词嵌入。首先介绍词表特征，阐述词嵌入空间中词汇以向量表示，不同词汇在特定维度有不同取值。接着讲解词嵌入的类比推理，通过公式推断词汇间的类比关系。随后引入嵌入矩阵，说明其维度及获取词向量的方法。介绍Word2Vec的跳字模型及相关计算过程与优化方法。

本人简要介绍了实操前深度学习的一些概念。首先介绍训练集、验证集、测试集的功能与划分比例，强调数据分布一致性的重要性。然后介绍偏差和方差，借助实例和图示阐释欠拟合、适度拟合、过拟合的差异。讲解正则化方法，如线性回归中的 L2 正则化及系数调整技巧，还介绍了 Dropout 等其他方式。此外，阐述了归一化的步骤及意义，说明梯度消失与爆炸的成因和权重初始化策略。最后，介绍梯度检验，包括数值逼近原理、操作

为学习神经网络而做的笔记

文章介绍了神经网络中的优化方法。首先介绍优化样本大小的mini - batch方法，通过分割样本减少计算梯度的时间和内存开销，对比了不同mini - batch大小的梯度下降情况。接着介绍优化梯度下降法，包括动量梯度下降法（涉及指数加权平均与偏差纠正）、RMSprop以及结合两者的Adam优化算法。还提到了优化学习率，如学习率衰减的多种方式。最后介绍了局部最优问题，即梯度下降算法可能会在局部最优解

简要介绍统计方法中的k近邻算法。

在Java当中，为字符串类提供了丰富的操作方法，对于字符串，我们常见的操作就是：字符串的比较、查找、替换、拆分、截取以及其他的一些操作。

简单介绍mybatis的增删查改。