基本定义卷积神经网络(convolutional neural network, CNN)，是一类包含卷积计算且具有深度结构的前馈神经网络。卷积神经网络是受生物学上感受野（Receptive Field）的机制而提出的。卷积神经网络专门用来处理具有类似网格结构的数据的神经网络。例如，时间序列数据（可以认为是在时间轴上有规律地采样形成的一维网格） 和图像数据（可以看作是二维的像素网格）。1.卷积层（

遗传规划（Genetic Programming，GP）其他的进化算法（如，GA、ES、EP）都是将的单个结构（参数）定义为一个串（二进制串或实数串），但GP是将计算机程序以树结构表示，从而进行处理，每个染色体代表一个程序（树结构）。此外，其他进化算法的个体结构都是固定长度的，但通过GP进化的程序在大小、形状和复杂度上都是不同的。GP可以看做是遗传算法GA在执行程序进化时的特例，但它和一般的GA算

进化规划（Evolutionary programming，EP）EP同GA的不同之处在于，EP的种群进化集中于自上而下的适应性行为，它 的重点是开发行为模型，即可观测系统与环境交互的模型。自然进化理论对EP的原理和范式有着重要影响。EP源于对进化的适应性行为的模拟描述，而GA源于对基因的模拟；GA是在信息编码的基因空间起作用，而EP却强调可观测行为的表现型空间，因此，EP直接利用表现型行为进化来

进化计算（Evolutionary Computation， EC）传统优化方法利用确定性的规则（如，求导）进行优秀解的搜寻，容易达到局部最优；而EC算法利用一个分布在解空间各处的点群进行搜索，每一代都会产生新的点，这些不同的点的搜索可以搜寻更大的空间，降低了陷入局部最优的可能性，而交叉、变异这些遗传操作有效提升了并行搜索能力，使得搜索点可以直接从一个高位空间区域跳转到另一个区域。事实上，EC使用

遗传规划（Genetic Programming，GP）其他的进化算法（如，GA、ES、EP）都是将的单个结构（参数）定义为一个串（二进制串或实数串），但GP是将计算机程序以树结构表示，从而进行处理，每个染色体代表一个程序（树结构）。此外，其他进化算法的个体结构都是固定长度的，但通过GP进化的程序在大小、形状和复杂度上都是不同的。GP可以看做是遗传算法GA在执行程序进化时的特例，但它和一般的GA算

聚类（Clustering）的基本概念聚类属于无监督学习，在聚类前数据没有分类或分组信息。聚类是寻找数据之间内在结构，按照特定标准(如距离准则、相似性系数)把全体数据样本组织成一些相似簇；使得处于相同簇中的数据样本彼此相似性尽可能大，处于不同簇中的样本彼此差异性尽可能地大。聚类的结果在很大程度上取决于事先设定的参数（如类别，初始点等），例如：聚类性能好坏的度量类内相似度高，类间相似度低。度量聚类结

PSO的算法配置粒子的速度更新公式：vi(t+1)=vi(t)+c1⋅r1(t)⋅[yi(t)−xi(t)]+c2⋅r2(t)⋅[y^i(t)−xi(t)]\mathbf v_{i}(t+1)=\mathbf v_{i}(t)+c_1\cdot \mathbf r_{1}(t)\cdot [\mathbf y_{i}(t)-\mathbf x_{i}(t)]+c_2\cdot \mathbf r_

二、变量2.1 变量基本概述变量是程序的基本组成单位，变量相当于内存中一个数据存储空间的表示，你可以把变量看做是一个房间的门牌号，通过门牌号我们可以找到房间，从而通过变量名可以访问到变量(值)。变量应该有名字，并在内存中占据一定的存储单元；变量名和变量值有不同的含义；变量名实为一个符号地址2.1.1 变量的使用步骤：//（1）声明变量：int num;//（2）赋值：num = 60;// (3)

传统机器学习解决问题的一般思路为：数据获取→\to→ 预处理→\to→ 特征提取（表达）→\to→ 特征选择→\to→ 推理、预测、识别其中的 特征提取（表达） 部分对最终的算法准确性起着非常关键性的作用，而系统主要的计算和测试工作都消耗在这一部分。但实际中这一部分一般都是人工完成的，即人工提取特征。手工提取特征费力且需要经验、专业知识和运气，难以得到好的特征，因此思考让计算机自动学习特征，即 深

模式识别中，分类识别的正确率取决于对象的表示、训练学习和分类识别算法，特征提取与选择问题是对象表示的一个关键问题。基于可分享度量的特征提取与选择通常在得到实际对象的若干具体特征之后，再由这些原始特征产生出对分类识别最有效、数目最少的特征，这就是特征提取与选择的任务。从本质上讲，我们的目的是使在最小维数特征空间中异类模式点相距较远（类间距离较大），而同类模式点相距较近（类内距离较小）。 实现特征提取