一个算法的运算时间以及性能的好坏在一定程度上也取决于其参数的设置,其参数确定的过程,其实也是一种优化。我们知道,每一种算法的参数取值范围不同,但同时各参数间又互相联系,有些算法的参数凭借使用者的经验进行设定,这样算法的性能未必最佳,为此本文将对算法进行试验确定。前一节进行了遗传算法优化的BP神经网络的训练函数的选取,为本节中对遗传算法部分参数的选取提供了一个理论性的指导。本节在此基础上,由实验来选取其关于遗传算法部分参数。 由遗传算法的简介中可知,遗传算法的主要参数是种群规模,交叉和变异概率,根据查阅的相关文献可知,其种群规模一般的取值范围是[10, 100],交叉概率一般的取值范围是[0.4, 0.99],变异概率一般的取值范围是[0.001, 0.1]。下面测试分别固定其中两个参数不变,测试第三个参数,其实验环境、实验数据以及测试函数同上一节。

(1)参数设定:BP神经网络的最大训练次数设为300次,其余参数设定同上一节。

(2)实验仿真与结果分析:

表2遗传算法优化的 BP 算法中不同种群规模对 Sphere 函数预测结果对比

7d433bfbdfc25e0af24142934637d446.png

注:交叉概率为0.8,变异概率为0.09。

fc9cbbf1d8e66dd5cebe9b7c704e822b.png

图1 不同种群规模的标准差变化曲线

85bc0c3c245ea91e0428136b3fce42b2.png

图2 不同种群规模的收敛精度曲线

7338a3172e02c206afd08aa931879ef2.png

图 3不同种群规模的适应度曲线

271472166ba494c5cf42d929f5947052.png

图 4种群规模与最佳适应度值关系曲线

6f74c8406594db4dc868e33ebbb7ece1.png

图 5 种群规模与算法运算时间关系曲线

  1. 标准偏差反映一组数据的分散程度,因此,较小的数据集的标准偏差,更集中,算法的预测效果更好,从图1和表2中我们看出,种群规模为20, 40~80时标准差较小。
  2. 收敛精度反映着算法的预测能力,即收敛精度越低其预测效果越好,当然,如果收敛精度低也可能导致过拟合现象。由于本次算法是经过遗传算法优化的,其主要目的就是客服传统BP网络的过拟合现象,因此,本次算法中出现过拟合现象的情况非常小。由图2及表1中可直观的看出,种群规模为20, 40~80时收敛精度较好。
  3. 相对误差指的是测量所造成的绝对误差与被测量〔约定〕真值之比。乘以100%所得的数值,以百分数表示。一般来说,相对误差更能反映测量的可信程度。从表1的相对误差范围一列中我们可以看出,当种群规模为20, 40, 50, 70, 80时相对误差较小,其相对误差的范围也较小。
  4. 适应度值反映着遗传算法的全局搜索性能,从图1、图2中可以看出,随着种群规模从10~100变化,它们进化100代后,其相对应的适应度值基本走势越来越低(种群规模为70时比种群规模为80时的值稍低),但其总体都落在(23, 29)区间内。对于该算法来说,其适应度值越低,算法的全局搜索能力越好,然而,当种群规模从10到100递增时,其算法的运算时间基本成线性增加(图5),因此,并不是种群规模越大就越好。

综上所述,根据算法预测效果以及运算时间,本文提出的遗传算法优化的BP算法的种群规模参数宜选取20。下面讨论交叉概率。

表2遗传算法优化的 BP 算法中不同交叉概率对 Sphere 函数预测结果对比

f2fc614abbd67cd071944f528bafd9ba.png

注:种群规模为20,变异概率为0.09。

498a3e886acd93e0bcb7ddb028046784.png

图6 不同交叉概率的方差变化曲线

583cdfe4de473d3b83c4b7f5f7c54b5e.png

图7 不同交叉概率的收敛精度曲线

762017580e758220152959245fa8e42d.png

图8 不同交叉概率的适应度曲线

从表2中我们可以看出,交叉概率为0.7, 0.8时其误差范围相对较小;

② 图6和表2中可以看出,交叉概率为0.5, 0.7, 0.8时,其算法的标准差较小;

③ 图7中显示,交叉概率为0.5, 0.7, 0.8时,其算法的收敛精度较小;

④ 图8中显示,交叉概率为0.5, 0.6, 0.7时,其适应度值较好。 综上可知,该算法的最佳交叉概率为0.7。

表3 遗传算法优化的 BP 算法中不同变异概率对 Sphere 函数预测结果对比

6dbafb5e2bde7e88aab59fe2c0f691dc.png

注:种群规模为20,交叉概率为0.7。

4627c5b9866880bb7e2e8c014bfa3579.png

图9 不同变异概率的标准差变化曲线

e9ef2ec6bc28af8503ccb40acb9c247a.png

图 10 不同变异概率的收敛精度曲线

4f134f62d40a0b16d7cce16037d057f4.png

图11 不同变异概率的适应度曲线

  1. 由表3 相对误差一列可知,变异概率为 0.001, 0.01, 0.09 时,其相对误差范围较小;
  2. 由表3和图9可知,变异概率为 0.001, 0.01, 0.03, 0.09 时,其标准差较小
  3. 由表3和图10可知,变异概率为 0.001, 0.01, 0.03, 0.09 时,其收敛精度较小
  4. 由图11可知,变异概率为 0.01, 0.02, 0.05, 0.07 时,其适应度值较好,其中变异概率为 0.05 时,适应度值最好,变异概率为 0.01, 0.02, 0.07 时,其适应度值比较接近。 综合以上分析,该算法变异概率取 0.01。

《来源于科技文献,经本人分析整理,以技术会友,广交天下朋友》

点击阅读全文
Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐