正在加载图片...
当步长减小为0.2,其余设置不变时,要达到终止误差需要进行的训练次数 为18993次,明显多于步长为0.4的情形。 当步长增加为0.5,其余设置不变时,要达到终止误差需要进行的训练次数 为7590次,少于步长为0.4的情形。 当步长增加为0.8,其余设置不变时,要达到终止误差需要进行的训练次数 为4449次,明显少于步长为0.4的情形。 而当步长增加为1,其余设置不变时,要达到终止误差需要进行的训练次数 只有3292次。 这说明随着步长的增加,训练的次数可能减小,分析其原因是由于步长增加 意味着权值每次的变化量更大,因此会使收敛更快。但步长增加另一方面可能会 导致振荡,也就是当步长取的较大时,有可能使得权值在误差曲面的极小点两边 来回变化而不能达到极小点。在对其它函数逼近的实验中(实验3),可以看出 该现象。 (4.)增加动量项 当增加动量项,动量因子设为0.2,其余设置不变时,要达到终止误差需要 进行的训练次数为7590次,明显少于相同条件下不加动量项时所用的训练次数。 说明增加动量项加快了收敛。而增加动量项后的训练结果与不加动量项时的结果 几乎完全一样(一般仅在小数点后第五位有点差别),这说明在本例中增加动量 项虽然加快了收敛,但对逼近的程度并无什么改进。 (5.)推广测试 均匀选取5个点进行推广测试,其误差为0.000170499,上图中绿色o形标志 为推广测试的结果,由图及误差可以看出,在本例中的推广测试效果比较好。 2.f(x)=0.5+0.3*sinx,0≤x≤1 (1.)样本个数取为15,隐层节点数取为10,步长0.3,终止误差设为0.001,无 动量项运行结果如下: 训练次数:1485 最终误差:0.000996835 权值矩阵为:当步长减小为0.2,其余设置不变时,要达到终止误差需要进行的训练次数 为18993次,明显多于步长为0.4的情形。 当步长增加为0.5,其余设置不变时,要达到终止误差需要进行的训练次数 为7590次,少于步长为0.4的情形。 当步长增加为0.8,其余设置不变时,要达到终止误差需要进行的训练次数 为4449次,明显少于步长为0.4的情形。 而当步长增加为1,其余设置不变时,要达到终止误差需要进行的训练次数 只有3292次。 这说明随着步长的增加,训练的次数可能减小,分析其原因是由于步长增加 意味着权值每次的变化量更大,因此会使收敛更快。但步长增加另一方面可能会 导致振荡,也就是当步长取的较大时,有可能使得权值在误差曲面的极小点两边 来回变化而不能达到极小点。在对其它函数逼近的实验中(实验3),可以看出 该现象。 (4.)增加动量项 当增加动量项,动量因子设为0.2,其余设置不变时,要达到终止误差需要 进行的训练次数为7590次,明显少于相同条件下不加动量项时所用的训练次数。 说明增加动量项加快了收敛。而增加动量项后的训练结果与不加动量项时的结果 几乎完全一样(一般仅在小数点后第五位有点差别),这说明在本例中增加动量 项虽然加快了收敛,但对逼近的程度并无什么改进。 (5.)推广测试 均匀选取5个点进行推广测试,其误差为0.000170499,上图中绿色o形标志 为推广测试的结果,由图及误差可以看出,在本例中的推广测试效果比较好。 2. f x x x ( ) 0.5 0.3*sin ,0 1 = +   (1.)样本个数取为15,隐层节点数取为10,步长0.3,终止误差设为0.001,无 动量项运行结果如下: 训练次数:1485 最终误差:0.000996835 权值矩阵为:
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有