正在加载图片...
100 Proportion=1% --Proportion=1% % *一Pr0p0 rtion=5% Proportion=5% +-Proportion=10% 90 -Proportion=10% 80 一Proportion=50% 日一ProD0rti0n=50% -Variance=1 80 40 0 0 56789101112131415 9101112131415 Mean value (a) 95 Proportion=1% Prooortion=5% *一Pr0p0ton=10% 终的版 0 70 ton10W o0=0 =1 0123456789101112131415 456789101112131415 Mean value Variance (c) (d) 图7噪声对模型准确率影响:(a)输入层只有均值变化:6)输入层只有方差变化:(c)编码层只有均值变化:(@编码层 只弃方差变化 Fig.7 Influence of noise on model accuracy:(a)only the mean value of input layer changes;(b)only the variance of input layer changes;(c)only the mean value ofencode layer changes,(d)only the variance of encode layer changes, 图7中(a),(b),(c),(d为输入层噪声均值,方差,编码层噪声均值,方差,分别对标签占比 为1%,5%,10%和50%四种数据情况的影响。 由图7可以看出,当加入噪声的均值方差在一定范围内变化时,对模型没有太大的影响,模型 准确率在相应范围内波动较这是因为当输入噪声较小时,模型通过不断的训练,能够较好的学 习到输入数据的深层特征,进提高整个模型的抗干扰性:但是随着噪声的均值方差进一步增大,输 入的原始数据逐渐失真,对于输入数据的特征提取能力大幅下降,使得模型的识别率逐渐降低。其 中,由于编码层处网络内部,噪声前后都有一定数量的网络参数,对于噪声的过滤能力较强,所 以在编码层提高噪声强度造成准确率降低的幅度较小,而输入层作为原始输入数据,对噪声敏感性 明显比编码层高, 实验结果表明,由于噪声在小范围内变动不影响模型准确率,但较大噪声的输入会极大影响模 型准确率,故输入层与编码层都采用均值为0,方差为1的高斯噪声作为输入噪声。 3.3模型对比 为了验证Improved-DAE模型的优势,将训练好的模型的编码层与分类层提取出来作为分类器。 以2节中的实验配置按照不同的标签占比,以分类精度为评价标准,与当前主要神经网络分类器模 型进行对比。BP(Back Propagation)神经网络、深度神经网络(Deep Back Propagation,.DBP)与深度置信 网络(Deep Belief Networks,.DBN)2m是传统分类模型,具有良好的识别稳定性,能够保证分类精度, 深度学习长短期记忆网络(Long Short--Term Memory,.LSTM)模型和卷积长短期记忆神经网络图 7 噪声对模型准确率影响:(a)输入层只有均值变化;(b)输入层只有方差变化;(c)编码层只有均值变化;(d)编码层 只有方差变化 Fig.7 Influence of noise on model accuracy: (a) only the mean value of input layer changes; (b) only the variance of input layer changes; (c) only the mean value of encode layer changes; (d) only the variance of encode layer changes; 图 7 中(a),(b),(c),(d)为输入层噪声均值,方差,编码层噪声均值,方差,分别对标签占比 为 1 %,5 %,10 %和 50 %四种数据情况的影响。 由图 7 可以看出,当加入噪声的均值方差在一定范围内变化时,对模型没有太大的影响,模型 准确率在相应范围内波动较小,这是因为当输入噪声较小时,模型通过不断的训练,能够较好的学 习到输入数据的深层特征,并提高整个模型的抗干扰性;但是随着噪声的均值方差进一步增大,输 入的原始数据逐渐失真,对于输入数据的特征提取能力大幅下降,使得模型的识别率逐渐降低。其 中,由于编码层处于网络内部,噪声前后都有一定数量的网络参数,对于噪声的过滤能力较强,所 以在编码层提高噪声强度造成准确率降低的幅度较小,而输入层作为原始输入数据,对噪声敏感性 明显比编码层高。 实验结果表明,由于噪声在小范围内变动不影响模型准确率,但较大噪声的输入会极大影响模 型准确率,故输入层与编码层都采用均值为 0,方差为 1 的高斯噪声作为输入噪声。 3.3 模型对比 为了验证 Improved-DAE 模型的优势,将训练好的模型的编码层与分类层提取出来作为分类器。 以 2 节中的实验配置按照不同的标签占比,以分类精度为评价标准,与当前主要神经网络分类器模 型进行对比。BP(Back Propagation)神经网络、深度神经网络(Deep Back Propagation, DBP)与深度置信 网络(Deep Belief Networks, DBN)[22]是传统分类模型,具有良好的识别稳定性,能够保证分类精度, 深度学习长短期记忆网络(Long Short-Term Memory, LSTM) [23]模型和卷积长短期记忆神经网络 录用稿件,非最终出版稿
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有