正在加载图片...
图5降噪自编码器模型 Fig.5 DAE model DAE的主要目的是提高底层编码对包含噪音的输入信号的鲁棒性。对于训练好的AE模型来说, 如果输入的信息中含有一定量的噪声,最终得到的底层编码无法完整的反编译出输入的信息,既 AE模型本身学习到的输入数据的特征信息容易被噪声所影响。DAE模型通过人为对输入数据加入 一定量的噪声,模拟信息损失的情况,模型降低了对输入信号的依赖性,使得底层编码在学习到输 入的完整信息的同时具有一定的鲁棒性。 2.2改进的降噪自编码器模型 传统的DAE模型并不具备监督学习的能力,由于重构特性,DAE往往用于进行无监督学习、 特征提取或数据生成。本文基于DAE,对编码器模型进行改进,提出Imported-DAE模型。模型结构 如图6所示: Input Labeled error © @ Noise Noise 国 Reconstruction error 非最 图6改进的DAE结构示意图 Fig.6 Improved-DAE structure diagram 典型的无监督学习方法有AE和DAB%由于AE本身的功能是将输入信号转换为隐藏层表达, 使得在经过训练学习后AE的隐藏层能够学习到的输入数据的无损重构信息。所以学习到重构信息 是无监督学习主要目的。 有监督学习与无监督学的还同在于,有监督学习有明确的学习目的,通过对数据人为的附加 标签,可以根据标签对数锯进行分类,预测。根据附加的标签,有监督学习模型通过大量的学习, 网络隐藏层抛弃数据史的部分重构信息,有目的性的学习输入数据具有识别能力的数据特征。所以, 学习到识别特征是有监督学习的主要目的。 而半监督学习则需要同时达到有监督和无监督两种学习的目的,即模型能够同时学习到输入数 据的重构信息和识别特征。 为了使得半监督模型能够学习到具有识别特征的重构信息,本文提出的模型分两部分实现: 第一部分,对输入层和编码层同时加入噪声。DAE虽然也是无监督学习,但是DAE与AE相比, 具有一定的特殊性,由于在输入数据中加入了随机噪声,使得模型在学习过程中被迫降低对输入数 据的依赖性,通过训练调整权重,DAE的隐藏层降低了对重构数据的学习能力,提高了鲁棒性, 其结果是模型不仅能够重构输入数据的信息,同时能够对一定量的噪声进行过滤。按照DAE的原 理,在模型的输入层和编码层同时加入噪声,加大了模型对于噪声的过滤能力,进一步削弱了隐藏 层对重构信息的学习能力。 第二部分,在隐藏层后加入包含softmax激活函数的分类层,由于输入数据中包含部分的标签 信息,隐藏层为了满足标签信息的分类要求,被迫学习数据中的识别特征,进一步的削弱对重构信图 5 降噪自编码器模型 Fig.5 DAE model DAE 的主要目的是提高底层编码对包含噪音的输入信号的鲁棒性。对于训练好的 AE 模型来说, 如果输入的信息中含有一定量的噪声,最终得到的底层编码无法完整的反编译出输入的信息,既 AE 模型本身学习到的输入数据的特征信息容易被噪声所影响。DAE 模型通过人为对输入数据加入 一定量的噪声,模拟信息损失的情况,模型降低了对输入信号的依赖性,使得底层编码在学习到输 入的完整信息的同时具有一定的鲁棒性。 2.2 改进的降噪自编码器模型 传统的 DAE 模型并不具备监督学习的能力,由于重构特性,DAE 往往用于进行无监督学习、 特征提取或数据生成。本文基于 DAE,对编码器模型进行改进,提出 Imported-DAE 模型。模型结构 如图 6 所示: 图 6 改进的 DAE 结构示意图 Fig.6 Improved-DAE structure diagram 典型的无监督学习方法有 AE 和 DAE,由于 AE 本身的功能是将输入信号转换为隐藏层表达, 使得在经过训练学习后 AE 的隐藏层能够学习到的输入数据的无损重构信息。所以学习到重构信息 是无监督学习主要目的。 有监督学习与无监督学习的不同在于,有监督学习有明确的学习目的,通过对数据人为的附加 标签,可以根据标签对数据进行分类,预测。根据附加的标签,有监督学习模型通过大量的学习, 网络隐藏层抛弃数据中的部分重构信息,有目的性的学习输入数据具有识别能力的数据特征。所以 , 学习到识别特征是有监督学习的主要目的。 而半监督学习则需要同时达到有监督和无监督两种学习的目的,即模型能够同时学习到输入数 据的重构信息和识别特征。 为了使得半监督模型能够学习到具有识别特征的重构信息,本文提出的模型分两部分实现: 第一部分,对输入层和编码层同时加入噪声。DAE 虽然也是无监督学习,但是 DAE 与 AE 相比, 具有一定的特殊性,由于在输入数据中加入了随机噪声,使得模型在学习过程中被迫降低对输入数 据的依赖性,通过训练调整权重,DAE 的隐藏层降低了对重构数据的学习能力,提高了鲁棒性, 其结果是模型不仅能够重构输入数据的信息,同时能够对一定量的噪声进行过滤[21]。按照 DAE 的原 理,在模型的输入层和编码层同时加入噪声,加大了模型对于噪声的过滤能力,进一步削弱了隐藏 层对重构信息的学习能力。 第二部分,在隐藏层后加入包含softmax 激活函数的分类层,由于输入数据中包含部分的标签 信息,隐藏层为了满足标签信息的分类要求,被迫学习数据中的识别特征,进一步的削弱对重构信 录用稿件,非最终出版稿
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有