正在加载图片...
·670· 智能系统学报 第16卷 全连接层的层数也会对实验结果产生影响, 实验中,本文方法的分类准确率为73.67%, 图10和图11分别给出了在1~4层全连接层时的 虽然比其他几种传统方法高,但低于文献22]给 分类准确率和运行时所用的迭代次数。从图10 出的86%的分类结果,该文献采用SAE来提取 中可以看出,在使用3层全连接层时,分类准确率 Pearson相关系数的特征,其主要原因在于,所使 最高,且在10组实验中,有6次是最高值。如图7 用的数据集较小,被试者数为64,而文献[22]所 所示的第3层全连接层中提取的特征值的组间差 用被试数为170。虽然本文所采用的ADNI-2数 异性明显大于如图9所示的池化层中提取的特征 据库中,有关EMCI的rs-fMRI数据确实较多,但 值的组间差异性,因此加入全连接层是十分有必 与其对应的MRI数据却相对较少。没有对应 要的。 MRI数据将无法进行良好配准,这会导致一些混 80 淆变量不能有效去除,如脑脊液和白质等,而该 混淆变量又会影响分类结果。因此,最后能够满 76 足实验条件的rs-fMRI数据量就较小。当然,实 验中的所采用方法无论是迁移学习还是传统方 0 法,面向的数据集是相同的,即本文方法的性能 ©1层全连接层 2层全连接层 提升是在同样数据条件下所获得的。在未来的工 6 *3层全连接层 作中,我们将会尝试更多的可用数据,以进一步 4层全连接层 60 来验证本文的研究。 3 4567 8910 实验组数 另外,在顶层参数设置的实验中,仅给出了全 图10T0P层具有1、2、3和4个全连接层时的测试精度 连接层数的实验结果,而未对其他参数作进一步 Fig.10 Test accuracy when TOP layer has 1,2,3 and 4 讨论,这主要是因为相对于其他参数,全连接层 fully connected layers 数对分类结果的影响比较大。对于激活函数,我 而在图11中可以看出,随着全连接层层数的 们也尝试了一些常用的函数,如ReLu、Softplus等0 增多,迭代次数在相应地减少,但减少的程度在 但发现这些函数的分类结果并没有较大差别,因 降低。根据图10和图11综合考虑分类准确率和 此选择了较为常见的Softplus。当然,还有一些参 迭代次数后,我们的实验选用了3层全连接层的 数对顶层性能也非常重要,例如全连接层节点 设置。 数。节点数量可以根据经验确定,若节点数太 160 小,网络将无法适应复杂分类,若节点数太大,会 1409 增加训练时间且可能产生过拟合。在本文的顶层 120 层连接层。 网络中,将3个全连接层的节点数分别设置为200 ®-2层全连接层 100 *3层全连接层 100和50。最后还有一个重要的顶层参数是Dro- 801 4层全连接是 pout层的神经元丢弃率,将其值设为大于0时,会 降低分类网络对训练数据的拟合程度,从而得到 40 较低的分类准确率,因此最后将其设置为0。 45678910 6结束语 实验组数 图11TOP层具有1,2,3和4个全连接层时的Epoch 针对通过rs-fMRI信号来诊断EMCI问题,本 Fig.11 Epoch when TOP layer has 1,2,3 and 4 fully con- 文提出了一种采用MobileNet的迁移网络来提取 nected layers ROI时间序列特征的方法。对于4D的rs-fMRI 5讨论 信号,采用迁移学习来提取特征值可以使网络的 训练时间大幅度下降,并能减少瞬时信息的丢失。 针对rs-fMRI数据的EMCI分类问题,本文采 本文在实验中,采用了ADNI-2的rs-fMRI数据 用迁移学习MoblieNet网络对ROI时间序列进行 并用DPABI工具箱对这些数据进行预处理,将本 特征提取,再进入到分类网络进行分类。实验结 文算法与从相关系数提取特征值的方法进行了对 果表明,本文的方法较传统方法的分类准确率有 比,结果显示本文算法的分类准确率比传统的相 所提升,且运行时间也有较大程度的减少,但还 关系数方法提高了约10%,而网络的分类时间大 有以下几点需要进一步进行讨论。 约只有用SAE提取相关系数特征方法的25%。全连接层的层数也会对实验结果产生影响, 图 10 和图 11 分别给出了在 1~4 层全连接层时的 分类准确率和运行时所用的迭代次数。从图 10 中可以看出,在使用 3 层全连接层时,分类准确率 最高,且在 10 组实验中,有 6 次是最高值。如图 7 所示的第 3 层全连接层中提取的特征值的组间差 异性明显大于如图 9 所示的池化层中提取的特征 值的组间差异性,因此加入全连接层是十分有必 要的。 1 2 3 4 5 6 7 8 9 10 实验组数 60 62 64 66 68 70 72 74 76 78 80 1 层全连接层 2 层全连接层 3 层全连接层 4 层全连接层 准确率/% 图 10 TOP 层具有 1、2、3 和 4 个全连接层时的测试精度 Fig. 10 Test accuracy when TOP layer has 1, 2, 3 and 4 fully connected layers 而在图 11 中可以看出,随着全连接层层数的 增多,迭代次数在相应地减少,但减少的程度在 降低。根据图 10 和图 11 综合考虑分类准确率和 迭代次数后,我们的实验选用了 3 层全连接层的 设置。 1 2 3 4 5 6 7 8 9 10 实验组数 1 层全连接层 2 层全连接层 3 层全连接层 20 40 60 80 100 120 140 160 迭代次数 4 层全连接层 图 11 TOP 层具有 1,2,3 和 4 个全连接层时的 Epoch Fig. 11 Epoch when TOP layer has 1, 2, 3 and 4 fully con￾nected layers 5 讨论 针对 rs-fMRI 数据的 EMCI 分类问题,本文采 用迁移学习 MoblieNet 网络对 ROI 时间序列进行 特征提取,再进入到分类网络进行分类。实验结 果表明,本文的方法较传统方法的分类准确率有 所提升,且运行时间也有较大程度的减少,但还 有以下几点需要进一步进行讨论。 实验中,本文方法的分类准确率为 73.67%, 虽然比其他几种传统方法高,但低于文献 [22] 给 出的 86% 的分类结果,该文献采用 SAE 来提取 Pearson 相关系数的特征,其主要原因在于,所使 用的数据集较小,被试者数为 64,而文献 [22] 所 用被试数为 170。虽然本文所采用的 ADNI-2 数 据库中,有关 EMCI 的 rs-fMRI 数据确实较多,但 与其对应的 MRI 数据却相对较少。没有对应 MRI 数据将无法进行良好配准,这会导致一些混 淆变量不能有效去除,如脑脊液和白质等,而该 混淆变量又会影响分类结果。因此,最后能够满 足实验条件的 rs-fMRI 数据量就较小。当然,实 验中的所采用方法无论是迁移学习还是传统方 法,面向的数据集是相同的,即本文方法的性能 提升是在同样数据条件下所获得的。在未来的工 作中,我们将会尝试更多的可用数据,以进一步 来验证本文的研究。 另外,在顶层参数设置的实验中,仅给出了全 连接层数的实验结果,而未对其他参数作进一步 讨论,这主要是因为相对于其他参数,全连接层 数对分类结果的影响比较大。对于激活函数,我 们也尝试了一些常用的函数,如 ReLu、Softplus 等 [30] , 但发现这些函数的分类结果并没有较大差别,因 此选择了较为常见的 Softplus。当然,还有一些参 数对顶层性能也非常重要,例如全连接层节点 数。节点数量可以根据经验确定,若节点数太 小,网络将无法适应复杂分类,若节点数太大,会 增加训练时间且可能产生过拟合。在本文的顶层 网络中,将 3 个全连接层的节点数分别设置为 200、 100 和 50。最后还有一个重要的顶层参数是 Dro￾pout 层的神经元丢弃率,将其值设为大于 0 时,会 降低分类网络对训练数据的拟合程度,从而得到 较低的分类准确率,因此最后将其设置为 0。 6 结束语 针对通过 rs-fMRI 信号来诊断 EMCI 问题,本 文提出了一种采用 MobileNet 的迁移网络来提取 ROI 时间序列特征的方法。对于 4D 的 rs-fMRI 信号,采用迁移学习来提取特征值可以使网络的 训练时间大幅度下降,并能减少瞬时信息的丢失。 本文在实验中,采用了 ADNI-2 的 rs-fMRI 数据, 并用 DPABI 工具箱对这些数据进行预处理,将本 文算法与从相关系数提取特征值的方法进行了对 比,结果显示本文算法的分类准确率比传统的相 关系数方法提高了约 10%,而网络的分类时间大 约只有用 SAE 提取相关系数特征方法的 25%。 ·670· 智 能 系 统 学 报 第 16 卷
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有