·895· 刘威，等：融合关系特征的半监督图像分类方法研究 第5期 有计算GCN与融合模型的分类精度差值。 88r ②对比虚线与实线之间的差异，几乎所有模 86 型在不同数量的标记样本上都实现了性能提升， 84 再次验证了本文所提融合模型的有效性，而所提 心 升的幅度在不同数据集上自然呈现出不同的特 80 点，对MNIST数据集，融合模型提升的精度值在 78 --ResNet18 1%内；对CIFAR10数据集，当标记样本数量较少 76 ◆ResNet1&-GCN -4-ResNet32 时，提升幅度较大，而当标记样本数量较多时，反 74 ResNet32-GCN 而提升幅度较小，此结论验证了CNN模型只有在 500 大量标记样本的前提下才能取得不错的精度，当 1000 标记样本的数量 只有少量标记样本时，其性能急剧下降。因此融 (a)CIFAR10 合模型在少样本上的性能较单一模型的性能更 100 优，充分说明了融合模型在半监督图像分类任务 95 方向上的优越性。而对于CIFAR1O0以及SVHN 亦可得到类似的结论。 90 本节从数值实验的角度对VGG与GCN的融 85 -●-ResNetl8 合模型性能进行分析。与前一节实验的结果对 ◆ResNet1&-GCN 比可知三层CNN的融合模型与VGG的融合模 80 -ResNet32 ResNet32-GCN 型在性能上的差异较小，甚至在CIFAR100数据 75 集上无论是VGG还是融合模型的性能都出现 500 急剧下降的现象。所谓更深的模型有更好的性 标记样本的数量 能，只是从理论的角度而言，但是实践中还应另 (b)SVHN 6 当别论。 60 注意：后续所有模型都是将GCN与输入层进 行连接，所以在命名时去掉了表示输入层的数字0。 3.4 SCUTTLE模型(ResNet、DenseNet-.GCN)性 50 能分析 -ResNet18 45 -ResNet18-GCN 3.4.1实验内容与实验设置 -4-ResNet32 40 ResNet32-GCN 1)本节选取ResNet18、ResNet3.2、DenseNet-40、 DenseNet100与GCN融合进行实验，且在CIFAR10、 500 400 SVHN、CIFAR1O0、STL10数据集上给出对应的实 标记样本的数量 验结果。 (c)CIFAR100 15 2)本节实验设置与前两节稍有不同，本节中 70 对每个数据集均采用全部的训练集进行训练，且 65 设定CIFAR10、CIFAR1O0、SVHN中的标记样本 60 数量为500、1000、2000、4000，STL10中的标记样 ★ 本数量为250、500、750、1000。以CIFAR10为例， 50 --ResNet18 在全部的50000个训练样本中挑选500、1000、 45 ResNet18-GCN -4-ResNet32 2000、4000个样本作为标记样本，剩余49500、 40 ResNet32-GCN 49000、48000、46000个样本为无标记样本进行 35 SCUTTLE模型的性能测试。此外超参数的设置 心、 标记样本的数量 与前两节相同。 (d)STL1O 3.4.2 ResNet-GCN融合模型的实验结果分析 图5 ResNet18-GCN、ResNet32-GCN在4种数据集上的 图5中的4幅图是在ResNet与GCN融合模 精度折线图 型上测试的实验结果，图例中的ResNet18、Res- Fig.5 Accuracy line graphs of ResNet18-GCN and Res- Net32均指监督学习的精度折线。 Net32-GCN on four datasets有计算 GCN 与融合模型的分类精度差值。 ②对比虚线与实线之间的差异，几乎所有模 型在不同数量的标记样本上都实现了性能提升， 再次验证了本文所提融合模型的有效性，而所提 升的幅度在不同数据集上自然呈现出不同的特 点，对 MNIST 数据集，融合模型提升的精度值在 1% 内；对 CIFAR10 数据集，当标记样本数量较少 时，提升幅度较大，而当标记样本数量较多时，反 而提升幅度较小，此结论验证了 CNN 模型只有在 大量标记样本的前提下才能取得不错的精度，当 只有少量标记样本时，其性能急剧下降。因此融 合模型在少样本上的性能较单一模型的性能更 优，充分说明了融合模型在半监督图像分类任务 方向上的优越性。而对于 CIFAR100 以及 SVHN 亦可得到类似的结论。 本节从数值实验的角度对 VGG 与 GCN 的融 合模型性能进行分析。与前一节实验的结果对 比可知三层 CNN 的融合模型与 VGG 的融合模 型在性能上的差异较小，甚至在 CIFAR100 数据 集上无论是 VGG 还是融合模型的性能都出现 急剧下降的现象。所谓更深的模型有更好的性 能，只是从理论的角度而言，但是实践中还应另 当别论。 注意：后续所有模型都是将 GCN 与输入层进 行连接，所以在命名时去掉了表示输入层的数字 0。 3.4 SCUTTLE 模型 (ResNet、DenseNet-GCN) 性 能分析 3.4.1 实验内容与实验设置 1）本节选取 ResNet18、ResNet32、DenseNet40、 DenseNet100 与 GCN 融合进行实验，且在 CIFAR10、 SVHN、CIFAR100、STL10 数据集上给出对应的实 验结果。 2）本节实验设置与前两节稍有不同，本节中 对每个数据集均采用全部的训练集进行训练，且 设定 CIFAR10、CIFAR100、SVHN 中的标记样本 数量为 500、1 000、2000、4 000，STL10 中的标记样 本数量为 250、500、750、1 000。以 CIFAR10 为例， 在全部的 50 000 个训练样本中挑选 500、1 000、 2000、4 000 个样本作为标记样本，剩余 49 500、 49 000、48 000、46 000 个样本为无标记样本进行 SCUTTLE 模型的性能测试。此外超参数的设置 与前两节相同。 3.4.2 ResNet-GCN 融合模型的实验结果分析 图 5 中的 4 幅图是在 ResNet 与 GCN 融合模 型上测试的实验结果，图例中的 ResNet18、Res￾Net32 均指监督学习的精度折线。 500 1 000 1 500 2 000 2 500 3 000 3 500 4 000 86 88 84 82 80 76 74 测试精度 78 /% 标记样本的数量 ResNet18 ResNet18-GCN ResNet32 ResNet32-GCN 500 1 000 1 500 2 000 2 500 3 000 3 500 4 000 100 95 90 85 80 75 测试精度/% 标记样本的数量 ResNet18 ResNet18-GCN ResNet32 ResNet32-GCN 300 400 500 600 700 800 900 1 000 75 70 65 60 50 45 40 35 55 测试精度/% 标记样本的数量 ResNet18 ResNet18-GCN ResNet32 ResNet32-GCN 500 1 000 1 500 2 000 2 500 3 000 3 500 4 000 65 55 50 40 45 60 测试精度/% 标记样本的数量 ResNet18 ResNet18-GCN ResNet32 ResNet32-GCN (a) CIFAR10 (b) SVHN (c) CIFAR100 (d) STL10 图 5 ResNet18-GCN、ResNet32-GCN 在 4 种数据集上的 精度折线图 Fig. 5 Accuracy line graphs of ResNet18-GCN and Res￾Net32-GCN on four datasets ·895· 刘威，等：融合关系特征的半监督图像分类方法研究 第 5 期