第3期 陈立潮，等：融合迁移学习的AlexNet神经网络不锈钢焊缝缺陷分类 ·541· 100 型9和Inception V3模型2o进行对比，分析各实 90 晚 验在运行1000次后的准确率和运行时间情况以 70 及运行1500次后的精度变化，对比结果如表2和 0 5 图8所示。 0 表1性能评价 30 Table 1 Performance evaluation ◆A-Alexnet 10 C-Alexnet 指标类别 精度% 召回率% F值% 2 345678910 裂纹 93.8 92.7 93.3 训练选代次数10 气孔 96.2 96.2 96.2 图6不同激活函数验证精度对比 Fig.6 Comparison of verification accuracy of different ac- 夹渣 92.8 91.6 92.2 tivation functions 未熔合 95.7 98.5 97.1 这是因为卷积层进行特征提取后，网络中的 未焊透 92.3 92.3 92.3 一些参数小于零，RLU激活函数由于在负半轴 表2迭代次数相同时各模型性能对比 导数为零，造成了这些神经元静默。改进后的激 Table 2 Performance comparison of each model with the 活函数LeakyReLU由于在负半轴永不为零，所以 same number of iterations 能够对这一部分神经元进行激活，从而参加下一 网络模型 准确率/% 运行时间min 卷积层的运算，提高网络精度。 CNN 63.64 23 3.2.3本文算法性能验证 VGG 23.65 35 本文网络采用3.1节设置实验环境进行训 Inception_V3 25.08 38 练，当迭代次数达到1000次时结束训练，网络识 别精度达到95.12%，并在验证集中随机选取6张 本文 95.12 45 图片对模型进行测试，测试结果如图7。 100r % CNN 80 -VGG Inception V3 本文 ★★ (a)未熔合，100% (b)未焊透，99.5% (c)裂纹，100% 50 20 10 15 训练迭代次数/10 (d)夹渣，99.7% (e)裂纹，100% 图8不同模型验证精度对比 (①气孔，89.6% Fig.8 Comparison of verification accuracy of different 图7模型测试结果 models Fig.7 Model test results 从表2和图8可以看出：本文模型在迭代1000 为了进一步验证改进后的AlexNet迁移学习 次时运行时间为45min,是CNN、VGG和Incep- 网络在不锈钢焊缝缺陷数据集上的表现，本文分 tion_V3模型运行时间的1.9、1.2和1.1倍，主要是 别统计了未熔合、夹渣、未焊透、裂纹和气孔5类 由于本文模型参数较多，计算量较大，迭代相同 不锈钢焊缝缺陷的识别精度、召回率和F,值来评 次数所需时间较长；准确率达到了95%左右，较 价模型性能，实验结果如表1所示。从表1可以 CNN、VGG和Inception V3模型分别提高了 看出，气孔和未熔合的识别效果相对较高，裂纹、 32%、72%和70%，究其原因主要是CNN比本文 夹渣和未焊透3类缺陷识别效果相对较低，这是 网络层次浅，不能提取到图像的深层特征，但参 因为这3类缺陷图像相似性较高，识别过程中有 数较少，所以耗时较本文模型有一个很大的优 较大难度，因此识别效果相对较低。为了验证本 势。从图8可以看出，由于VGG和Inception V3 文方法在不锈钢焊缝缺陷数据集上的性能，将本 都属于大型的深度提取网络，对图像数量有较严 文模型与未经预训练的CNN模型II、VGGNet模 格的标准，当数据集较小时提取不到充分的缺陷A-Alexnet C-Alexnet 100 90 80 70 60 50 40 30 20 10 0 1 2 3 4 5 6 7 8 9 10 验证精度/% 训练选代次数/102 图 6 不同激活函数验证精度对比 Fig. 6 Comparison of verification accuracy of different ac￾tivation functions 这是因为卷积层进行特征提取后，网络中的 一些参数小于零，ReLU 激活函数由于在负半轴 导数为零，造成了这些神经元静默。改进后的激 活函数 LeakyReLU 由于在负半轴永不为零，所以 能够对这一部分神经元进行激活，从而参加下一 卷积层的运算，提高网络精度。 3.2.3 本文算法性能验证 本文网络采用 3.1 节设置实验环境进行训 练，当迭代次数达到 1 000 次时结束训练，网络识 别精度达到 95.12%，并在验证集中随机选取 6 张 图片对模型进行测试，测试结果如图 7。 (a) 未熔合, 100% (b) 未焊透, 99.5% (c) 裂纹, 100% (d) 夹渣, 99.7% (e) 裂纹, 100% (f) 气孔, 89.6% 图 7 模型测试结果 Fig. 7 Model test results 为了进一步验证改进后的 AlexNet 迁移学习 网络在不锈钢焊缝缺陷数据集上的表现，本文分 别统计了未熔合、夹渣、未焊透、裂纹和气孔 5 类 不锈钢焊缝缺陷的识别精度、召回率和 F1 值来评 价模型性能，实验结果如表 1 所示。从表 1 可以 看出，气孔和未熔合的识别效果相对较高，裂纹、 夹渣和未焊透 3 类缺陷识别效果相对较低，这是 因为这 3 类缺陷图像相似性较高，识别过程中有 较大难度，因此识别效果相对较低。为了验证本 文方法在不锈钢焊缝缺陷数据集上的性能，将本 文模型与未经预训练的 CNN 模型[18] 、VGGNet 模 型 [19] 和 Inception_V3 模型[20] 进行对比，分析各实 验在运行 1 000 次后的准确率和运行时间情况以 及运行 1 500 次后的精度变化，对比结果如表 2 和 图 8 所示。 表 1 性能评价 Table 1 Performance evaluation 指标类别 精度/% 召回率/% F1值/% 裂纹 93.8 92.7 93.3 气孔 96.2 96.2 96.2 夹渣 92.8 91.6 92.2 未熔合 95.7 98.5 97.1 未焊透 92.3 92.3 92.3 表 2 迭代次数相同时各模型性能对比 Table 2 Performance comparison of each model with the same number of iterations 网络模型 准确率/% 运行时间/min CNN 63.64 23 VGG 23.65 35 Inception_V3 25.08 38 本文 95.12 45 100 90 80 70 60 50 40 30 20 0 5 10 15 验证精度/% 训练迭代次数/102 CNN VGG Inception_V3 本文 图 8 不同模型验证精度对比 Fig. 8 Comparison of verification accuracy of different models 从表 2 和图 8 可以看出：本文模型在迭代 1000 次时运行时间为 45 min，是 CNN、VGG 和 Incep￾tion_V3 模型运行时间的 1.9、1.2 和 1.1 倍，主要是 由于本文模型参数较多，计算量较大，迭代相同 次数所需时间较长；准确率达到了 95% 左右，较 CNN、VGG 和 Inception_V3 模型分别提高了 32%、72% 和 70%，究其原因主要是 CNN 比本文 网络层次浅，不能提取到图像的深层特征，但参 数较少，所以耗时较本文模型有一个很大的优 势。从图 8 可以看出,由于 VGG 和 Inception_V3 都属于大型的深度提取网络，对图像数量有较严 格的标准，当数据集较小时提取不到充分的缺陷 第 3 期 陈立潮，等：融合迁移学习的 AlexNet 神经网络不锈钢焊缝缺陷分类 ·541·