·564· 智能系统学报 第15卷 网络收敛趋于稳定。因此，为了使设计网络模型 数据集。由图8可以看到，生成图像和原缺陷样 快速稳定地收敛，经过大量的仿真实验，本文 本相似度较高。将新生成数据输入经迁移学习训 的学习速率a和冲量单元8分别设定为0.001 练过的本文模型，进行二次学习，以获取更好的 和0.9。 训练效果。 本文模型的训练包括利用迁移学习进行初始 训练、DCGAN生成样本的二次训练和基于更新 样本集的继续学习3个关键环节。 2.3.1基于迁移学习的模型训练 鉴于缺陷样本量不足，会导致CNN模型出现 过拟合问题，以及前期我们研究的手机保护屏缺 (a)输入凹凸点缺陷样本 陷与本文研究的LCD表面缺陷极为相似，故采用 迁移学习方法解决该问题。 本文基于前期设计并用7632幅的手机保护 屏图像训练好的手机保护屏缺陷检测模型，利 用迁移学习对本文模型进行训练。如图7所示， 图中源数据为手机保护屏图像，目标数据为待 (b)输入划痕缺陷样本 检LCD图像。由图7可知，手机保护屏缺陷与 本文待检目标在特征空间上较为相似，因此将 手机保护屏缺陷检测模型作为预训练模型，通 过迁移网络权重参数而有效提升本文模型的泛 化能力。 (©)生成凹凸点缺陷样本 知识 源数据 系统学习 (d)生成划痕缺陷样本 目标数据 图8 DCGAN生成的样本图像 Fig.8 Generated images by DCGAN 图7迁移学习 2.3.3基于更新样本集的继续学习 Fig.7 Transfer learning 工业生产过程中随时会产生新的缺陷样本和 2.3.2基于DCGAN的生成样本训练 类型，因此，本文提出如图9所示的继续学习方 针对从实际生产环境中可采集的缺陷样本较 法，通过锁定浅层特征提取层，将不断更新的样 少问题，本文利用DCGANU19(deep convolutional 本数据直接输入深层特征提取层进一步强化训练 GAN)网络，根据已有的缺陷样本生成新的样本 模型，并更新分类器，以实现小样本下LCD缺陷 数据。 的高精度检测。 DCGAN是在生成式对抗网络(generative ad- versarial network,GANs)2o基础上，用CNN代替 分类 GAN中的多层感知机，并使用全局池化层代替全 连接层等改进后的生成模型，其生成器通过输入 源域 浅层特征提取网路 深特征提取网蜂 随机向量并利用反卷积生成图像，判别器利用 CNN的分类能力对真实图像和生成图像进行判 新数据训练深层特征提取网络 别和反馈，从而获得高质量样本数据。 目标域 将图8(a)、(b)所示的小批量LCD缺陷图像输 图9继续学习 入DCGAN网络模型，生成如图8(c)、(d)所示的 Fig.9 Continue learningα ε 0.001 0.9 网络收敛趋于稳定。因此，为了使设计网络模型 快速稳定地收敛，经过大量的仿真实验，本文 的学习速率 和冲量单元 分别设定为 和 。 本文模型的训练包括利用迁移学习进行初始 训练、DCGAN 生成样本的二次训练和基于更新 样本集的继续学习 3 个关键环节。 2.3.1 基于迁移学习的模型训练 鉴于缺陷样本量不足，会导致 CNN 模型出现 过拟合问题，以及前期我们研究的手机保护屏缺 陷与本文研究的 LCD 表面缺陷极为相似，故采用 迁移学习方法解决该问题。 本文基于前期设计并用 7 632 幅的手机保护 屏图像训练好的手机保护屏缺陷检测模型，利 用迁移学习对本文模型进行训练。如图 7 所示， 图中源数据为手机保护屏图像，目标数据为待 检 LCD 图像。由图 7 可知，手机保护屏缺陷与 本文待检目标在特征空间上较为相似，因此将 手机保护屏缺陷检测模型作为预训练模型，通 过迁移网络权重参数而有效提升本文模型的泛 化能力。 知识 系统学习 源数据 目标数据 图 7 迁移学习 Fig. 7 Transfer learning 2.3.2 基于 DCGAN 的生成样本训练 针对从实际生产环境中可采集的缺陷样本较 少问题，本文利用 DCGAN[19] (deep convolutional GAN) 网络，根据已有的缺陷样本生成新的样本 数据。 DCGAN 是在生成式对抗网络 (generative ad￾versarial network，GANs)[20] 基础上，用 CNN 代替 GAN 中的多层感知机，并使用全局池化层代替全 连接层等改进后的生成模型，其生成器通过输入 随机向量并利用反卷积生成图像，判别器利用 CNN 的分类能力对真实图像和生成图像进行判 别和反馈，从而获得高质量样本数据。 将图 8(a)、(b) 所示的小批量 LCD 缺陷图像输 入 DCGAN 网络模型，生成如图 8(c)、(d) 所示的 数据集。由图 8 可以看到，生成图像和原缺陷样 本相似度较高。将新生成数据输入经迁移学习训 练过的本文模型，进行二次学习，以获取更好的 训练效果。 (a) 输入凹凸点缺陷样本 (c) 生成凹凸点缺陷样本 (b) 输入划痕缺陷样本 (d) 生成划痕缺陷样本 图 8 DCGAN 生成的样本图像 Fig. 8 Generated images by DCGAN 2.3.3 基于更新样本集的继续学习 工业生产过程中随时会产生新的缺陷样本和 类型，因此，本文提出如图 9 所示的继续学习方 法，通过锁定浅层特征提取层，将不断更新的样 本数据直接输入深层特征提取层进一步强化训练 模型，并更新分类器，以实现小样本下 LCD 缺陷 的高精度检测。 Inception 目标域 新数据训练深层特征提取网络 源域 C1 C2 C3 浅层特征提取网络 深层特征提取网络Inception 分类 图 9 继续学习 Fig. 9 Continue learning ·564· 智 能 系 统 学 报 第 15 卷