第2期 湛贵辉，等：卷积神经网络的贴片电阻识别应用 ·269· 卷积层。从图8中可以详细的看出模型的参数设 (8) 置，4-ResNet结构中的卷积核参数全部设置成148。 图像 总的识别错误数为 [7×7卷积642 (9) ReLU 3×3最大值池化，2 因此，总的贴片电阻识别准确率为 LRN ace all-()00 (10) 1×1卷积，64 任意贴片电阻类别的总识别错误率为 ReLU eral=号×100% (11) 3×3卷积，128 ReLU 任意贴片电阻类别的识别准确率为 LRN (12) 3×3最大值池化，2 4-ResNet 输 人 3×3卷积 4-ResNet/2 ReLU/BN 1×1卷积 3×3卷积 BN 4-ResNet/2 BN 7×7均值池化☐ (求和 xReLU 全连接层29神经元 3×3卷积 Softmax 7输出 ReLU/BN 3×3卷积 图8识别贴片电阻的16层深度4-ResNet模型，可训练 BN 参数为4.0×109 求和) Fig.8 The 16-layer depth 4-ResNet model of identify the F(x)tx TReLU chip resistors with a training parameter of 4.0x10 图9残差网络结构，取名4 ResNet 3种模型的输出神经元均被设置成29，这是 Fig.9 Residual network structure,named 4-ResNet 由实验数据集包含29个类别所导致的，训练时均 4.2实验过程 采用随机梯度下降法进行训练，选择Softmax回 在贴片电阻姿态固定而位置随机情况下，设 归模型对网络进行优化，权值更新公式为 计的3种卷积神经网络模型对贴片电阻进行识别 aLl +1=0.9X%-0.0005×ε×%，-8× 的准确率分析，实际中贴片电阻会被限制在一个 (6) 导轨上进行运动，所拍摄的贴片电阻位置并不会 W+1=w:+V+l 都严格居于图像正中间，因此对贴片电阻随机位 式中：i是迭代次数；v是运动常量；e是学习率； 置的识别是与实际情况更加吻合的。 (偿)是损失西数相对于，的横导在第改步长 为了模拟贴片电阻在图像中位置随机的情 输入数据D,上的平均。 况，每次迭代训练都进行随机截取256像素×256 像素大小图片输入网络进行训练。原始数据集中 4实验及讨论 每张图片为320像素×320像素大小是事先设计好 的，这样总可以保证每次随机截取的256像素×256 4.1贴片电阻识别指标定义 像素大小图片完全将贴片电阻信息包含在图像中。 假设贴片电阻存在m个类别，每种类别训练 整个实验过程基于Caffe深度学习框架，计 样本数为n1,n2,…,nm,测试样本数为t,2,…,tm,识 算GPU显卡为GeForce GTX10606GB。执行训 别错误数为e1,e2,…,em,则易得总的训练样本数为 练时，训练步长(batch)为32张图片，迭代4次输 (7) 出一次训练损失值，每训练20次执行一次准确率 测试。测试步长(batch)为l6张图片，测试迭代 总的测试样本数为 次数为10次。网络训练动量因子为0.9，初始学卷积层。从图 8 中可以详细的看出模型的参数设 置，4-ResNet 结构中的卷积核参数全部设置成 148。 图像 7×7 卷积, 64,/2 1×1 卷积, 64 3×3 卷积, 128 3×3 最大值池化,/2 LRN LRN 4-ResNet 4-ResNet,/2 4-ResNet,/2 7×7 均值池化 3×3 最大值池化,/2 全连接层 29 神经元 输出 ReLU ReLU ReLU Softmax 图 8 识别贴片电阻的 16 层深度 4-ResNet 模型，可训练 参数为 4.0×106 Fig. 8 The 16-layer depth 4-ResNet model of identify the chip resistors with a training parameter of 4.0×106 3 种模型的输出神经元均被设置成 29，这是 由实验数据集包含 29 个类别所导致的，训练时均 采用随机梯度下降法进行训练，选择 Softmax 回 归模型对网络进行优化，权值更新公式为 vi+1 = 0.9×vi −0.000 5×ε×wi −ε× ⟨ ∂L ∂w      wi ⟩ Di wi+1 = wi +vi+1 (6) i v ε ⟨ ∂L ∂w      wi ⟩ Di w i Di 式中： 是迭代次数； 是运动常量； 是学习率； 是损失函数相对于 的偏导在第 次步长 输入数据 上的平均。 4 实验及讨论 4.1 贴片电阻识别指标定义 m n1,n2,··· ,nm t1,t2,··· ,tm e1, e2,··· , em 假设贴片电阻存在 个类别，每种类别训练 样本数为 ，测试样本数为 ，识 别错误数为 ，则易得总的训练样本数为 N = ∑m i=1 ni (7) 总的测试样本数为 T = ∑m i=1 ti (8) 总的识别错误数为 E = ∑m i=1 ei (9) 因此，总的贴片电阻识别准确率为 acc_all = ( 1− E T ) ×100% (10) 任意贴片电阻类别 的总识别错误率为 err_all = ei T ×100% (11) 任意贴片电阻类别 i 的识别准确率为 acc_i = ( 1− ei ti ) ×100% (12) 求和 3×3 卷积 3×3 卷积 1×1 卷积 3×3 卷积 3×3 卷积 求和 输 入 ReLU/BN BN BN ReLU ReLU/BN BN F(x)+x ReLU x 图 9 残差网络结构，取名 4-ResNet Fig. 9 Residual network structure, named 4-ResNet 4.2 实验过程 在贴片电阻姿态固定而位置随机情况下，设 计的 3 种卷积神经网络模型对贴片电阻进行识别 的准确率分析，实际中贴片电阻会被限制在一个 导轨上进行运动，所拍摄的贴片电阻位置并不会 都严格居于图像正中间，因此对贴片电阻随机位 置的识别是与实际情况更加吻合的。 为了模拟贴片电阻在图像中位置随机的情 况，每次迭代训练都进行随机截取 256 像素×256 像素大小图片输入网络进行训练。原始数据集中 每张图片为 320 像素×320 像素大小是事先设计好 的，这样总可以保证每次随机截取的 256 像素×256 像素大小图片完全将贴片电阻信息包含在图像中。 整个实验过程基于 Caffe 深度学习框架，计 算 GPU 显卡为 GeForce GTX 1060 6 GB。执行训 练时，训练步长 (batch) 为 32 张图片，迭代 4 次输 出一次训练损失值，每训练 20 次执行一次准确率 测试。测试步长 (batch) 为 16 张图片，测试迭代 次数为 10 次。网络训练动量因子为 0.9，初始学 第 2 期 谌贵辉，等：卷积神经网络的贴片电阻识别应用 ·269·