正在加载图片...
·24· 智能系统学报 第16卷 个输入的二维平面变成一个实数,采用这个实数来 数,第2个全连接网络将通道数变成C,2个全连 表示整个二维平面的特征信息,输出1×1×C的 接网络不仅增加了网络非线性,而且通过缩放倍 特征图,之后将其送入Excitation中,用于增强卷 数也实现了降低参数量的效果,接着将Excita- 积层通道间的相互依赖性,Excitation模块在2个 tion的输出经过一个激活函数将权值缩放到0~ 全连接网络中采用了通道的压缩,第1个全连接 1,最后将权值乘以最初输入的特征图U的各个 网络通道数变成原来的C/r,其中r为压缩的倍 通道中,实现对特征的重新分配。 F(.W) F←IIIm -mmm 1×1×C 1×1×C 图2SE模块网络结构 Fig.2 Network structure of SE block SE模块具有迁移性强的特点,可以嵌入到任 3×3卷积的输入,然后将4个通道的特征图进行 何的网络结构中,为最大化利用提取到的超声影 融合,显然Res2Net中每个特征子图下的3×3卷 像中的乳腺肿瘤特征,本节将其与Res2Net2) 积均可利用之前的特征,并且它的输出可以获得 结合组成SE-Res2Net,Res2Net是2019年的 更大的感受野,其在单层内增加了尺度,扩大了 EEE国际计算机视觉与模式识别会议提出的新 感受野范围,更好地利用了上下文信息,充分结 网络,网络结构如图3(b)所示,Res2Net结构采用 合上下文信息可以令分类器更容易检测出具体目 新的卷积方式来代替ResNet中3×3卷积,首先采 标,同时使用多尺度的方法来提取特征使得网络 用一个1×1卷积核将输入的特征图分成4个特征 的整体语义表征能力更加出色,特征表现力更 子图,每个特征子图均对应一个3×3卷积(第1个 强,最后在1×1卷积之后融合SE模块,能进一步 特征子图除外),将每个特征子图与上一个特征子 结合SE模块的优点:对通道特征进行重新加权, 图对应的卷积的输出的和作为该子图对应的 抑制无用的特征,充分利用了单层中的特征。 1×1卷积 1×1卷积 X X 1×1卷积 3×3 3×3 K 3×3 3×3 K: 3×3 Y Y2 Y Y 3×3卷积 Y 1×1卷积 SE模块 1×1卷积 (a)ResNet (b)Res2Net (c)SE-Res2Net 图3残差网络和SE-Res2Net网络 Fig.3 Residual network and SE-Res2Net network 3.2下采样模块设计 丢失,会在一定程度上影响识别的性能,因此本节 DarkNet-53在每个残差模块前均会有一个步长 综合考虑各种因素,引人类似Inception的结构 为2,大小为3×3的卷积核做下采样,DarkNet-53中 Downsample下采样模块来改进DarkNet-53的下采 一共有5个这样的卷积操作,该模块容易造成特征 样结构,其首先采用多个1×1的卷积核将特征图扩1×1×C C/r r 个输入的二维平面变成一个实数,采用这个实数来 表示整个二维平面的特征信息,输出 的 特征图,之后将其送入 Excitation 中,用于增强卷 积层通道间的相互依赖性,Excitation 模块在 2 个 全连接网络中采用了通道的压缩,第 1 个全连接 网络通道数变成原来的 ,其中 为压缩的倍 C U 数,第 2 个全连接网络将通道数变成 ,2 个全连 接网络不仅增加了网络非线性,而且通过缩放倍 数也实现了降低参数量的效果,接着将 Excita￾tion 的输出经过一个激活函数将权值缩放到 0 ~ 1,最后将权值乘以最初输入的特征图 的各个 通道中,实现对特征的重新分配。 C′ C W′ H′ H W X U Ftr C W H Fsq (·) Fex (·, W) X Fscale (·, ·) 1×1×C 1×1×C ~ 图 2 SE 模块网络结构 Fig. 2 Network structure of SE block SE 模块具有迁移性强的特点,可以嵌入到任 何的网络结构中,为最大化利用提取到的超声影 像中的乳腺肿瘤特征,本节将其与 Res2Net[ 2 2 ] 结合组成 SE-Res2Net,Res2Net 是 2019 年的 IEEE 国际计算机视觉与模式识别会议提出的新 网络,网络结构如图 3(b) 所示,Res2Net结构采用 新的卷积方式来代替 ResNet 中 3×3 卷积,首先采 用一个 1×1 卷积核将输入的特征图分成 4 个特征 子图,每个特征子图均对应一个 3×3卷积 (第 1 个 特征子图除外),将每个特征子图与上一个特征子 图对应的卷积的输出的和作为该子图对应的 3×3 卷积的输入,然后将 4 个通道的特征图进行 融合,显然 Res2Net 中每个特征子图下的 3×3 卷 积均可利用之前的特征,并且它的输出可以获得 更大的感受野,其在单层内增加了尺度,扩大了 感受野范围,更好地利用了上下文信息,充分结 合上下文信息可以令分类器更容易检测出具体目 标,同时使用多尺度的方法来提取特征使得网络 的整体语义表征能力更加出色,特征表现力更 强,最后在 1×1 卷积之后融合 SE 模块,能进一步 结合 SE 模块的优点:对通道特征进行重新加权, 抑制无用的特征,充分利用了单层中的特征。 1×1卷积 1×1卷积 X1 X2 X3 X4 3×3 3×3 3×3 Y1 Y2 Y3 Y4 K2 K3 K4 (a) ResNet (b) Res2Net 1×1卷积 3×3卷积 1×1卷积 1×1卷积 X1 X2 X3 X4 3×3 3×3 3×3 Y1 Y2 Y3 Y4 K2 K3 K4 SE 模块 (c) SE-Res2Net 图 3 残差网络和 SE-Res2Net 网络 Fig. 3 Residual network and SE-Res2Net network 3.2 下采样模块设计 DarkNet-53 在每个残差模块前均会有一个步长 为 2,大小为 3×3 的卷积核做下采样,DarkNet-53 中 一共有 5 个这样的卷积操作,该模块容易造成特征 丢失,会在一定程度上影响识别的性能,因此本节 综合考虑各种因素,引入类似 Inception 的结构 Downsample 下采样模块来改进 DarkNet-53 的下采 样结构,其首先采用多个 1×1的卷积核将特征图扩 ·24· 智 能 系 统 学 报 第 16 卷
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有