正在加载图片...
第17卷 智能系统学报 ·902· 进行数据的整合,从而形成非对称网络。改善网 络的非线性特征表示的能力。 →-州-叫-% 名→-州州州 图1非对称全连接层卷积自编码器(AFCAE)网络框架 Fig.1 Overall framework of the asymmetric fully-connected layers convolutional auto-encoder(AFCAE)network 这个AFCAE网络的端到端无监督预训练结 实验用到的AFCAE聚类算法详细化为图2,对应 束后,截取C1到F6层后接入K-means算法形成 的网络参数列于表1,其中(k,n)/s分别代表卷积 本文的深度聚类模型。为了减少名词的困扰,称 核的大小、通道数和步长。 其为AFCAE聚类算法,见图1的下半部分。后面 28×28×1 0 ● 9×9×25 4×4×50 2×2×50 1×1×50 Conv2 Conv3 Conv4 F2 图2 AFCAE网络结构 Fig.2 AFCAE network structure 表1 AFCAE网络参数详细表 约束: Table 1 The detailed description of AFCAE network para- J(W:X:X)=- 1 meters (1) i=l 层 卷积核步长 式中:X={x,x2,…,xw}为图像数据集;N为图片总 CI (3.25)/3 个数。第1项损失为重构损失,输入x通过自编 C2 (3.50)/2 码器得到重构后的输出。第2项是L2正则化约 C3 (3,50)/1 束,W为网络参数。α为超参数,后面实验中设置 C4 (2.50)/1 a=0.01。 FI 50 训练好非对称全连接层卷积自编码器后,保 F2 50 留C1-F6层网络结构和参数,使用F6层输出作为 F3 50 特征信息进行聚类。 F4 10 2.3复杂性分析 F5 50 卷积层的理论时间复杂性表示P为 F6 50 2.2 AFCAE方法 o位 (2) AFCAE网络损失函数为输人x:与输出之间 式中:d为卷积层的数量;l是卷积层的索引;n是 的误差平方和,为防止网络过拟合,加入L2正则化 第层中卷积核的数量,也称为输出通道数;-称进行数据的整合,从而形成非对称网络。改善网 络的非线性特征表示的能力。 C1 C2 C3 C4 F1 F2 F3 F4 F5 F6 + 图 1 非对称全连接层卷积自编码器 (AFCAE) 网络框架 Fig. 1 Overall framework of the asymmetric fully-connected layers convolutional auto-encoder (AFCAE) network 这个 AFCAE 网络的端到端无监督预训练结 束后,截取 C1 到 F6 层后接入 K-means 算法形成 本文的深度聚类模型。为了减少名词的困扰,称 其为 AFCAE 聚类算法,见图 1 的下半部分。后面 实验用到的 AFCAE 聚类算法详细化为图 2,对应 的网络参数列于表 1,其中 (k,n)/s 分别代表卷积 核的大小、通道数和步长。 F3 F5 F4 F1 F2 F6 + … … … … … … 1×1×50 2×2×50 4×4×50 9×9×25 28×28×1 Conv1 Conv2 Conv3 Conv4 图 2 AFCAE 网络结构 Fig. 2 AFCAE network structure 表 1 AFCAE 网络参数详细表 Table 1 The detailed description of AFCAE network para￾meters 层 卷积核/步长 C1 (3,25)/3 C2 (3,50)/2 C3 (3,50)/1 C4 (2,50)/1 F1 50 F2 50 F3 50 F4 10 F5 50 F6 50 2.2 AFCAE 方法 xi xˆi L2 AFCAE 网络损失函数为输入 与输出 之间 的误差平方和,为防止网络过拟合,加入 正则化 约束: J(W;X;Xˆ) = 1 N ∑N i=1 || xi−bxi ||2 +α ∑ ||W||2 (1) X = {x1, x2,··· , xN} N xi xˆi L2 W α α = 0.01 式中: 为图像数据集; 为图片总 个数。第 1 项损失为重构损失,输入 通过自编 码器得到重构后的输出 。第 2 项是 正则化约 束, 为网络参数。 为超参数,后面实验中设置 。 训练好非对称全连接层卷积自编码器后,保 留 C1-F6 层网络结构和参数,使用 F6 层输出作为 特征信息进行聚类。 2.3 复杂性分析 卷积层的理论时间复杂性表示[21] 为 O   ∑d l=1 nl−1k 2 l nlm 2 l   (2) d l nl l nl−1 式中: 为卷积层的数量; 是卷积层的索引; 是 第 层中卷积核的数量,也称为输出通道数; 称 第 17 卷 智 能 系 统 学 报 ·902·
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有