·770· 智能系统学报 第13卷 器相结合的人脸识别算法，利用卷积神经网络提 取人脸特征，利用主成分分析法(PCA)对提取的 u=- (3) 特征进行降维，采用贝叶斯分类器进行判别分 把训练样本每一个图像均值化之后得到样本 类，最后在ORL人脸数据集上进行实验分析，验 矩阵Z,Z的计算表达式如式(4)所示。 证该方法提取特征辨识度高和低耗时的优点。 Z=[x1-u2-…xn-叫 (4) 1相关工作 此时，可得到训练样本的协方差矩阵C,C的 表达式如式（⑤）所示。 1.1卷积神经网络 C=Z.Z 卷积神经网络6刀作为一种高效的深度学习识 N (5) 别算法，近些年引起了广泛关注，其在语音识别、 协方差矩阵的维数为p×p。 语音分析和图像处理等领域都获得了巨大成功。 主成分分析法所要寻找的最优投影子空间由 在图像处理领域，卷积神经网络可直接将多维的 协方差矩阵C的非零特征值对应的特征向量组 图像数据输入网络，有效避免了复杂的特征提取 成。在利用PCA降维过程中，一般通过特征值的 和预处理过程。 累积贡献率α来确定主成分维数k,α可由式(6) 1.1.1卷积层 计算。 卷积层一般为特征提取层，由多个二维的 特征图组成，每个特征图由许多共享权值的神经 (6) 元组成。特征图中每个神经元通过卷积核与上一 层特征图的局部区域相连接。卷积层特征图的计 算表达式如式(1)所示。 假设求得的特征空间矩阵为U=[4…, =f∑+的 (1) 那么将训练样本向上投影，可以得到投影矩阵 Q,Q的计算表达式如式(7)所示。 式中：1表示层数；表示层的第j个特征图；f代表 Q=UZ (7) 激活函数：k表示卷积核；M,表示输入特征图的一 Q即为降维之后的数据。 个选择；b表示对应的偏置。 1.3朴素贝叶斯分类器 1.1.2亚采样层 朴素贝叶斯分类器是一个简单、高效的分 亚采样层利用图像的局部相关原理，对卷积 类器。它主要是根据先验概率预测样本属于某 层输入的特征图在相邻小区域内进行聚合统计， 类别的概率，选取概率最大的类别作为预测类 在减少数据量的同时，保留有用信息。常用的亚 别。整个朴素贝叶斯算法的过程分为两个阶段： 采样操作有均值池化(average pooling)、最大值池 分类器训练阶段、判别分类阶段。分类器训练阶 化(max pooling)和随机池化(stochastic pool-. 段的目的是生成分类器；判别分类阶段则是根据 ing)。亚采样操作之后，输入特征图的宽度和高 训练得到的分类器，对一个未知的样本进行预测 度均缩小为原来的1/m,特征图的个数和上一层一 分类。朴素贝叶斯分类器的数学模型可表示为： 致。亚采样层特征图的计算表达式如式(2)所示。 假设x(,2,…,x)为一个待分类的样本，类别集合 =f(B,down()+b) (2) 表示为C=y2,…,ym,要对样本x判别分类，则 式中：down()表示亚采样函数；B表示乘性偏置； 需分别计算PGy,x,Px,…,P0yx),那么x的预测 b表示加性偏置。 类别计算表达式如式(8)所示。 1.2PCA算法 P(yax)=max(P(yix),P(y2x),...P(ymx)(8) PCA即主成分分析法，是一种基于统计思 y即为贝叶斯分类器判别的未知样本x的类别。 想的降维方法。它通过正交变换，将与其分量相 计算上述条件概率的步骤： 关的原随机向量转化为与其分量不相关的新随机 1)构造已知类别的训练样本集合； 向量，达到降维的目的。 2)统计训练集中各个特征属性在每个类别中 设p维的随机向量x=[x2…x,J严，N个训练样 的条件概率估计，即计算式(9)所示概率： 本x,=[xx2…xpJT,i=1,2…,N,N>p,则训练样本 Pxby),Pxby)…P(xnby) (9) 的均值可由式(3)计算出来。 3)假定各个特征属性是独立的，根据贝叶斯器相结合的人脸识别算法，利用卷积神经网络提 取人脸特征，利用主成分分析法（PCA）对提取的 特征进行降维，采用贝叶斯分类器进行判别分 类，最后在 ORL 人脸数据集上进行实验分析，验 证该方法提取特征辨识度高和低耗时的优点。 1 相关工作 1.1 卷积神经网络 卷积神经网络[6-7]作为一种高效的深度学习识 别算法，近些年引起了广泛关注，其在语音识别、 语音分析和图像处理等领域都获得了巨大成功。 在图像处理领域，卷积神经网络可直接将多维的 图像数据输入网络，有效避免了复杂的特征提取 和预处理过程。 1.1.1 卷积层 卷积层[8]一般为特征提取层，由多个二维的 特征图组成，每个特征图由许多共享权值的神经 元组成。特征图中每个神经元通过卷积核与上一 层特征图的局部区域相连接。卷积层特征图的计 算表达式如式 (1) 所示。 x l j = f( ∑ i∈Mj x l−1 i k l i j +b l j ) (1) l j l j f k Mj b 式中： 表示层数； 表示 层的第 个特征图； 代表 激活函数； 表示卷积核； 表示输入特征图的一 个选择； 表示对应的偏置。 1.1.2 亚采样层 1/n 亚采样层利用图像的局部相关原理，对卷积 层输入的特征图在相邻小区域内进行聚合统计， 在减少数据量的同时，保留有用信息。常用的亚 采样操作有均值池化 (average pooling)、最大值池 化 (max pooling) 和随机池化 (stochastic pool￾ing)。亚采样操作之后，输入特征图的宽度和高 度均缩小为原来的 ，特征图的个数和上一层一 致。亚采样层特征图的计算表达式如式 (2) 所示。 x l j = f(β l jdown(x l−1 j )+b l j ) (2) down(·) β b 式中： 表示亚采样函数； 表示乘性偏置； 表示加性偏置。 1.2 PCA 算法 PCA 即主成分分析法[9] ，是一种基于统计思 想的降维方法。它通过正交变换，将与其分量相 关的原随机向量转化为与其分量不相关的新随机 向量，达到降维的目的。 p x = [x1 x2 ··· xp] T N xi = [xi1 xi2 ··· xip] T ,i = 1,2··· ,N N > p u 设 维的随机向量 ， 个训练样 本 ， ，则训练样本 的均值 可由式 (3) 计算出来。 u = 1 N ∑N i=1 xi (3) 把训练样本每一个图像均值化之后得到样本 矩阵 Z，Z 的计算表达式如式 (4) 所示。 Z = [x1 −u x2 −u··· xn −u] (4) 此时，可得到训练样本的协方差矩阵 C，C 的 表达式如式 (5) 所示。 C = Z · Z T N (5) 协方差矩阵的维数为 p× p。 C α k α 主成分分析法所要寻找的最优投影子空间由 协方差矩阵 的非零特征值对应的特征向量组 成。在利用 PCA 降维过程中，一般通过特征值的 累积贡献率 来确定主成分维数 ， 可由式 (6) 计算。 α = ∑k i=1 λi ∑p i=1 λi (6) U = [u1 u2 ···uk] U Q Q 假设求得的特征空间矩阵为 ， 那么将训练样本向 上投影，可以得到投影矩阵 ， 的计算表达式如式 (7) 所示。 Q = U T Z (7) Q 即为降维之后的数据。 1.3 朴素贝叶斯分类器 x(x1, x2,··· , xn) C = {y1, y2,··· , ym} x P(y1|x),P(y2|x),··· ,P(yn|x) x 朴素贝叶斯[10]分类器是一个简单、高效的分 类器。它主要是根据先验概率预测样本属于某一 类别的概率，选取概率最大的类别作为预测类 别。整个朴素贝叶斯算法的过程分为两个阶段： 分类器训练阶段、判别分类阶段。分类器训练阶 段的目的是生成分类器；判别分类阶段则是根据 训练得到的分类器，对一个未知的样本进行预测 分类。朴素贝叶斯分类器的数学模型可表示为： 假设 为一个待分类的样本，类别集合 表示为 ，要对样本 判别分类，则 需分别计算 ，那么 的预测 类别计算表达式如式 (8) 所示。 P(yk |x) = max{P(y1|x),P(y2|x),··· ,P(ym|x)} (8) yk即为贝叶斯分类器判别的未知样本x的类别。 计算上述条件概率的步骤： 1) 构造已知类别的训练样本集合； 2) 统计训练集中各个特征属性在每个类别中 的条件概率估计，即计算式 (9) 所示概率： P(x1|y1),P(x2|y1),···P(xn|y1) (9) 3) 假定各个特征属性是独立的，根据贝叶斯 ·770· 智 能 系 统 学 报 第 13 卷