·592 北京科技大学学报 第34卷 训练阶段，模糊认知图分类器模型的分类算法 知图分类器的节点分为两种类型：属性节点和标签 描述如下. 节点.属性节点表示了样本的某个属性；而标签节 输入：训练集X={(x1,y1),(x2,y2),…,（xn, 点则标注了该样本所属类别.在分类过程中，属性 y)},激活函数F,学习方法L,推理规则L. 节点的值是保持不变的，标签节点的值则随着模糊 输出：模糊认知图分类器模型. 认知图推理过程的不断进行而变化，当模糊认知图 STEP1数据预处理，包括清洗数据、去噪等； 经过若干次迭代后，最终拟合到某一特定类别.基 STEP2数据进入模糊认知图分类器模型后经 于此，本文采用了如下推理规则的： 过输入层进入分类机，在图1中可视为神经网络的 (4) 隐藏层： =f4,）=f+∑W4） =1,i STEP3启动反馈自动机； 式中：t为第t次迭代（第t时刻）；A为节点A:在t STEP4输出模糊认知图分类器模型. 时刻的状态值：W为在1时刻A对A,的关联权值. 在STEP3中，反馈自动机主要提供分类决策功 可见，式(4)则揭示了一个节点的k个邻居节点对 能，有以下两种运行机制 该节点在下一时刻状态值的共同影响 第一种称为收敛机制，即模糊认知图分类器模 2.5学习方法 型收敛到唯一的平衡态（一类）或有限环（多类），保 在模型学习过程中，本文采用了改进的遗传 存该状态下的所有状态参数，同时终止算法：否则继 算法 续执行演化过程，直到到达平衡态 2.5.1染色体构造 第二种运行机制称为误差机制，即利用总错误 定义4令模糊认知图分类器模型的邻接矩阵 率Eπ指标作为终止条件设置的标准 为E=(e),e同定义2，模型学习过程中，染色体矩 T 1An(t)-A(t)12 阵定义为它=[ei,e2,eiB,…,eim,ei,e2,…,e2m, …,emm]T,考虑到对Hi,ei=0,故ei未加至染色体 式中：l为规范化因子，l=TxMA()为第t次迭 矩阵中.此时，E=[e2,e3,…eim,ei,…,e2m，…, 代（第t时刻）第m节点的输出值，而A:(t)为该节 es.m-1]T 点真实状态值.s为误差阈值，当Er≤E时算法终 模型学习的最终目标要生成稳定的染色体矩 止，实验中E=0.01. 阵，由该矩阵可反推出邻接矩阵，即e=e分 2.3激活函数 2.5.2遗传算子 在模型学习过程中，节点的值必须控制在一定 选择：采用轮盘赌选择方法.对于给定的规模 范围内，这就需要借助激活函数.常见的激活函数 为m的群体G={x1,x2,…,xm},个体x:的适应度 有以下三种类型 为f,则x:被选择的概率为 分段函数： P= f f(x)= 0, x≤0： (5) (1) 1, x>0. 三段函数： 交叉和变异：在学习过程中，交叉概率和变异概 -1 x≤-0.5： 率在影响模型学习行为和性能方面起到了关键作 五(x) 0, -0.5<x<0.5: (2) 用，直接影响到算法的收敛性.为此，本文提出一种 1, x≥0.5. 自适应交叉变异算子，使交叉概率P。和变异概率 Sigmod函数： P能随适应度自动改变.具体做法为：当算法收敛 1 f(x)=1+e (3) 时，减小P。,增大P,即降低交叉概率，提高变异概 率，以保持个体的多样性，同时避免了种群早熟；当 式(3)中，入>0，决定了Sigmod函数的形状.在模糊 个体发散时，增大P。,减小P,即提高P。,降低P, 认知图分类器中，本文设置入=1，从而保证始终位 使算法趋于收敛 于f(x)在D,1]区间. 2.4推理规则 Pk((-TFimncse-Fimnese"T 考虑到分类过程自身的特殊性，本文把模糊认 (6)北 京 科 技 大 学 学 报 第 34 卷 训练阶段，模糊认知图分类器模型的分类算法 描述如下． 输入: 训练集 X = { ( x1，y1 ) ，( x2，y2 ) ，…，( xn， yn ) } ，激活函数 F，学习方法 L，推理规则 I． 输出: 模糊认知图分类器模型． STEP 1 数据预处理，包括清洗数据、去噪等; STEP 2 数据进入模糊认知图分类器模型后经 过输入层进入分类机，在图 1 中可视为神经网络的 隐藏层; STEP 3 启动反馈自动机; STEP 4 输出模糊认知图分类器模型． 在 STEP 3 中，反馈自动机主要提供分类决策功 能，有以下两种运行机制． 第一种称为收敛机制，即模糊认知图分类器模 型收敛到唯一的平衡态( 一类) 或有限环( 多类) ，保 存该状态下的所有状态参数，同时终止算法; 否则继 续执行演化过程，直到到达平衡态． 第二种运行机制称为误差机制，即利用总错误 率 Err 指标作为终止条件设置的标准． Err = l ∑ T t = 1 ∑ M m = 1 | Am ( t) － A' m ( t) | 2 ． 式中: l 为规范化因子，l = 1 T × M; Am ( t) 为第 t 次迭 代( 第 t 时刻) 第 m 节点的输出值，而 A' m ( t) 为该节 点真实状态值． ε 为误差阈值，当 Err≤ε 时算法终 止，实验中 ε = 0. 01． 2. 3 激活函数 在模型学习过程中，节点的值必须控制在一定 范围内，这就需要借助激活函数． 常见的激活函数 有以下三种类型． 分段函数: f1 ( x) = 0， x≤0; {1， x ＞ 0． ( 1) 三段函数: f2 ( x) = － 1， x≤ － 0. 5; 0， － 0. 5 ＜ x ＜ 0. 5; 1， x≥0. 5 { ． ( 2) Sigmod 函数: f3 ( x) = 1 1 + e － λx ． ( 3) 式( 3) 中，λ ＞ 0，决定了 Sigmod 函数的形状． 在模糊 认知图分类器中，本文设置 λ = 1，从而保证始终位 于 f( x) 在［0，1］区间． 2. 4 推理规则 考虑到分类过程自身的特殊性，本文把模糊认 知图分类器的节点分为两种类型: 属性节点和标签 节点． 属性节点表示了样本的某个属性; 而标签节 点则标注了该样本所属类别． 在分类过程中，属性 节点的值是保持不变的，标签节点的值则随着模糊 认知图推理过程的不断进行而变化，当模糊认知图 经过若干次迭代后，最终拟合到某一特定类别． 基 于此，本文采用了如下推理规则［15］: At + 1 i = f( At i，Wt ji ) = ( f At i + ∑ k i = 1，i≠j Wt jiA ) t j ． ( 4) 式中: t 为第 t 次迭代( 第 t 时刻) ; At i 为节点 Ai 在 t 时刻的状态值; Wt ji为在 t 时刻 Aj 对 Ai 的关联权值． 可见，式( 4) 则揭示了一个节点的 k 个邻居节点对 该节点在下一时刻状态值的共同影响． 2. 5 学习方法 在模型学习过程中，本文采用了改进的遗传 算法． 2. 5. 1 染色体构造 定义 4 令模糊认知图分类器模型的邻接矩阵 为 E = ( eij ) ，eij同定义 2，模型学习过程中，染色体矩 阵定义为 E 槇 =［e' 11，e' 12，e' 13，…，e' 1m，e' 21，e' 22，…，e'2m， …，e'mm］T ，考虑到对i，e' ii = 0，故 e' ii未加至染色体 矩阵中． 此时，^ E' =［e' 12，e' 13，…，e' 1m，e' 21，…，e' 2m，…， e' m，m － 1］T ． 模型学习的最终目标要生成稳定的染色体矩 阵，由该矩阵可反推出邻接矩阵，即 eij = e' ij ． 2. 5. 2 遗传算子 选择: 采用轮盘赌选择方法． 对于给定的规模 为 m 的群体 G = { x1，x2，…，xm } ，个体 xi 的适应度 为 fi，则 xi 被选择的概率为 P = fi ∑ m i = 1 fi ． ( 5) 交叉和变异: 在学习过程中，交叉概率和变异概 率在影响模型学习行为和性能方面起到了关键作 用，直接影响到算法的收敛性． 为此，本文提出一种 自适应交叉变异算子，使交叉概率 Pc 和变异概率 Pm 能随适应度自动改变． 具体做法为: 当算法收敛 时，减小 Pc，增大 Pm，即降低交叉概率，提高变异概 率，以保持个体的多样性，同时避免了种群早熟; 当 个体发散时，增大 Pc，减小 Pm，即提高 Pc，降低 Pm， 使算法趋于收敛． Pci = k1 ( 1 1 + exp( － | Fitness' － Fitness″| ) + ) 1 2 ， ( 6) ·592·