5.1分段线性判别函数 口对实际的模式识别问题来说，各类在特征空间中 的分布往往比较复杂，采用线性判别函数无法取 第五章非线性判别函数 得满意的分类效果，可以采用分段线性判别或二 次函数判别等方法，是最为简单的形式。 2009-11-10 ■分段战性判别函数：一种特殊的非线性判别函 数，它的决策面是若千超平面。 ■树分类器的各节点上采用线性判别规则，即构成 分段线性分类器。 5.1分段线性判别函数 5.1分段线性判别函数 口对实际的模式识别问题来说，各类在特征空间中 口分段段数问题 的分布往往比较复杂，采用线性判别函数无法取 ■与样本集分布有关：分段段数过少，其分类效果 得满意的分类效果，可以采用分段线性判别或二 必然要差：但段数又要尽可能少，以免分类判别 次函数判别等方法，是最为简单的形式。 函数过于复杂，增加分类决策的计算量。 ■实际问题中，同一类样本的子类的数目就可作为 确定分段段数的依据。但多数情况下样本分布及 合适子类划分并不知道，聚类的方法将样本划分 成相对密集的子类，然后用各种方法设计各段判 别函数。 I:线性判别 1:分段线性判别 ■这一章主要讨论在样本分布及子类划分大体已定 Ⅲ：二次判别 的情况下，设计分段线性判别函数的问题。 5.1分段线性判别函数 5.1分段线性判别函数 口形式定义 口形式定义 ■设每个类由若千个子类组成，即 ■定义ω，类的判别函数 o={包，2，…，} 8,(x)=maxg(), 1=2 其中1为⊙，类所有子类的个数。 ■决策规则 ■对每个子类定义一个线性判别函数 8,)=max8(则k∈o g(x)=wx+00,1=1,2,l,i=1,2c ■决策面取决于相邻的决策域：如果第i类的第n 其中g表示ω，类第I段的线性判别函数，w,/与 个子类与第j类的第m个子类相邻，则由它们共 0。分别是第1段的权向量与阅值权。 同决定的决策面方程是 8(x)=8"(x).第五章 非线性判别函数 2009-11-10 2 5.1 分段线性判别函数  对实际的模式识别问题来说，各类在特征空间中 的分布往往比较复杂，采用线性判别函数无法取 得满意的分类效果，可以采用分段线性判别或二 次函数判别等方法，是最为简单的形式 。  分段线性判别函数：一种特殊的非线性判别函 数，它的决策面是若干超平面。  树分类器的各节点上采用线性判别规则，即构成 分段线性分类器。 3 5.1 分段线性判别函数  对实际的模式识别问题来说，各类在特征空间中 的分布往往比较复杂，采用线性判别函数无法取 得满意的分类效果，可以采用分段线性判别或二 次函数判别等方法，是最为简单的形式 。 R1 R3 R2 II I: 线性判别 II：分段线性判别 III: 二次判别 I III 4 5.1 分段线性判别函数  分段段数问题  与样本集分布有关：分段段数过少，其分类效果 必然要差；但段数又要尽可能少，以免分类判别 函数过于复杂，增加分类决策的计算量。  实际问题中，同一类样本的子类的数目就可作为 确定分段段数的依据。但多数情况下样本分布及 合适子类划分并不知道，聚类的方法将样本划分 成相对密集的子类，然后用各种方法设计各段判 别函数。  这一章主要讨论在样本分布及子类划分大体已定 的情况下，设计分段线性判别函数的问题。 5 5.1 分段线性判别函数  形式定义  设每个类由若干个子类组成，即 其中 l i 为 ωi 类所有子类的个数。  对每个子类定义一个线性判别函数 其中 gi l 表示ωi 类第 l 段的线性判别函数，wi l 与 ωi0 l 分别是第 l 段的权向量与阈值权。 0 ( ) , 1,2,..., , 1,2... ; T l ll i ii i g l li c x wx      , , , ; 1 2 il  i  i i  i 6 5.1 分段线性判别函数  形式定义  定义ωi 类的判别函数  决策规则  决策面取决于相邻的决策域：如果第 i 类的第 n 个子类与第 j 类的第 m 个子类相邻，则由它们共 同决定的决策面方程是 1,2,..., ( ) max ( ), i l i i l l g g  x x  1,2,..., ( ) max ( ), ; j ij i c g g   x xx   则 ( ) ( ). n m i j g g x x 