第五章成分分拼( Principal components Analysis 本章重点 今什么是主成分和主成分分析? ◇理解主成分分析的基本思想和几何意义? 理解并掌握基于协方差矩阵或相关系数矩阵求解主成分? 如何确定主成分个数? ◆如何解释主成分? ◇掌握运用SPSS软件求解主成分 对软件输出结果进行正确分析
zf 第五章 主成分分析 (Principal Components Analysis) 本章重点 ❖ 什么是主成分和主成分分析？ ❖ 理解主成分分析的基本思想和几何意义？ ❖ 理解并掌握基于协方差矩阵或相关系数矩阵求解主成分？ ❖ 如何确定主成分个数？ ❖ 如何解释主成分？ ❖ 掌握运用SPSS软件求解主成分 ❖ 对软件输出结果进行正确分析
口多个指标的问题: ◇1、指标与指标可能存在相关关系 信息重叠,分析偏误 2、指标太多,增加问题的复杂性和分析难度 如何避免? 2021/11/30
2021/11/30 2 zf 多个指标的问题: ❖ 1、指标与指标可能存在相关关系 信息重叠，分析偏误 ❖ 2、指标太多，增加问题的复杂性和分析难度 如何避免？
5.1主成分分析的基本思翘 项十分著名的工作是美国的统计学家斯通( stone)在 1947年关于国民经济的研究。他曾利用美国1929-1938 年各年的数据,得到了17个反映国民收入与支出的变量 要素,例如雇主补贴、消费资料和生产资料、纯公共支 出、净增库存、股息、利息外贸平衡等等。 在进行主成分分析后,竟以97.4%的精度,用三新变量就取代了 原17个变量。根据经济学知识,斯通给这三个新变量分别命名为 总收入F1、总收入变化牽F2和经济发展或衰退的趋势F3。 2021/11/30 3
2021/11/30 3 zf 5.1 主成分分析的基本思想 一项十分著名的工作是美国的统计学家斯通(stone)在 1947年关于国民经济的研究。他曾利用美国1929一1938 年各年的数据，得到了17个反映国民收入与支出的变量 要素，例如雇主补贴、消费资料和生产资料、纯公共支 出、净增库存、股息、利息外贸平衡等等。 在进行主成分分析后，竟以97.4％的精度，用三新变量就取代了 原17个变量。根据经济学知识，斯通给这三个新变量分别命名为 总收入F1、总收入变化率F2和经济发展或衰退的趋势F3
◇更有意思的是,这三个变量其实都是可以直接测量的。 斯通将他得到的主成分与实际测量的总收入Ⅰ、总收入变 化率M以及时间t因素做相关分析,得到下表: F1 F2 F3 t F1 F2 0 F3 0 0 i0.995-0.0410.0571 △i-0.0560.948-0.1240.102 t-0.369-0.2820.836-0.414-0.112
❖ 更有意思的是，这三个变量其实都是可以直接测量的。 斯通将他得到的主成分与实际测量的总收入I、总收入变 化率I以及时间t因素做相关分析，得到下表： F1 F2 F3 i i t F1 1 F2 0 1 F3 0 0 1 i 0.995 -0.041 0.057 l Δi -0.056 0.948 -0.124 -0.102 l t -0.369 -0.282 -0.836 -0.414 -0.112 1
主成分分析:将原来具有相关关系的多个指标简化为少数几个 新的综合指标的多元统计方法。 主成分:由原始指标综合形成的几个新指标。依据主成分所含 息量的大小成为第一主成分,第二主成分等等。 主成分与原始变量之间的关系: (1)主成分保留了原始变量绝大多数信息。 (2)主成分的个数大大少于原始变量的数目。 (3)各个主成分之间互不相关。 (4)每个主成分都是原始变量的线性组合。 2021/11/30
2021/11/30 5 zf 主成分分析：将原来具有相关关系的多个指标简化为少数几个 新的综合指标的多元统计方法。 主成分：由原始指标综合形成的几个新指标。依据主成分所含 信息量的大小成为第一主成分，第二主成分等等。 主成分与原始变量之间的关系： （1）主成分保留了原始变量绝大多数信息。 （2）主成分的个数大大少于原始变量的数目。 （3）各个主成分之间互不相关。 （4）每个主成分都是原始变量的线性组合
5.2数学模型与几何解释一数学模型 令假设我们所讨论的实际问题中,有p个指标,我们把这p 个指标看作p个随机变量,记为X,X,…,X,主成 分分析就是要把这p个指标的问题,转变为讨论p个指标 的线性组合的问题,而这些新的指标F,F2,…, F(kp),按照保留主要信息量的原则充分反映原指标 的信息,并且相互独立。 今这种由讨论多个指标降为少数几个综合指标的过程在数 学上就叫做降维。主成分分析通常的做法是,寻求原指 标的线性组合F。 2021/11/30
2021/11/30 6 zf 5.2 数学模型与几何解释－数学模型 ❖ 假设我们所讨论的实际问题中，有p个指标，我们把这p 个指标看作p个随机变量，记为X1，X2，…，Xp，主成 分分析就是要把这p个指标的问题，转变为讨论p个指标 的线性组合的问题，而这些新的指标F1，F2，…， Fk (k≤p），按照保留主要信息量的原则充分反映原指标 的信息，并且相互独立。 ❖ 这种由讨论多个指标降为少数几个综合指标的过程在数 学上就叫做降维。主成分分析通常的做法是，寻求原指 标的线性组合Fi
原始指标的线性组合F: F X,+L1X,+ X+uX+.tu X F AX Fn=pX1+ln2X2+…+lmXp 今满足如下的条件: 1、每个主成分的系数平方和为1。即 Why? +l2+…+L2=1 2、主成分之间相互独立,即无重叠的信息。即 Cov (E,F=0,itj, i,j=1, 2 P 3、主成分的方差依次递减,重要性依次递减 201amr(F)Var(F2)≥…≥Var(F)
2021/11/30 7 zf 原始指标的线性组合Fi： ❖ 满足如下的条件： 1、每个主成分的系数平方和为1。即 2、主成分之间相互独立，即无重叠的信息。即 3、主成分的方差依次递减，重要性依次递减 p p p p p p p p p p F u X u X u X F u X u X u X F u X u X u X = + + + = + + + = + + + 1 1 2 2 2 2 1 1 2 2 2 2 1 1 1 1 1 2 2 1 1 2 2 2 2 ui1 + ui ++ uip = Cov（Fi，Fj）= 0，i j，i，j =1， 2， ，p ( ) ( ) Var（F1）Var F2 Var F p Why? ? AX X X X u u u u u u u u u F p p pp P p p = = 2 1 1 2 21 22 2 11 12 1
5.2数学模型与几何解释一几何解释 令假设有n个样品,每个样品有两个观测变量x和x2,在由 变量ⅹ和ⅹ2所确定的二维平面中,n个样本点所散布的情 况如椭圆状。如图所示 F F 68 X 2021/11/30 平移、旋转标轴 8
2021/11/30 8 zf ❖ 假设有n个样品，每个样品有两个观测变量xl和x2，在由 变量xl和x2 所确定的二维平面中，n个样本点所散布的情 况如椭圆状。如图所示： 5.2 数学模型与几何解释－几何解释 • F2 • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • F1 1 x 2 x 平移、旋转坐标轴
令由图可以看出这n个样本点无论是沿着x轴方向或x2轴 方向都具有较大的离散性,其离散的程度可以分别用观 测变量ⅹ的方差和ⅹ2的方差定量地表示。显然,如果只 考虑x和x2中的任何一个,那么包含在原始数据中的经 济信息将会有较大的损失。 令如果我们将ⅹ轴和x2轴先平移,再同时按逆时针方向旋 转角度,得到新坐标轴F和F2°F1和F2是两个新变量 F1轴方向上的离散程度最大,即F的方差最大。说明变量F代表了原始 数据的绝大部分信息,即使不考虑变量F2也无损大局
2021/11/30 9 zf ❖ 由图可以看出这n个样本点无论是沿着xl 轴方向或x2轴 方向都具有较大的离散性，其离散的程度可以分别用观 测变量xl 的方差和x2 的方差定量地表示。显然，如果只 考虑xl和x2 中的任何一个，那么包含在原始数据中的经 济信息将会有较大的损失。 ❖ 如果我们将xl 轴和x2轴先平移，再同时按逆时针方向旋 转角度，得到新坐标轴Fl和F2。Fl和F2是两个新变量。 Fl轴方向上的离散程度最大，即Fl的方差最大。说明变量Fl代表了原始 数据的绝大部分信息，即使不考虑变量F2也无损大局
平移、旅转坐标轴 X F 2021/11/30 10
2021/11/30 10 zf • 2 x 1 x F1 F2 • • •• • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 平移、旋转坐标轴