第五讲多项式回归与正交多项式 POLYNOMIAL REGRESSION AND ORTHOGONAL POLYNOMIAL 基本知识 、含义:利用多项式(y=b+bx+b2x2+…+bnx)研究变量间非线性回归关系的统计分析方 法。 、适宜资料:变量间呈非线性(曲线)变化关系,而又无已知曲线类型相配合的资料(如果有已知 曲线类型能配合的资料,则可转化为线性分析)。 三、分析目的:通过建立多项式回归方程,分析变量间的曲线关系和规律,以利预测和控制,并估计 出曲线回归方程中的一些重要参数,如回归系数、极大值、极小值、渐近值等,它们往往在专业上有重要 意义。 四、分析思路:把自变量x的不同次方看成新的变量,既把x的p次方看成p元(p个新变量)的线 性回归,然后再按多元线性回归进行分析 五、分析方法:(见后)首先是介绍非线性回归分析的两种分析方法,一是可直线化的非线性回归分 析,二是多项式的非线性回归分析。 变量间的关系并不都是如前三讲所设定的线性关系,而有时是非线性的关系。对于非线性变量间的回 归分析,人们通常经过某种线性处理,将非线性性回归转化为线性回归,即在选用适当函数类型进行拟合 时,进行适当的变量变换,把曲线方程转化为直线方程。但是也不是所有的曲线都能找到适当的函数类型 进行拟合。这时可采用多项式逼近。所以,在许多比较复杂的实际问题中,可以不问自变量和依变量的关 系如何,采用多项式回归进行分析。然而,多项式回归分析也存在不足之处。首先是,当自变量的个数较 多时计算将十分繁杂:其次,如同多元线性回归一样,偏回归系数之间存在相关性,当剔除一个自变量后, 必须重新计算偏回归系数。为此,人们研究了各种简化计算和消去偏回归系数间相关性的办法。而最为常 用的是正交多项式的分析方法。在介绍该方法之前先要了解多项式回归的分析方法。 第一节可直线化的非线性回归分析 可直线化的非线性回归分析的含义 即把符合某些特定曲线类型的资料数据利用数学方法转化为直线型数据,再利用线性回归分析配合直 线方程,然后再反转成曲线回归方程。 二、确定配合特定曲线类型的方法 如何选定与相应资料相配合的特定曲线类型,是可直线化的非线性回归分析的关键。通常有二种方法。 1、图示法:根据所获得资料的自然尺度绘制散点图,然后按照散点趋势画出能够反映它们之间变化规 律的曲线,并与已知的曲线相比较找出与之较为相似的曲线图形,该曲线即为选定的曲线类型 2、直线化法:根据散点图进行直观比较,选出一种曲线类型,将曲线方程直线化,并将原始数据进行 转换,用转换后的数据绘制散点图,若该图形为直线趋势,表明选取的曲线类型是恰当的,否则将重新选 3、常用的可用于直线化法的曲线类型:指数曲线、对数曲线、幂函数曲线、双曲函数曲线、s型曲线 等,具体直线化方法可参考有关统计专著。29 第五讲 多项式回归与正交多项式 POLYNOMIAL REGRESSION AND ORTHOGONAL POLYNOMIAL 基本知识 一、含义：利用多项式（ p p y = b + b x + b x ++ b x 2 0 1 2 ˆ ）研究变量间非线性回归关系的统计分析方 法。 二、适宜资料：变量间呈非线性（曲线）变化关系，而又无已知曲线类型相配合的资料（如果有已知 曲线类型能配合的资料，则可转化为线性分析）。 三、分析目的：通过建立多项式回归方程，分析变量间的曲线关系和规律，以利预测和控制，并估计 出曲线回归方程中的一些重要参数，如回归系数、极大值、极小值、渐近值等，它们往往在专业上有重要 意义。 四、分析思路：把自变量 x 的不同次方看成新的变量，既把 x 的 p 次方看成 p 元（p 个新变量）的线 性回归，然后再按多元线性回归进行分析。 五、分析方法：（见后）首先是介绍非线性回归分析的两种分析方法，一是可直线化的非线性回归分 析，二是多项式的非线性回归分析。 变量间的关系并不都是如前三讲所设定的线性关系，而有时是非线性的关系。对于非线性变量间的回 归分析，人们通常经过某种线性处理，将非线性性回归转化为线性回归，即在选用适当函数类型进行拟合 时，进行适当的变量变换，把曲线方程转化为直线方程。但是也不是所有的曲线都能找到适当的函数类型 进行拟合。这时可采用多项式逼近。所以，在许多比较复杂的实际问题中，可以不问自变量和依变量的关 系如何，采用多项式回归进行分析。然而，多项式回归分析也存在不足之处。首先是，当自变量的个数较 多时 计算将十分繁杂；其次，如同多元线性回归一样，偏回归系数之间存在相关性，当剔除一个自变量后， 必须重新计算偏回归系数。为此，人们研究了各种简化计算和消去偏回归系数间相关性的办法。而最为常 用的是正交多项式的分析方法。在介绍该方法之前先要了解多项式回归的分析方法。 第一节 可直线化的非线性回归分析 一、可直线化的非线性回归分析的含义 即把符合某些特定曲线类型的资料数据利用数学方法转化为直线型数据，再利用线性回归分析配合直 线方程，然后再反转成曲线回归方程。 二、确定配合特定曲线类型的方法 如何选定与相应资料相配合的特定曲线类型，是可直线化的非线性回归分析的关键。通常有二种方法。 1、图示法：根据所获得资料的自然尺度绘制散点图，然后按照散点趋势画出能够反映它们之间变化规 律的曲线，并与已知的曲线相比较找出与之较为相似的曲线图形，该曲线即为选定的曲线类型。 2、直线化法：根据散点图进行直观比较，选出一种曲线类型，将曲线方程直线化，并将原始数据进行 转换，用转换后的数据绘制散点图，若该图形为直线趋势，表明选取的曲线类型是恰当的，否则将重新选 取。 3、常用的可用于直线化法的曲线类型：指数曲线、对数曲线、幂函数曲线、双曲函数曲线、s 型曲线 等，具体直线化方法可参考有关统计专著