一、普通最小二乘估计 二、最大或然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例

01 经典线性回归模型 02 普通最小二乘估计 03 拟合优度和模型选择准则 04 OLS估计量的无偏性和有效性 05 参数假设检验 06 应用与重要实例

要点：掌握一元线性回归模型中的基本假设、检验方法。 重点掌握一元线性回归模型的约束条件；正态性检验方法。 理解单侧和双侧假设检验

9.1 设真实模型为无截距模型： Y X u i i = + 2 2 回归分析中却要求截距项不能为零，于是，有人采用的实证分析回归模型为：

线性回归 ●最小二乘法 ●梯度下降 二分类任务 ●对数几率回归-Logistic Regression ●线性判别分析-Linear Discriminate Analysis 多分类任务 ●一对一 ●一对其余 ●多对多 类别不平衡问题

8.1 面板二值选择模型 8.2 面板二值选择模型的随机效应估计 8.3 面板二值选择模型的固定效应估计 8.4 面板二值选择模型的Stata实例 8.5 面板泊松回归 8.6 面板负二项回归 8.7 面板计数模型的Stata实例 8.8 面板Tobit 8.9 面板随机前沿模型（选读）

针对焊缝缺陷磁记忆检测中存在定量化反演难题,建立了基于改进的支持向量回归机定量反演模型.以预制不同尺寸未焊透和夹渣缺陷的Q235焊接试样为试验材料,进行磁记忆扫描检测发现:缺陷位置的磁记忆信号特征参数随尺寸变化而呈现一定的变化规律,但同时存在分散性和不确定性.鉴于磁记忆信号样本的有限性、分散性和非线性,首先将提取到的磁记忆特征参数进行归一化处理,引入支持向量回归机建立焊缝缺陷磁记忆定量反演模型,并进一步利用模拟退火算法对支持向量回归机参数进行优化,使目标函数达到全局最优而非局部最优.最后,考虑到由磁记忆信号逆向反推缺陷的三维尺寸,存在解的不确定性,为此在缺陷单维尺寸反演模型的基础上,通过构建多层结构的支持向量回归机进行多尺寸反演输出,建立了基于模拟退火支持向量回归机的焊缝缺陷磁记忆定量反演模型,结果表明:未焊透缺陷尺寸反演最大相对误差为7.96%,夹渣缺陷为4.97%,为焊缝缺陷的磁记忆反演与定量化评价提供一种新的思路

线性回归 回顾: 线性模型:y=Xβ+E y-N(XB, o-1) 最小二乘法:B=(XXXy y=y=X的拟合值户=X(XX)Xy=Hy e=误差=残差=y-y=yy(H)y

使用与自组织神经网聚类相结合的支持向量回归机预测模型对矿体体素品位进行插值,并与多边形法、距离幂次反比法、克里格法进行对比验证.结果表明,该预测模型进行品位插值具备很好的可行性和可靠性

由于虚假回归问题的存在，在回归模型中应避免直接使用不存在协积关系的非平稳变 量。因此检验变量的平稳性是一个必须解决的问题。在第二章中介绍用相关图判断时间序列 的平稳性。这一章则给出序列平稳性的严格的统计检验方法，即单位根检验。 在介绍单位根检验之前，先认识四种典型的非平稳随机过程