4 奇异值分解 4.1 奇异值，奇异向量和奇异值分解 4.2 奇异值基本性质 4.3 奇异值更多性质 ∗ 5 线性最小二乘问题的求解方法 5.1 正规方程法 5.2 QR 分解法 5.3 奇异值分解法 6 最小二乘问题的推广及其应用 ∗ 6.1 正则化与加权正则化 6.2 约束最小二乘 6.3 多项式数据拟合 6.4 线性预测 6.5 信号恢复 6.6 SVD：图像压缩 — 截断 SVD 6.7 SVD：图像配准 Rigid Alignment / Shape Registration

提出了一种基于对偶优化的核最小二乘(KPLS)方法,把KPLS用最小二乘支持向量机的形式表示.推导了KPLS对偶优化形式的公式,且使其具有最小二乘支持向量机的风格.在初始空间中构造优化问题,应用核技术在特征空间中解对偶问题,这种解与非线性的KPLS具有相似性.实验验证了这种方法的效果,表明了该方法的有效性和优越性

提出了基于偏最小二乘回归模型的带钢热镀锌质量监控方法.以带钢热镀锌生产中带钢力学性能和锌层质量的质量监控为研究对象,用偏最小二乘方法建立了生产过程参数与质量结果之间的回归模型,对生产过程控制能力进行了分析,并给出了产品质量的预测方法.用鞍钢股份有限公司带钢热镀锌的实际生产数据进行验证.结果表明,偏最小二乘法比传统的多元线性回归方法具有更好的预测精度,基于偏最小二乘回归的锌层质量预测模型,其相对预测误差可达到5.93%

第一节 参数的最小二乘估计 第二节 单因素方差分析的最小二乘估计 第三节 二因素方差分析(不考虑交互作用)的最小二乘估计 第四节 二因素方差分析(有交互作用时)的最小二乘估计

第一节参数的最小二乘估计 第二节单因素方差分析的最小二乘估计 第三节二因素方差分析(不考虑交互作用)的最小二乘估计 第四节二因素方差分析(有交互作用时)的最小二乘估计

第13章基本回归模型----概述了 EViews中的普通最小二乘估计(OLS) 基础。 第14章其他回归方法--讨论加权最小二乘估计(WLS),二阶段最小二乘 估计(TSLS),和非线性最小二乘估计(NLS)技术

针对高炉炼铁过程的关键工艺指标——铁水硅含量[Si]难以直接在线检测且化验过程滞后的问题,提出一种基于稀疏化鲁棒最小二乘支持向量机(R-S-LS-SVR)与多目标遗传参数优化的铁水[Si]动态软测量建模方法.首先,针对标准最小二乘支持向量机(LS-SVR)的拉格朗日乘子与误差项成正比导致最终解缺少稀疏性的问题,提取样本数据在特征空间映射集的极大无关组来实现训练样本集的稀疏化,降低建模的计算复杂度;其次,标准最小二乘支持向量机的目标函数鲁棒性不足的问题将IGGⅢ加权函数引入稀疏化后的最小二乘支持向量机模型进行鲁棒性改进,得到鲁棒性较强的稀疏化鲁棒最小二乘支持向量机模型;最后,针对常规均方根误差评价模型性能的不足,提出从建模误差与估计趋势评价建模性能的多目标评价指标.在此基础上,利用非支配排序的带有精英策略的多目标遗传算法优化模型参数,从而获得具有最优参数的铁水[Si]在线软测量模型.工业实验及比较分析验证了所提方法的有效性和先进性

探讨了最小二乘支持向量机时间序列预测的方法,提出了用核主成分分析提取主元,然后用最小二乘支持向量机进行预测．通过实验表明,这种方法得到的效果优于没有特征提取的预测．同时与主成分分析提取特征相比,用核主成分分析效果更好．

本章讨论加权最小二乘估计，异方差性和自相关一致协方差估计，两阶段最小二乘估计（TSLS），非线性最小二乘估计和广义矩估计（GMM）。这里的大多数方法在“联立方程系统”一章中也适用

针对高炉故障诊断系统快速性和准确性的要求，提出基于全局优化最小二乘支持向量机的策略.首先，采用变尺度离散粒子群对最小二乘支持向量机的参数和故障特征的选取进行优化；然后，利用核主元分析法对选取的特征向量进行压缩整理；最后，构造了以Fisher线性判别率为标准的启发式纠错输出编码.仿真结果表明，通过对故障训练样本有意义地分割重组，用较少的最小二乘支持向量机分类器，得到较高的故障判断准确率且增强了整个系统的实时性