大学数学科学丛书3线性模型引论王松桂史建红编著尹素菊吴密霞斜学出版社北京
内容简介本书系统阐述线性模型的基本理论、方法及其应用，其中包括理论与应用的近期发展，全书共分九章，第一章通过实例引进各种线性模型，第一章讨论矩阵论方面的补充知识，第三章讨论多元正态及有关分布。从第四章起，系统讨论线性模型统计推断的基本理论与方法，包括：最小二乘估计、假设检验、置信区域、预测、线性回归模型、方差分析模型、协方差分析模型和线性混合效应模型本书可作为高等院校数学科学系、数理统计或统计系、生物统计系，计量经济系等有关学科的高年级本科生、硕士生或博士生的学位课或选修课教材，以及数学、生物、医学、工程、经济、金融等领域的教师或科技工作者的参考书图书在版编目（CIP）数据线性模型引论/王松桂等编著。一北京：科学出版社，2004（大学数学科学丛书：3）ISBN 703-012772-2I线I.王..ⅢI.线性模型-教材V.0212中国版本图书馆CIP数据核字（2004）第005441号责任编辑：吕虹／责任校对：钟：洋责任印制：钱玉芬/封面设计：王：浩斜学出版社出版北京东黄城根北街16号邮政编码：100717http://ww.sciencep.com中国科学院印刷厂印刷科学出版社发行各地新华书店经销*2004年5月第一版开本：B5(720×1000)2005年7月第二次印刷印张：191/4印数：3501—5500字数：350000定价：35.00元（如有印装质量问题，我社负责调换《环伟））
内 容 简 介 本书系统阐述线性模型的基本理论、方法及其应用, 其中包括理论与 应用的近期发展. 全书共分九章. 第一章通过实例引进各种线性模型. 第二 章讨论矩阵论方面的补充知识. 第三章讨论多元正态及有关分布. 从第四 章起, 系统讨论线性模型统计推断的基本理论与方法, 包括: 最小二乘估 计、假设检验、置信区域、预测、线性回归模型、方差分析模型、协方差 分析模型和线性混合效应模型. 本书可作为高等院校数学科学系、数理统计或统计系、生物统计系,计 量经济系等有关学科的高年级本科生、硕士生或博士生的学位课或选修课 教材, 以及数学、生物、医学、工程、经济、金融等领域的教师或科技工 作者的参考书. 图书在版编目（CIP）数据 线性模型引论/王松桂等编著. —北京: 科学出版社, 2004 (大学数学科学丛书; ３) ISBN 7-03-012772-2 Ⅰ.线. Ⅱ.王. Ⅲ.线性模型-教材 Ⅳ.O212 中国版本图书馆 CIP 数据核字（2004）第 005441 号 责任编辑: 吕 虹／责任校对: 钟 洋 责任印制: 钱玉芬／封面设计: 王 浩 出版 北京东黄城根北街 16 号 邮政编码：100717 http://www.sciencep.com 中国科学院印刷厂印刷 科学出版社发行 各地新华书店经销 * 2004 年 5 月第 一 版 开本: B5(720×1000) 2005 年 7 月第二次印刷 印张: 19 1/4 印数: 3501—5 500 字数: 350 000 定价：35.00 元 (如有印装质量问题, 我社负责调换〈环伟〉)
《大学数学科学丛书》编委会（以姓氏笔画为序）顾问：王元谷超豪姜伯驹主编：李大潜冯克勤张继平袁亚湘副主编：龙以明尹景学叶其孝编委：王维克叶向东李安民李克正吴宗敏吴喜之张平文范更华郑学安姜礼尚徐宗本彭实戈
!" #$ %&'(&)* +,-./ #01 2'3456
第一作者简介王松桂，北京工业大学教授、博王生导师：1965年毕业于中国科技大学并留校执教，曾任数学系副主任.1993年调入北京工业大学，曾任应用数学系主任和应用数理学院院长：长期从事线性模型和多元统计分析等方面的科学研究.曾先后应邀赴美国、加拿大、日本、瑞典、瑞士、芬兰、波兰等国家和中国香港地区的20余所大学讲学和合作研究.曾获得第三世界科学院研究基金、瑞王国家基金和芬兰科学院研究基金：曾任中国数学会理事、中国概率统计会常务理事、现任中国工业与应用数学会常务理事、美国统计刊物JournalofStatisticalPlanningandInferences”副主编以及美国“MathematicsReview"特约评论员：曾获中国科学院重大科技成果二等奖和两项北京市科技进步二等奖，所著教材《概率论与数理统计》获教育部优秀教材二等奖在《中国科学》、《科学通报》、《数学学报》、《数学进展》、美国"LinearAlgebraandItsApplications"、"AnnalsofStatistics"“JournalofMultivariateAnalysis"等国内外刊物发表论文1oo余篇出版的学术专著有“AdvancedLinearModels”（英文版，美国MarcelDekker公司出版，1994）、《线性模型的理论及其应用》、《近代回归分析》、《实用多元统计分析》、《矩阵论中的不等式》、《广义逆矩阵及其应用》、《线性统计模型》、《概率论与数理统计》等9部
!" #$% &'( $) *+ #$,-% &($ .,-%/ 00112345678.9:;?@AB CD #EF,GHI JK LM NO N PQ RQ? S. TUVWB XY Z[ \ .]^CD# _`abcd 0CDef N Sef.PQ 0CDe f#$ % g/4 hi;?@A B CDD E F GHIJK&L“ut}w{tuswqv|”MNBH$ us}vws OPGH$Q8)RSTUI. VWX18)Y Z[\]^18)_X`a/0]^18)bc Ide18)fg hbcVWX18)RS/0TU18)*+ ,-./01 3i6
《大学数学科学丛书》序按照恩格斯的说法，数学是研究现实世界中数量关系和空间形式的科学.从恩格斯那时到现在，尽管数学的内涵已经大大拓展了，人们对现实世界中的数量关系和空间形式的认识和理解已今非昔比，数学科学已构成包括纯粹数学及应用数学内含的众多分支学科和许多新兴交学科的庞大的科学体系，但恩格斯的这一说法仍然是对数学的一个中肯而又相对来说易于为公众了解和接受的概括，科学地反映了数学这一学科的内涵，正由手忽略了物质的具体型态和属性、纯粹从数量关系和空间形式的角度来研究现实世界，数学表现出高度抽象性和应用广泛性的特点，具有特殊的公共基础地位，其重要性得到普遍的认同整个数学的发展史是和人类物质文明和精神文明的发展史交融在一起的作为一种先进的文化，数学不仅在人类文明的进程中一直起着积极的推动作用而且是人类文明的一个重要的支柱数学教育对于启迪心智、增进素质、提高全人类文明程度的必要性和重要性已得到空前普遍的重视，数学教育本质是一种素质教育：学习数学，不仅要学到许多重要的数学概念、方法和结论，更要着重领会到数学的精神实质和思想方法.在大学学习高等数学的阶段，更应该自觉地去意识并努力体现这一点作为面向大学本科生和研究生以及有关教师的教材，教学参考书或课外读物的系列，本丛书将努力贯彻加强基础、面向前沿、突出思想、关注应用和方便阅读的原则，力求为各专业的大学本科生或研究生（包括硕士生及博士生）走近数学科学、理解数学科学以及应用数学科学提供必要的指引和有力的帮助并欢迎其中相当一些能被广大学校选用为教材，相信并希望在各方面的支持及帮助下，本丛书将会愈出愈好李大潜2003年12月27日
, . , !" #$%&''()*, +,- ./01%2345, %6789:; #?@ABC DAEFGH I' J, K LMNO - MPQRST-UVWXY@*1Z[ \9, ]^_* LM #$. `aWbc*defJghi jk:; lmU , nopmqr j=>stjuv, fwuxYyz{]|, }~j .. P ) +de )G M. XM, +M>, R +MP~C. -W ¡¢£k¤¥ek¦p §+m¨j~j% ©~ª. «e M ¥e¬ , DA~ \®k¯°±, ² ~³´ eµ¶¯. ' p· ¸¹, ²=º» ¼]½¾/¿ÀÁJLMv. XÂÃ' «Ä Äů ÙÚÎÛÜ, ÁÝXÞßà' «ÄË Äá89âãÄ ¦è¨éêwÁëì, ¿íî}TïMðñòs' óô>XÇ, Tõ¿ö÷ Þ¯ÂCø< ëìù, «ÐÊÑ´úoúû. 2003 12 27
前言线性模型是现代统计学中理论丰富、应用广泛的一个重要分支，随高速电子计算机的日益普及在生物、医学、经济、管理、农业、工业、工程技术等领域的应用获得长足发展，因此，在国内外很多高等院校已将线性模型列入数学科学系、数理统计系或统计系、生物统计系、计量经济系等高年级本科生、硕士生或博士生的学位课或选修课，本书是为适应上述需要而编写的教材或教学参考书全书共分九章，第一章通过实例引进各种线性模型，使读者对模型的丰富实际背景有一些了解，这将有助于对后面引进的统计概念和方法的理解，第二章讨论矩阵论方面的补充知识．第三章讨论多元正态及有关分布，从第四章起系统讨论线性模型统计推断的基本理论与方法.本书的第一作者先后在中国科学技术大学、北京工业大学、复旦大学、安徽大学、云南大学等国内院校以及芬兰的坦佩雷大学和美国的科罗拉多州立大学讲授过本书的部分内容借本书出版之际，我们要向我们的老师陈希院士表示衷心的感谢，感谢他对我们多年来的研究给予的热情鼓励和指导本书的出版得到科学出版社和吕虹先生的支持和关心，樊亚莉小姐为本书部分章节打字，另外，本书的写作得到国家自然科学基金和北京市自然科学基金资助，编者愿借此机会向他们表示诚挚的谢意本书由王松桂等编著.第一至四章由王松桂执笔，第五、六章由史建红执笔，第七、八章由尹素菊执笔，第九章由密霞执笔，最后由王松桂统一修改定稿，由于编者水平所限，书中错误或不当之处在所难免，愿请国内同行及广大读者不各赐教编者2003年6月30日
ýjþg 0±k=>stMP~BC, p ). , #ÍAp· ó%ÑýjþgÏ k 0ËkÄdk&·p «Äk âãÄËäãÄ |ÌËô Ì. «Ê X!="#$R%&ÇË ÈÉÊ. §ÊyB'(. )M(*+,êÞýjþg, -Î.-þg /01wMð*1, LÑwìW-2Âê\®¯01. )3 (4±56±¯Â789/. ):(4±A;`hz«0±?¯. «Ê)M.2 ' k@Aà' kBC' kDE' kFG' ·# óÅ< HIJKL' MNOAPQ' RS+«ÊTB#U. V«ÊoWX/, Y,ÃY,ZÆ[ö\ ãn]^¢_`, _` a-Y,A U bcdefgéh. «ÊoW oWijkÄCø¢, lmnopX«Ê TB(qrs, tÍ, «Ê& u»O zv@Aw»O z vxì, %.yV ´Ãa,n]z{`¾. «Êa|}~·%. )M=(a|}~, )k(a , )k(a¥, )'(a, 2a|}~M . aW%., ÊËïX , #<s' Î.. 2003 6 30
符号表4I“定义为”或“记为”A≥0A为对称半正定方阵A>0A为对称正定方阵A≥BA≥0,B≥0且A-B≥0A-矩阵A的广义逆A+矩阵A的Moore-Penrose广义逆Al满足A'A=0且具有最大秩的矩阵rk(A)矩阵A的秩1A|矩阵A的行列式IIA II矩阵A的范数tr(A)方阵A的迹入;(A)A的第i个顺序特征根M(A)矩阵A的列向量张成的子空间PA向M(A）的正交投影变换阵分量皆为1的列向量①1* = (1,-*,1)Vec(A)将A的列向量依次排成的列向量A&BA与B的Kronecher乘积E(X)随机变量或向量X的均值Var(X)随机变量X的方差Cov(X,Y)随机变量或向量X,Y的协方差u~ (μ,E)均值为，协方差阵为的随机向量u~ Np(μ,)均值为μ，协方差阵为Z的P维正态向量LS估计最小二乘估计BLU估计最佳线性无偏估计MVU估计最小方差无偏估计MINQUE最小范数二次无偏估计RSS回归平方和SSe残差平方和MSE均方误差MSEM均方误差矩阵GMSE广义均方误差①在不致引起混淆的情况下，本书向量除分量为1的向量1用黑体表示外，其余均用白体英文小写字母表示，如a,b
✁ ✂ 4 = ✄✆☎✞✝✞✟✞✠☛✡☞✄✆✌✞✟✞✠ A ≥ 0 A ✟✞✍✞✎✞✏✞✑✞☎✞✒✞✓ A > 0 A ✟✞✍✞✎✞✑✞☎✞✒✞✓ A ≥ B A ≥ 0, B ≥ 0 ✔ A − B ≥ 0 A − ✕✓ A ✖✞✗✞✝✞✘ A + ✕✓ A ✖ Moore-Penrose ✗✞✝✞✘ A ⊥ ✙✞✚ A 0A ⊥ = 0 ✔✞✛✞✜✞✢✞✣✞✤✞✖✕✓ rk(A) ✕✓ A ✖✞✤ | A | ✕✓ A ✖✞✥✞✦✞✧ k A k ✕✓ A ✖✞★✞✩ tr(A) ✒✞✓ A ✖✞✪ λi(A) A ✖✞✫ i ✬✞✭✞✮✞✯✞✰✞✱ M(A) ✕✓ A ✖✞✦✳✲✵✴✞✶✞✷✞✖✞✸✞✹✻✺ PA ✲ M(A) ✖✞✑✞✼✞✽✞✾✞✿✞❀✞✓ 1 0 = (1, · · · , 1) ❁✞✴✳❂✵✟ 1 ✖✞✦✳✲✵✴ 1 Vec(A) ❃ A ✖✞✦✳✲✵✴✞❄✞❅✞❆✞✷✞✖✻✦❇✲❈✴ A ⊗ B A ❉ B ✖ Kronecher ❊✞❋ E(X) ●✞❍✞✿✞✴✞✡✳✲✵✴ X ✖✞■✞❏ Var(X) ●✞❍✞✿✞✴ X ✖✞✒✞❑ Cov(X, Y ) ●✞❍✞✿✞✴✞✡✳✲✵✴ X, Y ✖✞▲✞✒✞❑ u ∼ (µ, Σ) ■✞❏✞✟ µ, ▲✞✒✞❑✞✓✞✟ Σ ✖✞●✞❍✳✲✵✴ u ∼ Np(µ, Σ) ■✞❏✞✟ µ, ▲✞✒✞❑✞✓✞✟ Σ ✖ p ▼✞✑✞◆✳✲✵✴ LS ❖✞P ✢✞◗✞❘✞❊✞❖✞P BLU ❖✞P ✢✞❙✞❚✞❯✞❱✞❲✞❖✞P MVU ❖✞P ✢✞◗✞✒✞❑✞❱✞❲✞❖✞P MINQUE ✢✞◗✞★✞✩✞❘✞❅✞❱✞❲✻❖✻P RSS ❳✵❨✞❩✞✒✞❬ SSe ❭❑✞❩✞✒✞❬ MSE ■✞✒✞❪✞❑ MSEM ■✞✒✞❪✞❑✕✓ GMSE ✗✞✝✞■✞✒✞❪✞❑ 1 ❫✞❴✞❵✞❛✞❜✞❝✞❞✞✖✞❡✻❢✞❣✻❤❥✐✻❦✳✲❈✴✻❧✻❁✞✴✻✟ 1 ✖✳✲✵✴ 1 ♠✞♥✞♦✞♣✞q✞r✞❤ts✞✉✻■✻♠❇✈✵♦ ✇✞①◗☛②✞③✞④✞♣✞q✞❤⑥⑤ a, b, · · ·
目录第一章模型概论线性回归模型·$1.17$1.2方差分析模型协方差分析模型11$1.3$1.4混合效应模型.12习题15第二章17矩阵论的预备知识线性空间17$2.120$2.2广义逆矩阵28$2.3幂等方阵33$2.4特征值的极值性质与不等式偏序37$2.541Kronecker乘积与向量化运算$2.6矩阵微商·43$2.7习题51第三章多元正态分布55$3.1均值向量与协方差阵·55随机向量的二次型5683.2正态随机向量60$3.3$3.4正态变量的二次型6873正态变量的二次型与线性型的独立性$3.5习题76第四章参数估计7878$4.1最小二乘估计约束最小二乘估计85$4.2
目 录 第一章 模型概论. 1 §1.1 线性回归模型. 1 §1.2 方差分析模型. 7 §1.3 协方差分析模型. 11 §1.4 混合效应模型. 12 习题一 . 15 第二章 矩阵论的预备知识. 17 §2.1 线性空间. 17 §2.2 广义逆矩阵. 20 §2.3 幂等方阵. 28 §2.4 特征值的极值性质与不等式. 33 §2.5 偏序 . 37 §2.6 Kronecker 乘积与向量化运算. 41 §2.7 矩阵微商. 43 习题二 . 51 第三章 多元正态分布. 55 §3.1 均值向量与协方差阵. 55 §3.2 随机向量的二次型. 56 §3.3 正态随机向量. 60 §3.4 正态变量的二次型. 68 §3.5 正态变量的二次型与线性型的独立性 . 73 习题三 . 76 第四章 参数估计. 78 §4.1 最小二乘估计. 78 §4.2 约束最小二乘估计. 85
目录.vili.广义最小二乘估计88$4.3最小二乘统一理论92$4.499LS估计的稳健性$4.5$4.6两步估计103108$4.7协方差改进法$4.8多元线性模型：111习题四.118第五章假设检验及其它121$5.1线性假设的检验· 121129$5.2置信椭球和同时置信区间·预测$5.3132139$5.4最优设计习题五144第六章线性回归模型147最小二乘估计$6.1:147.. 150$6.2回归方程和系数的检验·...回归自变量的选择· 155$6.3回归诊断: 164$6.4Box-Cox变换175$6.5均方误差及复共线性，178$6.6有偏估计183$6.7习题六194第七章方差分析模型198单向分类模型.198$7.1208$7.2两向分类模型（无交互效应）216两向分类模型（交互效应存在)$7.3套分类模型225$7.4232$7.5误差方差齐性及正态性检验
·viii· 目 录 §4.3 广义最小二乘估计. 88 §4.4 最小二乘统一理论. 92 §4.5 LS 估计的稳健性. 99 §4.6 两步估计. 103 §4.7 协方差改进法. 108 §4.8 多元线性模型. 111 习题四 . 118 第五章 假设检验及其它 . 121 §5.1 线性假设的检验. 121 §5.2 置信椭球和同时置信区间. 129 §5.3 预测. 132 §5.4 最优设计. 139 习题五 . 144 第六章 线性回归模型. 147 §6.1 最小二乘估计. 147 §6.2 回归方程和系数的检验. 150 §6.3 回归自变量的选择. 155 §6.4 回归诊断. 164 §6.5 Box-Cox 变换 . 175 §6.6 均方误差及复共线性. 178 §6.7 有偏估计. 183 习题六 . 194 第七章 方差分析模型. 198 §7.1 单向分类模型. 198 §7.2 两向分类模型(无交互效应). 208 §7.3 两向分类模型(交互效应存在). 216 §7.4 套分类模型. 225 §7.5 误差方差齐性及正态性检验. 232
目录.ix.习题七238第八章协方差分析模型: 241 241$8.1般分块线性模型$8.2参数估计245假设检验247$8.3250$8.4计算方法习题八254第九章混合效应模型256.$9.1固定效应的估计 256随机效应的预测259$9.2260$9.3混合模型方程方差分析估计：262$9.4$9.5极大似然估计268273$9.6限制极大似然估计277$9.7最小范数二次无偏估计..283$9.8方差分量的检验习题九285-参考文献288
目 录 ·ix· 习题七 . 238 第八章 协方差分析模型 . 241 §8.1 一般分块线性模型. 241 §8.2 参数估计. 245 §8.3 假设检验. 247 §8.4 计算方法. 250 习题八 . 254 第九章 混合效应模型. 256 §9.1 固定效应的估计. 256 §9.2 随机效应的预测. 259 §9.3 混合模型方程. 260 §9.4 方差分析估计. 262 §9.5 极大似然估计. 268 §9.6 限制极大似然估计. 273 §9.7 最小范数二次无偏估计. 277 §9.8 方差分量的检验. 283 习题九 . 285 参考文献. 288