工程硕士研究生教材 工程数学 （上册) (数值分析与矩阵论) 同济大学应用数学系编著 同济大学出版社
工程硕士研究生教材 〈上册) (数值分析与矩阵论) 同济大学应用数学系编著 同济大学出版社
前 言 培养工程硕士研究生是为适应我国经济建设中对应用型、复合型高层次工程技 术和工程管理人才的需要所采取的一项重要举措.“工程数学”课程是工程硕土研究 生培养中一门重要的基础课，它适应不同专业、不同学习内容的要求，以及在较少的 学时内掌握其所学专业必须具备的数学基础这一实际情况，编写一本可以根据各专 业实际情况进行教学的教材是十分必要的. 我们自1998年开始为工程硕士研究生讲授工程数学课程，针对实际情况编写了 《工程数学》讲义，该讲义已经在工程硕士研究生工程数学课程的教学中多次使用 根据近四年的使用情况，我们对原讲义进行了修改，形成了这本《工程数学》教材. 《工程数学》全书分上、下两册，上册由数值分析和矩阵论两部分组成；下册由数 理统计和随机过程两部分组成， 本书为上册，数值分析部分内容由解线性代数方程组的直接法和迭代法、矩阵 特征值和特征向量的计算、非线性方程的数值解法、插值与逼近、数值积分、常微分方 程初值问题的数值解法等基本内容组成.矩阵部分内容由矩阵基础知识、线性空间与 内积空间、线性变换、矩阵的标准型、矩阵函数、广义逆等基本内容组成.书中内容力 求精简，系统性强，循序渐进，易于教学 数值分析部分的第1章至第4章由黄自萍编写，第5章至第8章由沈剑华编写， 吴雄华完成了矩阵论部分的编写。 本书在出版过程中，得到同济大学应用数学系领导和教师的大力支持，同济大学 研究生院给予大力帮助，特此表示感谢， 由于编者水平有限，错误和不妥之处在所难免，恳请读者指正， 编者 2002年1月于同济大学
培养工程硕士研究生是为适应我国经济建设中对应用型、复合型高层次工程技 术和工程管理人才的需要所采取的一项重要举措."工程数学"课程是工程硕士研究 生培养中一门重要的基础课，它适应不同专业、不同学习内容的要求，以及在较少的 学时内掌握其所学专业必须具备的数学基础这一实际情况，编写一本可以根据各专 业实际情况进行教学的教材是十分必要的. 我们自 1 9 8年开始为工程硕士研究生讲授工程数学课程，针对实际情况编写了 《工程数学》讲义，该讲义已经在工程硕士研究生工程数学课程的教学中多次使用. 根据近四年的使用情况，我们对原讲义进行了修改，形成了这本《工程数学》教材. 《工程数学》全书分上、下两册，上册由数值分析和矩阵论两部分组成;下册由数 理统计和随机过程两部分组成. 本书为上册.数值分析部分内容由解线性代数方程组的直接法和迭代法、矩阵 特征值和特征向量的计算、非线性方程的数值解法、插值与逼近、数值积分、常微分方 程初值问题的数值解法等基本内容组成.矩阵部分内容由矩阵基础知识、线性空间与 内积空间、线性变换、矩阵的标准型、矩阵函数、广义逆等基本内容组成.书中内容力 求精简，系统性强，循序渐进，易于教学. 数值分析部分的第 1章至第 4章由黄自萍编写，第 5章至第 8章由沈剑华编写， 吴雄华完成了矩阵论部分的编写。 本书在出版过程中，得到同济大学应用数学系领导和教师的大力支持，同济大学 研究生院给予大力帮助，特此表示感谢. 由于编者水平有限，错误和不妥之处在所难免，恳请读者指正. 编者 2002 年1
目录1 目 前言 第I部分数值分析 第一章绪论 §1.】计算方法的意义………(3) S1,2误差及有关概念…… (5) §1.3数值计算中必须注意的几个原则…(7) 第二章解线性代数方程组的直接法 §2.1 Gauss消去法…（10) §2.2矩阵的三角分解…(15) §2.3解三对角方程组的追赶法…(31) 第三章解线性代数方程组的迭代法 ·§3.1基本迭代法………(35) §3.2范数及方程组的性态、条件数…(41) S3.3收敛性分析… …(46) S3.4共轭梯度法… …（55) 第四章矩阵的特征值和特征向量的计算 §4.】引言……………(61) S4.2乘幂法与反幂法…（62) §4.3Jac0bi方法………(69) S4.4QR方法… …(76)
前吉 分 数值分 第一章绪论 § 1. 2 第二章 计算方法的意义... .•. .•• .•. ..• ..…. '" ...…...., •.• .…" '" .•. ••. 误差及有关概念…….， •. . .. . .… 数值计算中必须注意的几个原则· 解线性代数方程组的直接法 (3) (5) (7) § 2. 1 § 2.2 § 2. 3 第三章 Gauss .•.••..• ..•..• ..………. ... .•• ..……………………. (10 ) 矩阵的三角分解... .•. .•. .•. .••... .•. ..……. ... ... ...•.. .. . .,. .•. .•. .., ... ... ( 15) 解三对角方程组的追赶法…………………………………………… 解续性代数方程组的迭代法 , § 3. 1 § 3. 2 § 3. 3 § 3.4 第四章 基本迭代法…... .•• ..• ..• ... 范数及方程组的性态、条件数... .•. ... ... ... ... .•. .…….. 收敛性分析…... ..• ... ... ... • 共辄梯度法……... ..•... ...., 矩阵的特征值和特征向量的计算 (35) (41) (46) (55) § 4. 1 § 4. 2 § 4.3 § 4.4 引言……………………………………………….....………….... ... (61) 乘幕法与反幕法…... ... ..……. .,. ... .., ... ... •. . ... •. . ..…. .., .•. ..• ... .•. (62) Jacobi … … … … … … … … … … … … … … … …(69) QR … … … … … … … … … … … … … … .•• '" ...... (76)
2目录 第五章非线性方程的数值解法 S5.1二分法…(82) §5,2迭代法…(84) §5.3迭代法的收敛阶和加速收敛方法… (89) S5.4牛顿(Newt0n)迭代法…… (92) S5.5弦截法……(96) 第六章插值与逼近 S6.1插值的基本概念…(99) §6.2拉格朗日(Lagrange)插值 (101) S6.3牛顿插值……(104) §6.4埃尔米特(Hermite)插值…(108) S6.5三次样条插值…… (112) 6.6B样条函数… (120) S6.7正交多项式，(123) §6,8最佳平方逼近…… (129) S6.9曲线拟合的最小二乘法。 (134) 第七章数值积分 §S7.1数值积分概述…(139) S7.2牛顿-柯特斯(Newton-Cotes)求积公式…(141) §7.3自适应积分法…（148) §7.4龙贝格(Romberg)求积算法 (151) §7.5高斯(Guss)求积方法… (156) 第八章常微分方程初值问题的数值解法 §8.1尤拉(Euler)方法…（165) S8.2龙格-库塔(Runge-Kutta)方法…(170) §8.3收敛性与稳定性…(178)
2 第五章 § 5. 1 § 5. 2 § 5. 3 § 5. 4 § 5. 5 第六章 § 6. 1 § 6.2 § 6. 3 § 6.4 § 6. 5 § 6. 7 § 6. 8 § 6. 9 第七章 § 7. 1 § 7.2 § 7. 4 § 7. 5 第八章 § 8. 1 § 8. 2 § 8. 3 非线性方程的数值解法 二分法…….. ".. .. .. .. .. ".. ...... .. , .. .. , .. 迭代法….. 迭代法的收敛阶和加速收敛方法….. ".. ...... .. .... ...... 牛顿 弦截法…· 插值与逼近 (82) (84) (89) (92) (96) 900012223 n··1····-- 数值积分 数值积分概述.. ,," .." .. .. .... .. .." .. .... .. .. .. 牛顿-柯特斯 ewton-Cotes) 积公式 自适应积分法· 龙贝格 .. .. .. .. .. .. "" .. "" .. .. .... .. 高斯 s s .. .. .. .. .. .. .. .. .. .... .. .... .. ..…………. . 常微分方程初值问题的数值解法 尤拉 方法 … … … … .. .. , .. ""……………· 龙格-库塔 tt 方法 .. .. .. .. ....………… 收敛性与稳定性……………..".. .. .. ".. .. .. (139) (1 41) (148) (1 51) (1 56) (1 65) (1 70) (1 78)
目录3 习题…(183) 习题I答案…(191) 参考书目工… … (196) 第Ⅱ部分矩阵论 第一章矩阵基础知识 S1.1基本概念…(199) §1.2矩阵的初等变换…(201) S1.3相似矩阵……… (209) S1.4广义特征值……(211) 第二章线性空间与内积空间 §2.1线性空间的基本概念……(214) S2.2维数，基与坐标… (215) §2.3子空间的直和…… (219) §2.4基变换与转移矩阵……(219) S2.5实内积空间……（221) §2.6正交子空间 (225) §2.7复内积空间……(228) §2.8正规阵……(230) 第三章线性变换 §3.1线性变换 … (234) S3.2线性变换的矩阵表示… (235) §3.3线性变换的像和核…(237) §3.4正交变换…… (239) 第四章矩阵的标准型 S4.1入-阵的标准形…(241) S4.2J0rdan标准形…(246)
习题 ......….. .... ..... .... 习题 参考书目 . 3 (183) (1 91) (196) H部分 第一章 § 1. 1 §1. 2 §1. 4 第二章 矩阵论 矩阵基础知识 基本概念· 矩阵的初等变换……… 相似矩阵· 广义特征值· 线性空间与内积空间 (1 99) (201) (209) (211) 维数，基与坐标...... .. ..…….. .. .... ...... ...... ...... ...... ......….. ... .. .. . .. ... .. .. .. .. .….. .. .... .. .... .. 子空间的直和. ... ... ... .... ... .. 基变换与转移矩阵· 实内积空间….. . ... . .... 正交子空间... . .. ...………… 复内积空间.， 正规阵........ ..…. ... ...... § 2. 1 § 2. 2 § 2. 3 § 2.4 § 2. 5 § 2. 6 § 2. 7 § 2. 8 线性空间的基本概念 ………………………...•.. ...•... ..•... .... ... .... .. (214) (215) (219) (219) (221) (225) (228) (230) 第三章 § 3. 2 § 3.4 第四章 § 4. 1 § 4. 2 线性变换 线性变换…... .. .. . .….. 线性变换的矩阵表示...It .. • • 线性变换的像和核……….... ...…. . 正交变换…….... . .. ... .. .... ..... .. .. .. 矩阵的标准型 准形 Jordan (234) (235) (23 7) (239) (241) (246)
4目录 §4.3最小多项式…… ……(250) 第五章矩阵函数 §5.1入-矩阵的极限，微分与积分…（253) §5.2矩阵的幂级数………(255) §5.3矩阵函数………(259) §5.4矩阵函数的应用………… (267) 第六章广义逆 §6.1预备知识… ……（276) §6.2广义逆矩阵A+ ………………………(277) S6.3A中的计算方法……(280) S6.4广义逆的应用……………（283) 习题… (287) 习题Ⅱ答案…(299) 参考书目Ⅱ……(309)
4 第五章 § 5. 1 § 5. 2 § 5.3 § 5.4 第六章 § 6. 1 § 6.2 § 6.3 § 6.4 最小多项式 ………...………...…….•. ..……. ... ... ... ... ... ... ... ... 矩阵函数 A- 微分 … … 矩阵的事级数· 矩阵函数…….. 矩阵函数的应用… 广义逆 (250) (253) (255) (259) (26 7) (276) (217) (280) (283) (287) (299) (309)
第I部分 数值分析 数值分析是工程类型硕士生的一门应用性很强的重要基础课程.通过本课程的 学习，学生要掌握数值分析的基本概念和基本理论，并测重于数值计算方法的应用。 通过本课程的学习，学生应初步具有数值分析的思想和方法，并学会用计算机解决科 研和工程应用中的数值计算问题的能力. 数值分析是近代数学的一个重要分支，它是计算机科学的重要内容，当前，由于 科学技术的迅速发展和计算机的广泛应用，使继实验方法、理论方法之后，科学计算 已成为科学研究的第三种方法，学习和掌握计算机上常用的数值计算方法及有关的 基础理论，已成为现代科学教育的重要内容，这方面的知识对于当代的工程硕士生来 说，是非常需要的. 本书是为工程类硕士生学习“工程数学”课程而编写的基础教材，本部分共分八 章，内容主要包括：线性代数方程组的数值解法，矩阵的特征值和特征向量的计算，非 线性方程的数值解法，插值与逼近，数值积分与常微分方程初值问题的数值解法等计 算机上常用的数值计算方法及有关的理论分析
I部分数值分析 , 数值分析是工程类型硕士生的一门应用性很强的重要基础课程.通过本课程的 学习，学生要掌握数值分析的基本概念和基本理论，并测重于数值计算方法的应用. 通过本课程的学习，学生应初步具有数值分析的思想和方法，并学会用计算机解决科 研和工程应用中的数值计算问题的能力. 数值分析是近代数学的一个重要分支，它是计算机科学的重要内容，当前，由于 科学技术的迅速发展和计算机的广泛应用，使继实验方法、理论方法之后，科学计算 已成为科学研究的第三种方法，学习和掌握计算机上常用的数值计算方法及有关的 基础理论，已成为现代科学教育的重要内容，这方面的知识对于当代的工程硕士生来 说，是非常需要的. 本书是为工程类硕士生学习"工程数学"课程而编写的基础教材，本部分共分八 章，内容主要包括:线性代数方程组的数值解法，矩阵的特征值和特征向量的计算，非 线性方程的数值解法，插值与逼近，数值积分与常微分方程初值问题的数值解法等计 算机上常用的数值计算方法及有关的理论分析
第一章绪论3 第一章绪论 §1.1计算方法的意义 随着现代科学技术的迅速发展，从实际问题中建立起来的数学模型越来越复杂， 由于这些数学模型往往不能容易地求出精确解，于是人们就局限于讨论问题的特殊 情形或简化了的模型，但这样做往往不能满足精度要求.因此，常用的处理方法就是 对较少简化的数学模型运用数值计算方法在计算机上进行数值计算，计算时间的多 少依赖于数值计算的计算量以及所用计算机的运行速度，而计算量的大小又依赖于 所用的数值计算方法与需要达到的精度.因此，要更好更快地解决实际问题中的数学 模型，必须提高人类的计算能力：即计算工具的性能与计算方法效率的总和，计算能 力的提高有赖于双方，我们不但要改进计算机的硬件设备、提高计算机的运行速度， 而且还必须提出具有高精度、低计算量的数值方法.对同一问题来讲，采用不同的数 值计算方法，其计算工作量有时相差非常之大，譬如：对一个n阶的线代数方程组，当 n=20时，若用Gramer法则求解，其乘除法运算次数约需9.7×10”，即使用每秒运 算1亿次的计算机，也要算30多万年，而用Gauss消去法，大约只需2660次乘除法 运算，并且，愈大，两种方法的计算时间相差就愈大，这个例子表明算法的好坏对计 算能力的提高起着重要的作用.在1955年至1975年的20年间，计算机的计算速度 提高了数千倍，而同一时间解决一定规模的椭圆型偏微分方程的数值计算方法的效 率提高了约100万倍，所以，研究和选择好的计算方法是非常重要的. 由于我们讨论的数值计算方法是以计算机作为计算工具的，因此还必须考虑到 有限字长给运算所带来的误差，若用计算机来解决一个实际问题，计算机算出的值与 实际问题的值，往往存在着差异，两者之差称为误差，而引起误差的原因是多方面的， 为了解决一个实际问题，首先必须对这个问题建立合理的数学模型，由于建模时要忽 略某些次要因素，对原始问题进行近似，这个过程中产生的误差称之为模型误差，而 数学模型中包含的若干参量往往是通过观测得到的，这种观测也难免产生误差，称它 为观测误差，然后还要把数学模型运用数值计算方法转换成数值问题，这个过程引起 的误差称为截断误差或方法误差，最后，用计算机对数值问题进行求解时，由于计算 机的有限字长还会产生舍入误差，在上面的所有这些误差中，模型误差和观测误差是 不属于本课程的讨论范围，本课程主要研究从数学模型到数值问题之间的误差，即方 法误差.舍入误差也是我们要研究的，另外，数值计算方法的稳定与否还会影响到舍
绪论 第→章绪论 § 1. 随着现代科学技术的迅速发展，从实际问题中建立起来的数学模型越来越复杂， 由于这些数学模型往往不能容易地求出精确解，于是人们就局限于讨论问题的特殊 情形或简化了的模型，但这样做往往不能满足精度要求.因此，常用的处理方法就是 对较少简化的数学模型运用数值计算方法在计算机上进行数值计算，计算时间的多 少依赖于数值计算的计算量以及所用计算机的运行速度，而计算量的大小又依赖于 所用的数值计算方法与需要达到的精度.因此，要更好更快地解决实际问题中的数学 模型，必须提高人类的计算能力:即计算工具的性能与计算方法效率的总和，计算能 力的提高有赖于双方，我们不但要改进计算机的硬件设备、提高计算机的运行速度， 而且还必须提出具有高精度、低计算量的数值方法.对同一问题来讲，采用不同的数 值计算方法，其计算工作量有时相差非常之大，譬如:对一个 n阶的线代数方程组，当 n=20 求解 乘 除法 7 X 10 1亿次的计算机，也要算 0多万年，而用 s消去法，大约只需 0次乘除法 运算，并且 n愈大，两种方法的计算时间相差就愈大，这个例子表明算法的好坏对计 算能力的提高起着重要的作用.在 5年至 9 7 5年的 0年间，计算机的计算速度 提高了数千倍，而同一时间解决一定规模的椭圆型偏微分方程的数值计算方法的效 率提高了约 0万倍，所以，研究和选择好的计算方法是非常重要的. 由于我们讨论的数值计算方法是以计算机作为计算工具的，因此还必须考虑到 有限宇长给运算所带来的误差，若用计算机来解决一个实际问题，计算机算出的值与 实际问题的值，往往存在着差异，两者之差称为误差，而引起误差的原因是多方面的 为了解决-个实际问题，首先必须对这个问题建立合理的数学模型，由于建模时要忽 略某些次要因素，对原始问题进行近似，这个过程中产生的误差称之为模型误差，而 数学模型中包含的若干参量往往是通过观测得到的，这种观测也难免产生误差，称它 为观测误差，然后还要把数学模型运用数值计算方法转换成数值问题，这个过程引起 的误差称为截断误差或方法误差，最后，用计算机对数值问题进行求解时，由于计算 机的有限字长还会产生舍入误差，在上面的所有这些误差中，模型误差和观测误差是 不属于本课程的讨论范围，本课程主要研究从数学模型到数值问题之间的误差，即方 法误差.舍人误差也是我们要研究的.另外，数值计算方法的稳定与否还会影响到舍
4第I部分数值分析 入误差的增长.我们可以来看这样的一个例子：对n=0,1,·,8,计算积分 s-， I" 由于 8+58-小2告装d-2a-月 dnn(1.2) 若取S。=n(1.2)≈0.182，用公式 5=月-55.1(n=1,2,…,8) 进行计算（精确到小数点后3位），我们得到 51≈0.090,52≈0.050， 5,≈0.083,54≈-0.165， 53≈1.025， 56≈-4.958,5，≈24.933,5≈-124.540， 若记en=Sn一5，则 6n=-5en-1, 显然，如果从S一1计算S,误差将以每步5倍的速度增长，这种计算是不稳定的，反 之，如果从5n计算5-1，即 、(n=8,7,…,1) 则误差的增长速度为每步。倍，即误差逐步减少，计算稳定，所以我们可以这样确定 3,设5≈5，从 5,=9s, 可得S。≈5，≈0.019，再由逐次计算求得（精确到小数点后3位） 5,≈0.021，S6≈0.024,5≈0.028， 54≈0.034， 53≈0.043， S2≈0.058， 51≈0.088， 5。≈0.182， 它与实际相似
部分 人误差的增长.我们可以来看这样的一个例子:对 ，…， 8，计算积分 Sfj;4dz, 由于 5. +55._1= zrldz=i J J 0 x+5 ~~ J 0 o=|-l-dZEln6+ln5=ln(1.2> J 0 若取 2)~O. 182 Sn= (n= 1, 2 , " ' ,8) 进行计算〈精确到小数点后 ，我们得到 51 55~1. 若记 52~O.050 56 53~O.083 57 54 58 2 4 4 0 -5E:. _ 1 , 显然，如果从瓦 计算 差将 不 稳 定 之，如果从豆"计算 ，即 511- rl= 1) 5n 5 则误差的增长速度为每步÷倍，即误差逐步减少，计算稳定，所以我们可以这样确定 瓦，设瓦 "" 1 1 - - ""- '-'8 X 9 5 '-'9 可得 50 次计 点后 $7 0 2 53~O.043 它与实际相似. 56 0 2 4 52~O.058 55 2 8 51 ~O. 088 , 54~O.034. 5o~O. 182
第一章绪论5 因此，在讨论数值计算方法时还必须考虑算法的稳定性，数值不稳定的算法是不 能使用的. $1.2误差及有关概念 人们常用绝对误差、相对误差或有效数字来说明一个近似值的准确程度，这些概 念在高等数学、物理以及力学等课程中早已接触过.由于它们在科学计算中的重要 性，下面我们再对有关的概念作一回顾. 一、误差的来源 一个物理量的真实值和我们算出的值往往存在差异.它们之差称为误差，引起误 差的原因是多方面的，从实际问题提出数学问题（即数学模型）时往往忽略了许多次 要因素，因而即使数学问题能准确求解，也与实际问题的真解有所不同.它们之差称 为模型误差，一般数学问题包含若干参量，它们的值往往通过观测得到，而观测难免 不带误差.这种误差称为观测误差或数据误差、模型参量误差.一般数学问题难以求 解，往往要通过近似替代，简化为较易求解的问题.简化引起的误差称为方法误差或 截断误差，计算时只能对有限位数进行运算，从而往往会对数据进行舍人，此时产生 的误差为舍入误差或计算误差.计算数学主要研究数值问题的数值解法，所以不讨论 模型误差。 二、绝对误差与相对误差 确切地说，若x是真正值，x是近似值，则称 △x=E(x)=x一x 为近似值x的绝对误差或简称误差.一般来说，△x的准确值很难求出，只能知道 |△x不超过某个数e,即 |△x|=|x-x|≤E 数ε称为x的绝对误差限，或简称误差限.有了误差限ε，就可知道真正值x的范围 x-e≤x≤x十e. 这范围有时也表示为
第一章绪论 因此，在讨论数值计算方法时还必须考虑算法的稳定性，数值不稳定的算法是不 能使用的. §1. 人们常用绝对误差、相对误差或有效数字来说明一个近似值的准确程度，这些概 念在高等数学、物理以及力学等课程中早已接触过.由于它们在科学计算中的重要 性，下面我们再对有关的概念作一回顾. 一、误差的来源 一个物理量的真实值和我们算出的值往往存在差异.它们之差称为误差，引起误 差的原因是多方面的，从实际问题提出数学问题〈即数学模型〉时往往忽略了许多次 要因素，因而即使数学问题能准确求解，也与实际问题的真解有所不同.它们之差称 为模型误差.一般数学问题包含若干参量，它们的值往往通过观测得到，而观测难免 不带误差.这种误差称为观测误差或数据误差、模型参量误差.一般数学问题难以求 解，往往要通过近似替代，简化为较易求解的问题.简化引起的误差称为方法误差或 截断误差.计算时只能对有限位数进行运算，从而往往会对数据进行舍人，此时产生 的误差为舍入误差或计算误差.计算数学主要研究数值问题的数值解法，所以不讨论 模型误差. 二、绝对误差与相对误差 确切地说，若 Z是真正值，王是近似值，则称 I'::1x = E(x )=x-x 为近似值玉的绝对误差或简称误差.-般来说l'::1x的准确值很难求出，只能知道 t-xl e: lt-xl=lx一日~e: E称为王的绝对误差限，或简称误差限.有了误差限e:，就可知道真正值Z的范围 二← e: 这范围有时也表示为