本书主要讨论了数值代数的相关问题:线性方程组求解问题、线性最小二乘问题及矩阵特征值问题.涉及的内容主要包括理论分析的相关概念(范数、条件数等)、矩阵分解的相关技术(LU 分解、QR分解、Schur分解、奇异值分解等)、求解线性方程组的数值方法(直接法、古典迭代法、Krylov子空间迭代法等)、求解最小二乘问题的数值解法(正则化方法、正交化方法、基于奇异值分解的方法等)、求一般矩阵和对称矩阵全部或部分特征值的数值方法(幂法、反幂法、Raleigh商方法、QR 方法、Jacobi方法、二分法等).同时配有大量的课后习题、适当的应用举例、各种算法的数值比较及部分算法的MATLAB代码.

本书具有以下特点:

(1)在维持已有数学理论的逻辑性、体系性的同时,注重算法思想的阐述及问题由来的解释,使学生”懂其来知其去“.本书内容强调算法的收敛性、复杂性和数值稳定性分析,注重讨论矩阵计算的基本原理与方法,能体现出应用问题的编程需要,并力图反映出本学科的最新成就与学科发展前沿.在保证基本概念、定理、定义等准确性的同时,争取更多地反映出课程内容的内在逻辑性,在介绍方法过程的同时尽可能地阐明方法的设计思想及其理论依据,从而使其更加符合现在的发展,着重强调专业知识的宽广度和内容的先进性.

(2)引入学科进展新内容并避免引入的盲目性.在内容上紧密围绕矩阵这个核心内容,精选最新发展的较成熟的常用数值方法,并较好地反映出学科进展的新内容与传统的经典内容之间的关系.同时尽可能引进一些在科学与工程技术上有广泛应用前景的现代方法和内容,例如求解线性方程组的基于Krylov子空间的迭代法.

(3)内容编写简练流畅.相关理论的证明应尽可能地严格而又简洁,同时注重相关问题内在证明思想上的连通性;在内容的叙述表达上,力求整体清晰易读,便于教师教学与学生自学.本书的使用对象已具有线性代数或高等代数的相关基础,在部分教学内容的编写上做到尽量精练,比如直接法求解线性方程组及特征值的基础内容方面.

(4)在附录部分提供了主要算法的MATLAB源代码,使学生能够即时利用现有的数学软件验证程序的正确性和可用性,加强了学生对知识的理解,提高了学习的兴趣.

(5)着重对学生创新应用能力、编程能力、自学能力的有效培养.数值算法是本书的主要内容,为方便学生复习、巩固和拓广课堂所学知识,在每章后配置了较丰富的练习题。编者结合学术上的相关工作及已有文献,设计有代表性的实际应用问题,让学生设计算法并使用数学软件进行数值实验,为学生提供足够的练习和实践的素材.设计创新型实验课题,引导学生自己设计算法、分析算法的收敛性,并利用编程语言编写程序实现问题的求解,培养学生的创新应用能力及锻炼学生的编程能力.

学习本书需要用到的基本知识为数学专业的高等代数和数学分析,或者是非数学专业所学的线性代数及高等数学.我们建议这门课的学时为48~56学时,其中Krylov子空间部分内容可以作为本科生的选修内容.

第1章 绪 论/1

1.1 基本符号及概念/1

1.2 基本研究内容/2

1.3 向量范数与矩阵范数/3

1.3.1 向量范数/3

1.3.2 矩阵范数/7

1.4 数值算法/18

1.4.1 误差及机器数系/18

1.4.2 数值稳定性/23

1.5 敏度分析/27

1.6 初等正交变换/34

1.6.1 Householder变换/34

1.6.2 Givens变换/39

1.7 矩阵的因子分解/42

1.7.1 满秩分解/42

1.7.2 QR分解/43

1.7.3 方阵的Schur分解/52

1.7.4 任意矩阵的奇异值分解/54

1.7.5 两个矩阵的同时分解/60

习题1/62

上机实验题1/66

第2章 直接法求解线性方程组/67

2.1 矩阵的LU 分解及线性方程组

求解/68

2.1.1 矩阵的LU 分解/68

2.1.2 矩阵的全选主元LU 分解/77

2.1.3 矩阵的列主元LU 分解/81

2.1.4 基于LU 分解的Gauss

消去法的优势/83

2.2 特殊矩阵的LU 分解/85

2.2.1 对称正定矩阵的

Cholesky分解/85

2.2.2 带状矩阵的LU 分解/89

2.3 基于LU 分解的Gauss消去法的

迭代改进/95

习题2/97

上机实验题2/99

第3章 古典迭代法求解

线性方程组/100

3.1 迭代法概述/100

3.2 具体迭代法/102

3.2.1 分裂技巧/103

3.2.2 松弛方法/106

3.3 迭代法收敛性/110

3.3.1 系数矩阵为对称正定矩阵的

线性方程组/111

3.3.2 系数矩阵为不可约对角占优

矩阵或严格对角占优

矩阵的线性方程组/117

3.3.3 最佳松弛因子选择策略/122

3.4 迭代法加速/124

习题3/130

上机实验题3/132

第4章 Krylov子空间法/134

4.1 共轭梯度法/134

4.1.1 最速下降法/135

4.1.2 共轭梯度法/138

4.1.3 预优共轭梯度法/146

2 数值代数

4.2 Krylov子空间法/149

4.2.1 Gram-Schmidt正交化

过程/151

4.2.2 Arnoldi和Lanczos过程/152

4.2.3 广义最小残量

法(GMRES)/154

4.2.4 最小残量法(MINRES)/157

4.2.5 Bi-Lanczos过程/159

4.2.6 双共轭梯度法(BiCG)/160

4.2.7 平方共轭梯度法(CGS)/165

4.2.8 稳定的双共轭梯度

法(BiCGSTAB)/167

4.2.9 广义乘积型双共轭

梯度法(GPBiCG)/169

4.2.10 诱导降维法(IDR)/173

习题4/176

上机实验题4/178

第5章 最小二乘问题/180

5.1 线性最小二乘问题/181

5.2 正则化方法/182

5.3 最小二乘问题解的性态/187

5.4 正交化方法/189

5.4.1 列满秩情形/189

5.4.2 秩亏损情形/190

5.5 奇异值分解方法/192

5.5.1 列满秩情形/192

5.5.2 列亏欠情形/193

习题5/193

上机实验题5/196

第6章 矩阵特征值问题/197

6.1 基本知识/197

6.2 数值稳定性/200

6.3 幂法、反幂法与Rayleigh商

迭代法/204

6.3.1 幂法/204

6.3.2 反幂法/212

6.3.3 Rayleigh商迭代法/216

6.4 QR算法/218

6.4.1 QR基本迭代法及收敛性/218

6.4.2 上Hessenberg化/224

6.4.3 带位移的QR迭代法/230

6.5 对称矩阵特征值问题/237

6.5.1 对称QR方法/237

6.5.2 Jacobi方法/240

6.5.3 二分法/242

习题6/245

上机实验题6/249

参考文献/250

附 录/254

矩阵分解的Matlab代码/254

线性方程组的直接解法

的Matlab代码/255

线性方程组迭代法

的Matlab代码/257

共轭梯度法的Matlab代码/259

矩阵特征值问题

的Matlab代码/259