第1章 绪论
1.1 作为一门学科的计算数学
在国外，计算数学（computational mathematics）一般被称为数值分析（numercial analysis），被纳入应用数学（applied mathematics）的范畴。但是在我国， 计算数学被列为与应用数学并列的一个二级学科。根据我国 1997 年颁布的《授予 博士、硕士学位和培养研究生的学科、专业目录》，数学为理学一级学科（0701）， 计算数学（070102）是与基础数学（070101）、概率论与数理统计（070103）、应 用数学（070104）、运筹学与控制论（070105）并列的 5 个二级学科之一。根据 1998 年教育部颁布的《普通高等学校本科专业目录》，数学的本科专业有数学与 应用数学（070101）以及信息与计算科学（070102）。由此可见，计算数学在我国 的数学学科中占有重要位置。
1.1.1 第三种科学方法
计算数学是现代数学的一个重要分支，是研究应用电子计算机进行数值计算的数 学方法及其理论的一门学科。计算数学主要研究具有广泛应用背景的微分方程、积分 方程、优化问题、概率统计问题和其他各类数学问题的数值求解，提出有效的数值求 解方法，研究这些方法的收敛性、误差估计等数学理论，设计实现这些方法的算法 和计算程序，应用计算机进行数值实验，进而解决科学和工程中的实际问题。此外， 数值代数、数值逼近、计算几何等也是计算数学的重要研究内容[1]。
计算数学在中国之所以成为独立于应用数学的一门学科和专业，与计算数学 在中国的发展历程有很大的关系，本书的写作或许能部分回答这个问题。因此， 在中文的语境（context）下，有必要对计算数学与应用数学做一下区分。简单来 说，计算数学主要对计算方法及其性质进行研究，而应用数学更侧重于将物理问题 转化为数学模型并研究模型的数学理论，也就是所谓的数学建模（mathematical modeling）及分析。
随着社会的发展和科技的进步，科学和工程中提出的计算问题越来越多。而 计算机科学与技术的突飞猛进，使得计算数学在更广泛的领域发展成为一门现代 意义下的新学科——科学计算（scientific computing），即应用现代计算工具和方 法进行科学研究或求解应用问题。科学计算是数学和计算机实现其在科学与工程 领域应用的纽带和工具，其核心是高效的计算方法。据北京大学数学科学学院张 平文院士的说法，我国的计算数学在 2010 年时正处于科学计算的阶段[2]。
科学计算是一个完整的过程。首先，从具体的科学或工程问题出发，将要解 决的问题转化为方程并表示出来。当这些方程太复杂时，可以忽略掉一些影响比 较小的项。在很多情形中，这些方程是常微分方程、偏微分方程或者积分方程。这 个阶段一般由对这些科学或工程问题非常熟悉的专家来完成，或者需要他们的帮 助。然后，对这些方程进行数学理论上的分析，特别是对方程解的存在性与唯一 性进行理论研究是极为必要的。
一般而言，这些方程的解是一些诸如时间、空间的函数，或依赖于压力和温 度等参数的函数。然而在实际中，仅可以在离散的参数值下计算解。因此，连续 的问题被转换成一个近似的离散问题，这就是离散化（discretization）的阶段。如 果离散化后问题仍然很复杂，则必须再对它进行简化，例如将其线性化，通过数 值分析来解决这个近似的问题。*后，将它变成一个可以在计算机上使用的高效 算法，并检验计算结果的实际效果。
作为学术研究的重要手段，科学计算克服了理论分析与实验手段的局限。如 传统设计飞机的办法是风洞试验、修改设计，如此反复进行，耗资非常巨大，而 利用科学计算来进行数值模拟，既可以缩短周期也可以节省开发经费。在核武器 研制方面，也可以利用科学计算来进行模拟实验。在一些其他应用方面，科学计 算的作用已不可替代。
随着与计算相关的信息技术的飞速发展，科学计算的地位正在迅速上升。现 在，科学计算已成为与理论、实验相并列的第三种科学方法[3] 。科学计算在工程 领域有广泛应用，特别是在军事国防、航空航天、石油勘探、机械制造、水利建 筑、交通运输、天气预报、经济规划等许多领域起着至关重要的作用，其发展水 平已成为衡量国家综合实力的重要标志。
科学计算如今几乎影响到一切科技领域，很多学科都通过计算走向定量化和 精确化，催生出计算力学、计算物理、计算天文学、计算气象学、计算化学、计 算地质学、计算生物学等一系列新的学科分支。此外，科学计算在材料科学、生 命科学、环境科学、能源科学、信息科学、医学与经济学中所起的作用也日益增 大，正在形成更多的计算分支。这些基于科学计算而兴起的计算性交叉分支学科 一起构成了计算科学（computational sciences），计算数学则是它们共同的纽带与 基础。因此，计算数学可以说是计算科学的核心所在。
1.1.2 计算的历史概览
计算数学的核心是计算或者算法。算法是数学的重要组成部分，在数学的不 同发展时期都有所体现。根据胡作玄的《近代数学史》[4]，数学的发展大致可以分 为以下几个时期：
前史时期（公元前 4 世纪之前）
古代及中世纪时期（公元前 4 世纪到 16 世纪末）
近代前期（17—18 世纪）
近代后期（19 世纪）
现代时期（20 世纪）
在数学的前史时期，人类在测量土地时自然遇到开平方等问题。例如据 YBC 7289à的一块泥板显示，古巴比伦人在 60 进制的情形下，使用迭代算法对 √2 进行了开方近似计算，并达到了很高的精度，这显示出以古巴比伦为代表的前史文明对测量、计数与计算已经有了相当程度的掌握[5]81-119。因此算法的起源可以追溯到非常早的时期。
到了古代与中世纪时期，经过长时间的酝酿与发展之后，数学正式成为一门 学科，其主要标志是对于一些几何（加上少量数论）问题有了较为系统的方法与 理论，数的表示与计算方法也得以建立。前者以古希腊数学为代表，《几何原本》 （Elements）á标志着数学中演绎推理范式的确立。古希腊数学在具体的计算上不 甚有效，却也诞生了阿基米德（Archimedes of Syracuse， 287BC—212BC）这样 在理论与计算上都卓有成就的数学家[6]。
在数的表示与计算方法方面，东方特别是中华文明有特别突出的贡献。中国 古代数学有着悠久的计算传统和辉煌的算法成就，笔者将在 1.2.1 节简要论述。印 度、阿拉伯数学对计算与算法也有深入的研究[5]277-506。一个有趣的故事是，阿拉 伯数学家花拉子米（Al-Khwārizmī， 约 780—850）的《算法》à传入欧洲后，该书 的作者“花拉子米”被译成了拉丁语 Algoritmi，现代术语“算法”（algorithms） 即来源于此，《算法》也因此而得名[7]。特别值得一提的是，阿拉伯数学在数值计 算的精度上达到了很高的造诣[8]。
中世纪后期，通过与地中海、中东地区的贸易和交流，欧洲学者了解到由阿 拉伯世界保存的古希腊数学，以及阿拉伯、印度地区（可能还包括中国）创造的 数学。经过雷格蒙塔努斯（J. Regiomontanus， 1436—1476）、雷蒂库斯（G. J. Rheticus， 1514—1576）和韦达（F. Vieta， 1540—1603）等人的改进，欧洲的三角 函数值计算越来越便捷，其精度也越来越高。16 世纪初，纳皮尔（J. Napier， 1550— 1617）与比尔吉（J. Bürgi， 1552—1632）又独立地发明了对数方法，极大地改进 了人类的计算技术。
图 1 牛顿与高斯对计算方法有重大贡献（图片来源：维基百科）
随着解析几何与微积分的发明，近代数学开始形成和发展。如果将计算数学 定义为对连续数学中问题的算法研究[9]，那么牛顿（I. Newton， 1642—1727）、欧 拉（L. Euler， 1707—1783）、拉格朗日（J. Lagrange， 1736—1813）、拉普拉斯 （P. Laplace， 1749—1827）、勒让德（A. M. Legendre， 1752—1833）、高斯（C. F. Gauss， 1777—1855）、柯西（A. L. Cauchy， 1789—1857）、雅可比（J. Jacobi， 1804— 1851）等人在解决实际问题时开展的对计算方法的研究，都可以看作是对计算数 学的开拓[10] 。这些内容构成了今天计算数学的入门课程。
在近代前期，用数学来解决实际问题一直吸引着顶尖数学家的注意，这点在牛 顿与高斯身上体现得淋漓尽致à。为了找到经过一些给定点的多项式的曲线，牛顿 引进了均差（divided difference）的概念，并将其应用于经过观察到的位置的彗星 轨道计算。此外，牛顿还发明了牛顿迭代法。为了研究天文学，高斯发明了*小二 乘法（least squares method），并发现了快速傅里叶变换（fast Fourier transform）。 此外，高斯对线性方程组、数值积分也有贡献。
社会的需求始终是算法发展的强大动力。例如，求解线性方程组的高斯–若尔 当消去法（Gauss-Jordan elimination method）来源于大地测量学。求解线性方程 组和矩阵特征值问题的雅可比方法（Jacobi method）、求解常微分方程的亚当斯 方法（Adams method）来源于天体力学。常微分方程中的龙格–库塔法（Runge- Kutta method）、偏微分方程中的瑞利–里茨法（Rayleigh-Ritz method）分别有 着空气动力学、声学和弹性力学中的振动的实际背景[11]。17—19 世纪数学家对计 算方法的开拓可见表 1。
表 1 17—19 世纪数学家对计算方法的开拓
在近代后期，纯粹数学开始兴起并逐渐与应用数学分离，迅速占据了数学的 主流位置[12]。受限于社会生产规模和计算工具等外部条件，数值分析处于相对次 要的位置。到了 20 世纪，纯粹数学在集合论的基础上，诞生了结构数学并取得了 辉煌的发展[13]。与此同时，数值分析也取得了一定程度的进展，一些重要的算法 如有限差分法（finite difference method）被相继发现。
20 世纪初，数值分析的研究逐渐活跃，在机构设置方面也取得了初步的进展。 陆续有一些国家在大学或研究所开始设置应用数学的教授席位，开设与数值分析 相关的课程，主要是德国、英国与意大利[14]。
德国 1904 年，在 F. 克莱因（F. Klein， 1849—1925）的劝说与坚持下，以 发现龙格–库塔法著称的龙格（C. Runge， 1856—1927）被哥廷根大学聘为德国的 首位应用数学教授。实际上，龙格在 1883 年的任教资格论文（Habilitation）即 是关于代数方程的数值求解。维勒斯（F. A. Willers， 1883—1959）于 1906 年在 龙格的指导下获得博士学位，从 20 世纪 20 年代开始，他先后在弗莱贝格工业大 学与德累斯顿工业大学任教，开设了数值分析类的课程。
瓦尔特（A. O. Walther， 1898—1967）à1922 年博士毕业于哥廷根大学，之 后担任库朗的助手。1928 年，库朗使用有限差分方法建立了椭圆方程与双曲方程 初值问题解的存在性（CFL 论文）。就在同一年，瓦尔特成为达姆施塔特工业大 学的教授，创建应用数学研究所并担任所长。瓦尔特致力于数学面向工程的实际 应用，他是德国机械计算技术的先驱之一。
米泽斯（R. Mises， 1883
展开
