本书从机器学习视角，系统梳理线性代数与最优化理论，直击初学者“知识零散、课程脱节”的痛点。全书以“应用导向”贯穿始终，分两大模块构建知识网络： 1.线性代数及其应用：从矩阵运算本质出发，深入剖析奇异值分解（SVD）、核方法、图谱理论等工具，通过人脸识别、推荐系统等案例，展现线性代数在特征提取、降维、异常检测中的核心作用。 2.最优化理论及其应用：以最小二乘回归为支点，辐射梯度下降、牛顿法、约束优化等算法，揭示支持向量机、Logistic回归的数学原理，并延伸至神经网络训练中的计算图优化技术。 作者独创“概念即时应用”模式，每章配以“理解题”与“综合习题”，确保读者在真实问题中内化知识，实现从数学公式到算法代码的无缝衔接。

译者序
前言
致谢
第1章 线性代数与优化：导论
1.1 引言
1.2 标量、向量与矩阵
1.2.1 标量与向量间的基本运算
1.2.2 向量与矩阵间的基本运算
1.2.3 特殊的矩阵类
1.2.4 矩阵幂、多项式与逆
1.2.5 矩阵逆引理：求矩阵和的逆
1.2.6 Frobenius范数、迹与能量
1.3 作为可分解算子的矩阵乘法
1.3.1 作为可分解行和列算子的矩阵乘法
1.3.2 作为可分解几何算子的矩阵乘法
1.4 机器学习中的基本问题
1.4.1 矩阵因子分解
1.4.2 聚类
1.4.3 分类与回归建模
1.4.4 异常值检测
1.5 机器学习中的优化
1.5.1 用于函数简化的泰勒展开
1.5.2 机器学习中的优化示例
1.5.3 计算图中的优化问题
1.6 总结
1.7 拓展阅读
1.8 习题
第2章 线性变换与线性系统
2.1 引言
2.2 矩阵乘法的几何表示
2.2.1 正交变换
2.2.2 Givens旋转与Householder反射
2.2.3 缩放：一个非刚性变换
2.2.4 一般情况：正交变换与缩放变换的组合
2.3 向量空间与几何表示
2.3.1 基系统中的坐标
2.3.2 基集之间的坐标变换
2.3.3 向量集的生成空间
2.3.4 机器学习示例：离散小波变换
2.3.5 向量空间的子空间之间的关系
2.4 矩阵行与列的线性代数
2.5 矩阵的行阶梯形式
2.5.1 LU分解
2.5.2 应用：建立一个基集
2.5.3 应用：矩阵求逆
2.5.4 应用：求解线性方程组
2.6 矩阵秩的概念
2.7 生成正交基集
2.7.1 Gram-Schmidt正交化与QR分解
2.7.2 QR分解
2.7.3 离散余弦变换
2.8 线性系统的优化视角
2.8.1 Moore-Penrose伪逆
2.8.2 投影矩阵
……
第3章 特征向量与可对角化矩阵
第4章 最优化基础：机器学习视角
第5章 高等优化求解方法
第6章 约束优化与对偶
第7章 奇异值分解
第8章 矩阵分解
第9章 线性代数中的相似性
第10章 图中的线性代数
第11章 计算图中的优化
参考文献