随着深度学习、大规模预训练模型和生成式人工智能的进展，机器学习已成为解决很多工程和科学问题的首选方案。本书从概率建模和统计推断的角度系统介绍机器学习的基本概念、经典算法及前沿进展。本书是一本系统论述概率机器学习的中文专著，主要内容包括概率机器学习基础、学习理论、概率图模型、近似概率推断、高斯过程、深度生成模型、强化学习等。本书从实例出发，由浅入深，直观与严谨相结合，并提供了延伸阅读内容和丰富的参考文献。 本书的读者对象是相关专业的高年级本科生、研究生和从业人员。

基础篇
第1章 绪论
1.1 机器学习
1.1.1 什么是机器学习
1.1.2 机器学习的基本任务
1.1.3 K-近邻：一种“懒惰”学习方法
1.2 概率机器学习
1.2.1 为什么需要概率机器学习
1.2.2 概率机器学习包含的内容
1.3 延伸阅读
1.4 习题
第2章 概率统计基础
2.1 概率
2.1.1 事件空间与概率
2.1.2 连续型和离散型随机变量
2.1.3 变量变换
2.1.4 联合分布、边缘分布和条件分布
2.1.5 独立与条件独立
2.1.6 贝叶斯公式
2.2 常见概率分布及其数字特征
2.2.1 随机变量的常用数字特征
2.2.2 离散型变量的概率分布
2.2.3 连续型变量的概率分布
2.3 统计推断
2.3.1 最大似然估计
2.3.2 误差
2.4 贝叶斯推断
2.4.1 基本流程
2.4.2 常见应用和方法
2.4.3 在线贝叶斯推断
2.4.4 共轭先验
2.5 信息论基础
2.5.1 熵
2.5.2 互信息
2.5.3 相对熵
2.6 习题
第3章 线性回归模型
3.1 基本模型
3.1.1 统计决策基本模型
3.1.2 线性回归及最小二乘法
3.1.3 概率模型及最大似然估计
3.1.4 带基函数的线性回归
3.2 正则化线性回归
3.2.1 岭回归
3.2.2 Lasso
3.2.3 Lp范数正则化的线性回归
3.3 贝叶斯线性回归
3.3.1 最大后验分布估计
3.3.2 贝叶斯预测分布
3.3.3 贝叶斯模型选择
3.3.4 经验贝叶斯和相关向量机
3.4 模型评估
3.4.1 评价指标
3.4.2 交叉验证
3.5 延伸阅读
3.6 习题
第4章 朴素贝叶斯分类器
4.1 基本分类模型
4.1.1 贝叶斯分类器
4.1.2 核密度估计
4.1.3 维数灾
4.2 朴素贝叶斯模型
4.2.1 生成式模型
4.2.2 朴素贝叶斯假设
4.2.3 最大似然估计
4.2.4 最大后验估计
4.3 朴素贝叶斯的扩展
4.3.1 多值特征
4.3.2 多类别分类
4.3.3 连续型特征
4.3.4 半监督朴素贝叶斯分类器
4.3.5 树增广朴素贝叶斯分类器
4.4 朴素贝叶斯的分析
4.4.1 分类边界
4.4.2 预测概率
4.5 延伸阅读
4.6 习题
第5章 对数几率回归和广义线性模型
第6章 深度神经网络
第7章 支持向量机与核方法
第8章 聚类
第9章 降维
第10章 集成学习
第11章 学习理论
高级篇
第12章 概率图模型
第13章 变分推断
第14章 蒙特卡洛方法
第15章 高斯过程
第16章 深度生成模型
第17章 强化学习
参考文献