统计学习理论是针对小样本情况研究统计学习规律的理论，是传统统汁学的重要发展和补充，为研究有限样本情况下机器学习的理论和方法提供了理论框架，其核心思想是通过控制学习机器的容量实现对推广能力的控制。在这一理论中发展出的支持向量机方法是一种新的通用学习机器，较以往方法表现出很多理论和实践上的优势。《统计学习理论的本质》是该领域的权威著作，着重介绍了统计学习理论和支持向量机的关键思想、结论和方法，以及该领域的最新进展。《统计学习理论的本质》的读者对象是在信息科学领域或数学领域从事有关机器学习和函数估计研究的学者和科技人员，也可作为模式识别、信息处理、人工智能、统计学等专业的研究生教材。

　　0  引论
　　学习问题研究的四个阶段
　　学习问题的研究历史可以分为四个阶段，它们分别以下面四个重要事件为标志：
　　（1）第一个学习机器的创立；
　　（2）学习理论的基础的创立；
　　（3）神经网络的创立；
　　（4）神经网络的替代方法的创立。
　　在不同历史阶段有不同的研究主题和重点，所有这些研究基同勾画出了人们对学习问题进行探索的一幅复杂的（和充满矛盾的）图画。
　　0．1 Rosenblatt的感知器（60年代）
　　在35年多以前F．Rosenblatt提出了第一个学习机器的模型，称作感知器，这标志着人们对学习过程进行数学研究的真正开始①。从概念上讲，感知器的思想并不是新的，它已经在神经生理学领域中被讨论了多年。但是，Rosenblatt做了一件不寻常的事，就是把这个模型表现为一个计算机程序，并且通过简单的实验说明这个模型能够被推广。感知器模型被用来解决模式识别问题，在最简单的情况下就是用给定的例子来构造一个把两类数据分开的规则。

译序
第二版前言
第一版前言
0  引论：学习问题研究的四个阶段
0.1  Rosenblatt的感知器（60年代）
0.1.1  感知器模型
0.1.2  对学习过程分析的开始
0.1.3  对学习过程的应用分析与理论分析
0.2  学习理论基础的创立（60-70年代）
0.2.1  经验风险最小化原则的理论
0.2.2  解决不适定问题的理论
0.2.3  密度估计的非参数方法
0.2.4  算法复杂度的思想
0.3  神经网络（80年代）
0.3.1  神经网络的思想
0.3.2  理论分析目标的简化
0.4  回到起点（90年代）
第一章  学习问题的表示
1.1  函数估计模型
1.2  风险最小化问题
1.3  三种主要的学习问题
1.3.1  模式识别
1.3.2  回归估计
1.3.3  密度估计（Fisher-wald表示）
1.4  学习问题的一般表示
1.5  经验风险最小化归纳原则
1.6  学习理论的四个部分
非正式推导和评述——1
1.7  解决学习问题的传统模式
1.7.1  密度估计问题（最大似然方法）
1.7.2  模式识别（判别分析）问题
1.7.3  回归估计模型
1.7.4  最大似然法的局限
1.8  密度估计的非参数方法
1.9　用有限数量信息解决问题的基本原则
1.10　基于经验数据的风险最小化模型
1.11　随机逼近期间
第二章  学习过程的一致性
2.1　传统性的一致性和非平凡一致性概念
2.2　学习理论的关键定理
2.3　一致双边收敛的充分必要条件
2.4　一致单边收敛的充分必要条件
2.5　不可证伪性理论
2.6　关于不可证伪性的这定理
2.7　学习理论的三个里程碑
非正式指导和评述——2
2.8　概率论和统计学的基本问题
2.9　估计概率测度的两种方式
2.10　概率测度的强方式估计与官度估计问题
2.11  Glivenko-Cantelli及其推广
2.12　归纳的数学理论
第三章  学习过程收敛速度的界
3.1　基本不等式
3.2　对实函数集的推广
……
第四章  控制学习过程的推广能力
第五章  模式识别的方法
第六章  函数估计的方法
第七章  统计学习理论中的直接方法
第八章  邻域风险最小化原则与SVM
第九章  结论：什么是学习理论中重要的？
参考文献及评述
索引