本书将最优控制方法融入机器学习的研究中，创新地建立了一个基于最优反馈控制在线学习框架，并在该框架下提出了一系列用于解决线性和非线性的分类与回归问题的鲁棒自适应学习算法；构建了基于最优控制的鲁棒在线学习架构，分别讨论该架构下的线性回归、二分类和多分类问题，并且将线性问题的架构拓展到非线性回归与分类问题；提出了基于控制的深度学习优化器CSGC，基于深度学习的思想，提出了一种深度学习视角下的样本选择模型。 本书提出的算法体系拓展至当下热门的深度学习领域，成功应用于图像识别和文本分类等复杂任务，为解决现实世界的复杂问题提供了新的工具和方法。此外，本书将改进的深度学习算法与传统微观计量模型相结合，从全新视角探讨了样本选择问题，为机器学习与计量经济学的交叉融合研究提供了有益的参考和启示。

第1章 导论
1.1 研究背景
1.2 研究意义
1.2.1 理论意义
1.2.2 现实意义
1.3 研究现状
1.3.1 在线线性学习
1.3.2 在线核学习
1.3.3 基于控制的机器学习方法
1.3.4 深度学习
1.3.5 经济学研究中的机器学习
1.3.6 文献评述
1.4 研究方法与内容结构
1.4.1 研究方法
1.4.2 内容结构与组织
1.5 研究创新之处
第2章 背景知识
2.1 线性学习
2.1.1 线性模型与在线学习
2.1.2 线性模型的梯度算法
2.2 核学习
2.2.1 重构核模型
2.2.2 在线核学习算法
2.3 最优控制方法
2.3.1 最优控制的基本概念
2.3.2 离散时间线性二次型最优控制问题
2.3.3 最优控制与在线学习
2.4 深度学习
2.4.1 神经网络模块
2.4.2 训练方法
第3章 基于最优控制的鲁棒在线学习算法
3.1 回归模型
3.1.1 误差反馈系统
3.1.2 基于最优控制的在线回归问题
3.1.3 最优控制解法
3.2 二分类与多分类模型
3.2.1 鲁棒在线二分类问题
3.2.2 鲁棒在线多分类问题
3.3 实验对比和分析
3.3.1 迭代法估计回归系数：基于模拟数据
3.3.2 极分解法的在线回归任务：基于模拟数据
3.3.3 极分解法的在线回归任务：基于真实数据
3.3.4 极分解法的在线二分类任务：基于模拟数据
3.3.5 极分解法的在线二分类任务：基于真实数据
3.3.6 极分解法的在线多分类任务：基于DNA数据集
3.4 本章小结
第4章 基于最优控制的鲁棒核学习算法
4.1 固定带宽核回归算法
4.1.1 误差反馈系统
4.1.2 基向量选择与OKLQR算法
4.2 自适应变带宽核回归算法
4.2.1 误差反馈系统
4.2.2 状态反馈控制与OAKL算法
4.2.3 OAKL的收敛性分析
4.3 自适应变带宽核分类算法
4.3.1 误差反馈系统
4.3.2 状态反馈控制与CAOKC算法
4.3.3 CAOKC的相关理论分析
4.4 实验对比和分析
4.4.1 固定带宽核回归的数值实验
4.4.2 自适应带宽核回归的数值实验
4.4.3 自适应带宽核分类的数值实验
4.5 本章小结
第5章 鲁棒深度学习优化器
5.1 基于控制的随机梯度收缩方法
5.1.1 问题提出与学习框架
5.1.2 损失动力学系统与学习策略
5.2 CSGC方法相关理论分析
5.2.1 合理性
5.2.2 收敛性分析
5.3 CSGC训练的深度学习模型
5.3.1 训练全连接网络
5.3.2 训练卷积神经网络与循环神经网络
5.3.3 加入动量项的CSGC
5.4 实验对比和分析
5.4.1 超参数设定
5.4.2 多层全连接神经网络：基于MNIST数据集
5.4.3 卷积神经网络：基于CIFAR-10数据集
5.4.4 循环神经网络：基于IMDB数据集
5.5 本章小结
第6章 深度样本选择网络
6.1 样本选择模型简介
6.1.1 Tobit-Ⅰ模型
6.1.2 Tobit-Ⅱ模型
6.2 深度样本选择网络构建与估计
6.2.1 Tobit-Ⅰ网络构建与估计
6.2.2 Tobit-Ⅱ网络构建与估计
6.3 显著性检验
6.3.1 Tobit-Ⅰ网络显著性检验
6.3.2 Tobit-Ⅱ网络显著性检验
6.4 实验对比与分析
6.4.1 Tobit-Ⅰ网络数值实验
6.4.2 Tobit-Ⅱ网络数值实验
6.4.3 Tobit-Ⅰ网络实证分析：基于CHFS数据
6.4.4 Tobit-Ⅱ网络实证分析：基于CHNS数据
6.5 本章小结
第7章 结论与展望
7.1 主要结论
7.2 研究不足与展望
参考文献