本书旨在为包括研究生和工业从业者在内的研究人员提供有关为数据驱动的进化优化而开发的最新方法的全面描述。本书共分12章。为了本书的自足性，第1～4章简要介绍了优化、进化计算和机器学习中精心挑选的重要主题和方法。第5章提供了数据驱动优化的基础知识，包括启发式算法和基于获取函数的代理模型管理。第6～8章介绍使用多个代理模型进行单目标优化的方法，其中第7章和第8章描述用于求解多目标和高维多目标优化算法的代表性进化算法以及代理模型辅助数据驱动的进化多目标和高维多目标优化。第9章详细阐述了高维数据驱动优化的方法，介绍了在半监督学习的帮助下，将知识从未标记数据转移到标记数据，从廉价目标迁移到昂贵目标、从廉价问题迁移到昂贵问题的大量技术，迁移学习和迁移优化在第10章中进行了描述。由于数据驱动优化是一个强应用驱动的研究领域，因此第11章讨论了离线数据驱动的进化优化，并给出了实际优化问题，如原油蒸馏优化和急救系统优化的例子。最后，第12章强调了深度神经架构搜索作为数据驱动的昂贵优化问题。

第1章 最优化导论
1.1 优化的定义
1.1.1 数学模型
1.1.2 凸优化
1.1.3 拟凸函数
1.1.4 全局和局部最优
1.2 优化问题的类型
1.2.1 连续与离散优化
1.2.2 无约束优化与约束优化
1.2.3 单目标优化与多目标优化
1.2.4 确定性优化与随机性优化
1.2.5 黑盒优化和数据驱动的优化
1.3 多目标优化
1.3.1 数学模型
1.3.2 Pareto最优性
1.3.3 偏好建模
1.3.4 偏好表示
1.4 优化中不确定性的处理
1.4.1 评价中的噪声
1.4.2 鲁棒优化
1.4.3 多场景优化
1.4.4 动态优化
1.4.5 时域鲁棒优化
1.5 优化算法的对比
1.5.1 算法效率
1.5.2 性能指标
1.5.3 可靠性评价
1.5.4 统计测试
1.5.5 基准问题
1.6 总结
第2章 经典优化算法
2.1 无约束优化
2.1.1 梯度法
2.1.2 牛顿法
2.1.3 拟牛顿法
2.2 约束优化
2.2.1 惩罚函数法和障碍函数法
2.2.2 拉格朗日乘子法
2.3 无梯度搜索方法
2.3.1 线搜索和模式搜索
2.3.2 NelderMead单纯形法
2.3.3 基于模型的无梯度搜索方法
2.4 确定性全局优化
2.4.1 基于Lipschitz的方法
2.4.2 DIRECT算法
2.5 总结
第3章 进化和群智能优化
3.1 引言
3.2 遗传算法
3.2.1 定义
3.2.2 表示
3.2.3 交叉和变异
3.2.4 环境选择
3.3 实数编码的遗传算法
3.3.1 实值表示
3.3.2 混合交叉
3.3.3 模拟二进制交叉和多项式变异
3.4 进化策略
3.4.1 (1+1)ES
3.4.2 基于全局步长的进化策略
3.4.3 基于个体步长大小的进化策略
3.4.4 繁殖与环境选择
3.4.5 协方差矩阵自适应进化策略
3.5 遗传规划
3.5.1 基于树结构的遗传规划
3.5.2 初始化
3.5.3 交叉与变异
3.6 蚁群优化算法
3.6.1 整体框架
3.6.2 扩展应用
3.7 差分进化算法
3.7.1 初始化
3.7.2 差分变异
3.7.3 差分交叉
3.7.4 环境选择
3.8 粒子群优化算法
3.8.1 传统的粒子群优化算法
3.8.2 竞争粒子群优化器
3.8.3 社会学习粒子群优化器
3.9 模因算法
3.9.1 基本概念
3.9.2 拉马克方法和鲍德温方法
3.9.3 多目标模因算法
3.9.4 鲍德温效应与隐藏效应
3.10 分布估计算法
3.10.1 一个简单的EDA
3.10.2 求解离散优化问题的EDA
3.10.3 求解连续优化问题的EDA
3.10.4 多目标EDA
3.11 参数自适应和算法选择
3.11.1 自动参数调优
3.11.2 超启发式算法
3.11.3 适应度地形分析
3.11.4 自动推荐系统
3.12 总结
第4章 机器学习简介
4.1 机器学习问题
4.1.1 聚类
4.1.2 维度约减
4.1.3 回归
4.1.4 分类
4.2 机器学习模型
4.2.1 多项式回归模型
4.2.2 多层感知机
4.2.3 径向基函数网络
4.2.4 支持向量机
4.2.5 高斯过程
4.2.6 决策树
4.2.7 模糊规则系统
4.2.8 集成模型
4.3 学习算法
4.3.1 监督学习
4.3.2 无监督学习
4.3.3 强化学习
4.3.4 高阶学习算法
4.4 多目标机器学习
4.4.1 单目标与多目标学习
4.4.2 多目标聚类、特征选择和特征提取
4.4.3 多目标集成模型生成
4.5 深度学习模型
4.5.1 卷积神经网络
4.5.2 长短期记忆网络
4.5.3 自关联神经网络和自编码器
4.5.4 生成对抗网络
4.6 进化与学习的协同作用
4.6.1 进化学习
4.6.2 基于学习的进化优化
4.7 小结
第5章 数据驱动的代理模型辅助的进化优化
5.1 引言
5.2 离线与在线数据驱动的优化
5.2.1 离线数据驱动的优化
5.2.2 在线数据驱动的优化
5.3 在线代理模型管理方法
5.3.1 基于种群的模型管理
5.3.2 基于世代的模型管理
5.3.3 基于个体的模型管理
5.3.4 模因算法中的信任域方法
5.4 贝叶斯模型管理
5.4.1 获取函数
5.4.2 进化贝叶斯优化
5.4.3 贝叶斯进化优化
5.5 贝叶斯约束优化
5.5.1 约束优化的获取函数
5.5.2 两阶段获取函数
5.6 代理模型辅助的鲁棒性优化
5.6.1 鲁棒性优化的双目标公式
5.6.2 代理模型的构建
5.7 模型的性能指标
5.7.1 精度
5.7.2 基于选择的性能指标
5.7.3 等级相关性
5.7.4 适应度相关性
5.8 总结
第6章 多代理模型辅助的单目标优化
6.1 引言
6.2 局部和全局代理模型辅助优化
6.2.1 集成代理模型
6.2.2 多代理模型的单目标模因优化
6.2.3 多代理模型的多目标模因优