第1章 凸优化模型概述
1.1 拉格朗日对偶性
1.1.1 可分性问题
1.1.2 划分
1.2 Fenchel对偶性和锥规划
1.2.1 线性锥规划问题
1.2.2 二阶锥规划
1.2.3 半正定规划
1.3 可加性代价问题
1.4 具有大量约束的问题
1.5 精确惩罚函数
1.6 注记、文献来源和练习
第2章 凸优化算法概述
2.1 迭代下降算法
2.1.1 可微代价函数下降法——无约束问题
2.1.2 带约束问题——可行方向法
2.1.3 不可微问题——次梯度法
2.1.4 其他下降法
2.1.5 增量算法
2.1.6 分布式异步迭代算法
2.2 近似方法
2.2.1 多面体近似
2.2.2 罚函数、增广拉格朗日法、内点法
2.2.3 近端算法、束方法和Tikhonov正则化方法
2.2.4 交替方向乘子法
2.2.5 不可微问题的平滑方法
2.3 注记、文献来源和练习
第3章 次梯度算法
3.1 实值凸函数的次梯度
3.2 次梯度算法的收敛性分析
3.3 ε-次梯度方法
3.4 注记、文献来源和练习
第4章 多面体近似算法
4.1 外线性化——割平面法
4.2 内线性化——单纯形剖分法
4.3 外线性化与内线性化的对偶性
4.4 广义多面体近似法
4.5 广义单纯形剖分法
4.5.1 代价函数可微情形
4.5.2 代价函数不可微分以及边约束
4.6 锥规划的多面体近似
4.7 注记、文献来源和练习
第5章 近端算法
5.1 近端算法基础理论
5.1.1 收敛性分析
5.1.2 收敛的速率
5.1.3 梯度解释
5.1.4 不动点解释、超松弛与推广
5.2 对偶近端算法
5.3 线性化近端算法
5.3.1 近端割平面法
5.3.2 束方法
5.3.3 近端内部线性化方法
5.4 交替方向乘子法
5.4.1 机器学习中的应用
5.4.2 ADMM在可分问题上的应用
5.5 注释、文献来源和练习
第6章 其他算法主题
6.1 梯度投影法
6.2 外推梯度投影
6.2.1 具有最优迭代复杂度的算法
6.2.2 不可微代价问题——平滑框架
6.3 近端梯度法
6.4 增量次梯度近端法
6.4.1 循环顺序法的收敛性
6.4.2 随机顺序法的收敛性
6.4.3 在特定结构问题上的应用
6.4.4 增量约束投影法
6.5 坐标下降法
6.5.1 坐标下降法的变体
6.5.2 分布式异步坐标下降法
6.6 广义近端法
6.7 ε-下降和扩展单值规划
6.7.1 ε-次梯度
6.7.2 ε-下降方法
6.7.3 扩展单值规划的对偶性
6.7.4 强对偶性的特殊情况
6.8 内点法
6.8.1 线性规划的原始-对偶法
6.8.2 锥规划的内点法
6.8.3 中心割平面法
6.9 注记、文献来源和练习
附录A 数学背景知识
A.1 线性代数
A.2 拓扑性质
A.3 导数
A.4 收敛定理
附录B 凸优化理论概述
B.1 凸分析的基本概念
B.2 多面体凸性的基本概念
B.3 凸优化的基本概念
B.4 对偶原理的几何框架
B.5 对偶性与优化
展开
