第1章 引言
1.1 大数据对机器学习的挑战
1.2 分布式优化算法国内外研究现状
1.3 本书研究内容
1.4 参考文献
第2章 交替方向乘子法
2.1 凸1尤化
2.1.1 凸集
2.1.2 凸函数
2.1.3 优化问题
2.1.4 凸优化问题
2.2 对偶
2.2.1 拉格朗日对偶函数
2.2.2 对偶函数和共轭函数
2.2.3 对偶问题
2.2.4 鞍点
2.2.5 对偶上升法
2.2.6 对偶分解性
2.3 交替方向乘子法
2.3.1 增广拉格朗日乘子法
2.3.2 交替方向乘子法
2.3.3 全局变量一致性优化
2.4 参考文献
第3章 稀疏回归
3.1 Lasso问题
3.2 ADMM求解Lasso问题
3.3 I.ass0问题的一般求解
3.4 Lasso问题的全局一致性求解
3.4.1 基于样本划分的I。asso问题
3.4.2 基于特征划分的I。asso问题
3.5 参考文献
第4章 Huber回归
4.1 Huber损失在稀疏鲁棒性编码中的应用
4.1.1 基于回归分析的一般分类框架
4.1.2 稀疏编码
4.1.3 Huber损失函数
4.2 Huber损失的一般化求解
4.3 Huber损失的并行求解
4.3.1 基于特征划分的Huber函数
4.3.2 基于样本划分的Huber函数
4.4 参考文献
第5章 交替方向乘子法在图像处理中的应用
5.1 基于交替方向乘子法的全变差模糊图像恢复
5.1.1 图像退化模型
5.1.2 ADMM算法图像恢复推导过程
5.2 基于交替方向乘子法的遥感图像融合
5.2.1 基于变分框架的图像融合方法
5.2.2 基于增强稀疏结构一致性的遥感图像融合
5.2.3 实验结果与分析
5.3 参考文献
第6章 加权Huber约束稀疏表达的鲁棒性算法
6.1 Sigmoid权重……………………
6.2 加权Huber约束稀疏编码
6.2.1 权重的初始值
6.2.2 迭代条件
6.2.3 查询样本类别判断
6.3 算法鲁棒性分析
6.4 算法的迭代步骤及其子问题划分
6.4.1 ADMM求解子问题
6.4.2 计算复杂度分析
6.4.3 收敛性和收敛率分析
6.5 加权Huber约束稀疏编码算法实验
6.5.1 实验设置
6.5.2 弱遮挡的人脸识别
6.5.3 强遮挡的人脸识别
6.5.4 图像的重构
6.5.5 运行时间
6.5.6 参数与识别率
6.5.7 实验结果与分析
6.6 本章小结
6.7 参考文献
第7章 自适应加权Huber约束稀疏表达的鲁棒性算法
7.1 自适应权重
7.2 自适应加权Huber约束编码的模型
7.3 自适应加权Huber约束稀疏编码的模型
7.3.1 自适应权重更新
7.3.2 自适应权重初始值
7.3.3 迭代条件
7.3.4 查询样本分类
7.4 算法鲁棒性分析
7.5 算法的迭代步骤及子问题分析
7.5.1 ADMM求解子问题
7.5.2 计算复杂度分析
7.5.3 收敛性和收敛率分析
7.6 自适应加权Huber约束稀疏编码算法实验
7.6.1 实验设置
7.6.2 弱闭塞的人脸识别
7.6.3 强闭塞的人脸识别
7.6.4 运行时间
7.6.5 参数分析
7.6.6 实验结果与分析
7.7 本章小结
7.8 参考文献
第8章 极大不相关多元逻辑回归
8.1 引入极大不相关约束的意义
8.2 极大不相关多元逻辑回归算法
8.2.1 基于多元逻辑回归算法的改进
8.2.2 求解算法时间复杂度分析
8.3 极大不相关多元逻辑回归算法实验
8.3.1 数据集介绍
8.3.2 人工数据集和公开数据集实验结果
8.3.3 极大不相关神经网络算法实验
8.4 大规模极大不相关多元逻辑回归算法
8.4.1 极大不相关多元逻辑回归的一致性求解算法
8.4.2 极大不相关多元逻辑回归的共享求解算法
8.4.3 求解算法时间复杂度分析
8.5 分布式极大不相关逻辑回归算法实验
8.5.1 运行环境与数据集介绍
8.5.2 一致性求解算法的实验对比
8.5.3 共享求解算法的实验对比
8.6 本章小结
8.7 参考文献
第9章 快速稀疏多元逻辑回归
9.1 稀疏多元逻辑回归串行求解算法
9.1.1 迭代重加权最小二乘法
9.1.2 快速稀疏多元逻辑回归算法
9.2 快速稀疏多元逻辑回归算法实验
9.2.1 实验设置
9.2.2 优化算法实验及分析
9.2.3 传统算法实验及分析
9.3 稀疏多元逻辑回归并行求解算法
9.3.1 多元逻辑回归的一致性优化求解
9.3.2 多元逻辑回归的共享优化求解
9.3.3 求解算法收敛性分析
9.3.4 求解算法计算复杂度分析
9.4 SP-SMLR算法和FP-SMIR算法实验
9.4.1 实验设置
9.4.2 样本划分实验及分析
9.4.3 特征划分实验及分析
9.4.4 大规模算法实验及分析
9.5 本章小结
9.6 参考文献
第10章 CoCoA框架下的Lasso回归分布式求解
10.1 CoCoA框架介绍
10.1.1 框架应用的两种问题形式
10.1.2 各节点求解的子问题
10.1.3 CocoA
展开
