第1章 深度学习背景介绍
1.1 人工智能
1.2 机器学习
1.2.1 训练数据、验证数据和测试数据
1.2.2 学习方式
1.2.3 机器学习常用算法
1.3 人工智能、机器学习、神经网络及深度学习之间的关系
1.4 深度学习的应用
1.5 神经网络和深度学习的发展史
1.5.1 神经网络的诞生:20世纪40年代到20世纪60年代
1.5.2 神经网络的复兴:20世纪80年代到20世纪90年代
1.5.3 深度学习:2006年至今
1.6 深度学习领域中的重要人物
1.7 新一轮人工智能爆发的三要素
1.8 参考文献
第2章 搭建Python编程环境
2.1 Python介绍
2.2 Anaconda安装
2.3 Jupyter Notebook的简单使用
2.3.1 启动Jupyter Notebook
2.3.2 修改Jupyter Notebook默认启动路径
2.3.3 Jupyter Notebook浏览器无法打开
2.3.4 Jupyter Notebook基本操作
第3章 单层感知器与线性神经网络
3.1 生物神经网络
3.2 单层感知器
3.2.1 单层感知器介绍
3.2.2 单层感知器计算举例
3.2.3 单层感知器的另一种表达形式
3.3 单层感知器的学习规则
3.3.1 单层感知器的学习规则介绍
3.3.2 单层感知器的学习规则计算举例
3.4 学习率
3.5 模型的收敛条件
3.6 模型的超参数和参数的区别
3.7 单层感知器分类案例
3.8 线性神经网络
3.8.1 线性神经网络介绍
3.8.2 线性神经网络分类案例
3.9 线性神经网络处理异或问题
第4章 BP神经网络
4.1 BP神经网络介绍及发展背景
4.2 代价函数
4.3 梯度下降法
4.3.1 梯度下降法介绍
4.3.2 梯度下降法二维例子
4.3.3 梯度下降法三维例子
4.4 Delta学习规则
4.5 常用激活函数讲解
4.5.1 sigmoid函数
4.5.2 tanh函数
4.5.3 softsign函数
4.5.4 ReLU函数
4.6 BP神经网络模型和公式推导
4.6.1 BP网络模型
4.6.2 BP算法推导
4.6.3 BP算法推导的补充说明
4.7 BP算法推导结论总结
4.8 梯度消失与梯度爆炸
4.8.1 梯度消失
4.8.2 梯度爆炸
4.8.3 使用ReLU函数解决梯度消失和梯度爆炸的问题
4.9 使用BP神经网络解决异或问题
4.10 分类模型评估方法
4.10.1 准确率/精确率/召回率/F1值
4.10.2 混淆矩阵
4.11 独热编码
4.12 BP神经网络完成手写数字识别
4.13 Sklearn手写数字识别
4.14 参考文献
第5章 深度学习框架Tensorflow基础使用
5.1 Tensorflow介绍
5.1.1 Tensorflow简介
5.1.2 静态图和动态图机制Eager Execution
5.1.3 tf.keras
5.2 Tensorflow-cpu安装
5.2.1 Tensorflow-cpu在线安装
5.2.2 安装过程中可能遇到的问题
5.2.3 Tensorflow-cpu卸载
5.2.4 Tensorflow-cpu更新
5.2.5 Tensorflow-cpu指定版本的安装
5.3 Tensorflow-gpu安装
5.3.1 Tensorflow-gpu了解最新版本情况
5.3.2 Tensorflow-gpu安装CUDA
5.3.3 Tensorflow-gpu安装cuDNN库
5.3.4 Tensorflow-gpu在线安装
5.3.5 Tensorflow-gpu卸载
5.3.6 Tensorflow-gpu更新
5.4 Tensorflow基本概念
5.5 Tensorflow基础使用
5.6 手写数字图片分类任务
5.6.1 MNIST数据集介绍
5.6.2 softmax函数介绍
5.6.3 简单MNIST数据集分类模型―没有高级封装
5.6.4 简单MNIST数据集分类模型―keras高级封装
第6章 网络优化方法
6.1 交叉熵代价函数
6.1.1 均方差代价函数的缺点
6.1.2 引入交叉熵代价函数
6.1.3 交叉熵代价函数推导过程
6.1.4 softmax与对数似然代价函数
6.1.5 交叉熵程序
6.2 过拟合
6.2.1 什么是过拟合
6.2.2 抵抗过拟合的方法
6.3 数据增强
6.4 提前停止训练
6.5 Dropout
6.5.1 Dropout介绍
6.5.2 Dropout程序
6.6 正则化
6.6.1 正则化介绍
6.6.2 正则化程序
6.7 标签平滑
6.7.1 标签平滑介绍
6.7.2 标签平滑程序
6.8 优化器
6.8.1 梯度下降法
6.8.2 Momentum
6.8.3 NAG
6.8.4 Adagrad
6.8.5 Adadelta
6.8.6 RMRprop
6.8.7 Adam
6.8.8 优化器程序
6.9 参考文献
第7章 Tensorflow模型的保存和载入
7.1 Keras模型保存和载入
7.1.1 Keras模型保存
7.1.2 Keras模型载入
7.2 SavedModel模型保存和载入
7.2.1 SavedModel模型保存
7.2.2 SavedModel模型载入
7.3 单独保存模型的结构
7.3.1 保存模型的结构
7.3.2 载入模型结构
7.4 单独保存模型参数
7.4.1 保存模型参数
7.4.2 载入模型参数
7.5 ModelCheckpoint自动保存模型
7.6 Checkpoint模型
展开