高扬，欢聚时代资深大数据专家，曾任金山软件西山居大数据架构师。有多年服务器端开发经验（多年日本和澳洲工作经验），多年大数据架构设计与数据分析、处理经验，目前负责欢聚时代直播部深度学习落地相关的研究。擅长传统机器学习、深度学习、数据建模、关系型数据库应用以及大数据框架等的应用。

　　卫峥，欢聚时代YY娱乐事业部软件架构师，曾任西山居软件架构师。多年的软件开发和架构经验，精通C/C++、Python、Golang、JavaScript等多门编程语言，近几年专注于数据处理、机器学和深度学习算法的研究、音视频图形图像处理，应用与服务研发。曾在新浪网平台架构部负责音视频转码平台的架构和研发工作，为新浪微博、新浪微盘、秒拍等提供视频在线观看服务。在慕课网、InfoQ、麦思博、51CTO等平台担任讲师。

　　万娟，深圳华为UI设计师，曾任星盘科技有限公司UI设计师平面，对VI设计、包装、海报设计等、商业插画、App交互、网页设计等有独到认识。多次参与智能家居和智能音箱等项目的UI设计。多次参加国际和国内艺术和工业设计比赛，并获奖。从小酷爱绘画，理想是开一个属于自己的画室。

　　这本书概念清晰，语言平实，实例讲解丰富，是一本非常适合入门的深度学习读本，尤其是对公式推导做了最大程度的白话解释与避让，使得可读性大大增强。相信每位读者都能从中汲取到相应的知识与启发。
　　——李学凌，欢聚时代董事长兼CEO

　　本书是一本很好的深度学习入门读物，从机器学习的基本概念过渡到深度神经网络的原理和应用，并延伸到网络的一些变种和新的特性。读完此书可以全面了解深度学习以及TensorFlow开源框架的相关内容，你可以感受到其实深度学习并不神秘，人工智能的未来人类完全可以掌控。
　　——朱频频，小i机器人创始人、总裁兼首席执行官

　　我曾经想过写本书，用通俗易懂的方式介绍大数据与深度学习的方方面面，现在看来不需要了，高扬先生这套白话系列图文并茂、深入浅出又不失学术性，非常值得研读。
　　——王庆法，阳光保险集团大数据中心首席架构师、首席数据官

　　看到了本书，笔者不由眼前一亮。关于技术观点的讲解即不乏专业性，又以浅显的例子告诉普通人，机器学习是什么。一本非常好的科普性的技术著作，希望更多的人可以通过作者的文字，真正理解人工智能的关键技术、深度学习的原理及实际未来的前景。也期待更多的爱好者，由此书可以加入到深度学习工作中，为未来人工智能的发展写下浓重的一笔。
　　——王海龙，秒钱CTO

本书赞誉
序
前　言
基　础　篇
第1章　机器学习是什么  2
1.1　聚类  4
1.2　回归  5
1.3　分类  8
1.4　综合应用  10
1.5　小结  14
第2章　深度学习是什么  15
2.1　神经网络是什么  15
2.1.1　神经元  16
2.1.2　激励函数  19
2.1.3　神经网络  24
2.2　深度神经网络  25
2.3　深度学习为什么这么强  28
2.3.1　不用再提取特征  28
2.3.2　处理线性不可分  29
2.4　深度学习应用  30
2.4.1　围棋机器人——AlphaGo  30
2.4.2　被教坏的少女——Tai.ai  32
2.4.3　本田公司的大宝贝——
ASIMO  33
2.5　小结  37
第3章　TensorFlow框架特性与安装  38
3.1　简介  38
3.2　与其他框架的对比  39
3.3　其他特点  40
3.4　如何选择好的框架  44
3.5　安装TensorFlow  45
3.6　小结  46
原理与实践篇
第4章　前馈神经网络  50
4.1　网络结构  50
4.2　线性回归的训练  51
4.3　神经网络的训练  75
4.4　小结  79
第5章　手写板功能  81
5.1　MNIST介绍  81
5.2　使用TensorFlow完成实验  86
5.3　神经网络为什么那么强  92
5.3.1　处理线性不可分  93
5.3.2　挑战“与或非”  95
5.3.3　丰富的VC——强大的空间
划分能力  98
5.4　验证集、测试集与防止过拟合  99
5.5　小结  102
第6章　卷积神经网络  103
6.1　与全连接网络的对比  103
6.2　卷积是什么  104
6.3　卷积核  106
6.4　卷积层其他参数  108
6.5　池化层  109
6.6　典型CNN网络  110
6.7　图片识别  114
6.8　输出层激励函数——SOFTMAX  116
6.8.1　SOFTMAX  116
6.8.2　交叉熵  117
6.9　小试牛刀——卷积网络做图片分类  124
6.10　小结  138
第7章　综合问题  139
7.1　并行计算  139
7.2　随机梯度下降  142
7.3　梯度消失问题  144
7.4　归一化  147
7.5　参数初始化问题  149
7.6　正则化  151
7.7　其他超参数  155
7.8　不唯一的模型  156
7.9　DropOut  157
7.10　小结  158
第8章　循环神经网络  159
8.1　隐马尔可夫模型  159
8.2　RNN和BPTT算法  163
8.2.1　结构  163
8.2.2　训练过程  163
8.2.3　艰难的误差传递  165
8.3　LSTM算法  167
8.4　应用场景  171
8.5　实践案例——自动文本生成  174
8.5.1　RNN工程代码解读  174
8.5.2　利用RNN学习莎士比亚剧本  183
8.5.3　利用RNN学习维基百科  184
8.6　实践案例——聊天机器人  185
8.7　小结  196
扩　展　篇
第9章　深度残差网络  198
9.1　应用场景  198
9.2　结构解释与数学推导  200
9.3　拓扑解释  205
9.4　Github示例  207
9.5　小结  207
第10章　受限玻尔兹曼机  209
10.1　结构  209
10.2　逻辑回归  210
10.3　最大似然度  212
10.4　最大似然度示例  214
10.5　损失函数  215
10.6　应用场景  216
10.7　小结  216
第11章　强化学习  217
11.1　模型核心  218
11.2　马尔可夫决策过程  219
11.2.1　用游戏开刀  221
11.2.2　准备工作  223
11.2.3　训练过程  224
11.2.4　问题  226
11.2.5　Q-Learning算法  228
11.3　深度学习中的Q-Learning——DQN  231
11.3.1　OpenAI Gym  234
11.3.2　Atari游戏  237
11.4　小结  238
第12章　对抗学习  239
12.1　目的  239
12.2　训练模式  240
12.2.1　二元极小极大博弈  240
12.2.2　训练  242
12.3　CGAN  244
12.4　DCGAN  247
12.5　小结  252
第13章　有趣的深度学习应用  254
13.1　人脸识别  254
13.2　作诗姬  259
13.3　梵高附体  264
13.3.1　网络结构  265
13.3.2　内容损失  268
13.3.3　风格损失  270
13.3.4　系数比例  271
13.3.5　代码分析  272
13.4　小结  279
附录A　VMware Workstation的安装  280
附录B　Ubuntu虚拟机的安装  284
附录C　Python语言简介  290
附录D　安装Theano  296
附录E　安装Keras  297
附录F　安装CUDA  298
参考文献  303