本书结合几种典型神经网络，系统地介绍每种神经网络的基本理论、基本方法和应用技术，是作者多年从事神经网络教学和科研工作的结晶，同时融入了国内外同行近年来所取得的新成果。

全书共17章，主要内容包括神经网络理论基础、BP神经网络设计、基于工具箱的BP神经网络训练与测试、基于BP网络的数据拟合与误差补偿、模糊BP神经网络数据拟合与误差补偿、RBF神经网络设计、模糊RBF神经网络设计、ELM网络算法设计、基于高斯基函数特征提取的FELM神经网络、基于ELM神经网络和FELM神经网络的数据拟合、动态递归神经网络设计、带有动态回归层的模糊神经网络、PiSigma模糊神经网络设计、小脑模型神经网络设计、Hopfield神经网络设计、深度学习算法、卷积神经网络和基于长短期记忆网络的拟合与时间序列预测。

本书各部分内容既相互联系又相互独立，读者可根据自己的需要选择学习。本书可作为高等院校工业自动化、自动控制、机械电子、自动化仪表、计算机应用等专业的本科生和研究生教学用书，也可作为从事生产过程自动化、计算机应用、机械电子和电气自动化领域工作的工程技术人员的参考书。

第1章神经网络理论基础1

1.1神经网络发展简史2

1.2神经网络原理3

1.3神经网络的分类4

1.4神经网络学习算法6

1.4.1Hebb学习规则6

1.4.2Delta(δ)学习规则6

1.5神经网络的特征及要素7

1.5.1神经网络的特征7

1.5.2神经网络三要素7

1.6神经网络的设计关键技术7

1.7神经网络的应用领域8

1.8神经网络典型应用实例8

参考文献10

思考题11

第2章BP神经网络设计12

2.1基本原理12

2.2BP网络算法13

2.2.1BP网络的输入/输出算法13

2.2.2输入信息的归一化13

2.2.3多入多出样本的BP网络离线学习算法15

2.2.4仿真实例: 样本的离线训练与测试16

2.2.5函数在线逼近的BP网络学习算法20

2.2.6仿真实例: 正弦函数的拟合21

参考文献23

思考题23

第3章基于工具箱的BP神经网络训练与测试24

3.1BP神经网络训练24

3.2BP神经网络测试26

3.3仿真实例26

思考题33

第4章基于BP网络的数据拟合与误差补偿34

4.1BP网络的拟合34

4.2数据拟合与误差补偿机理35

4.3仿真实例36

4.3.1BP网络的训练与测试36

4.3.2针对测试误差的BP网络训练与测试41

4.3.3实验数据的误差补偿45

思考题47

第5章模糊BP神经网络数据拟合与误差补偿48

5.1模糊BP神经网络48

5.2仿真实例51

5.2.1实验数据拟合与测试51

5.2.2实验数据与真实数据之差的拟合与测试55

5.2.3新的实验数据输出的补偿58

思考题60

第6章RBF神经网络设计61

6.1基本原理61

6.2网络结构与算法61

6.3RBF网络基函数设计实例62

6.3.1结构为151的RBF网络62

6.3.2结构为251的RBF网络63

6.4基于梯度下降法的RBF神经网络逼近64

6.4.1算法设计64

6.4.2仿真实例65

6.5高斯基函数的参数对RBF网络逼近的影响69

6.6隐含层节点数对RBF网络逼近的影响74

6.7RBF神经网络的训练79

6.7.1RBF神经网络的离散训练79

6.7.2仿真实例80

6.8BP神经网络与RBF神经网络训练比较86

6.8.1BP神经网络测试86

6.8.2RBF神经网络测试89

参考文献92

思考题92

第7章模糊RBF神经网络设计93

7.1模糊神经网络介绍93

7.2模糊神经网络的优点及设计关键94

7.3网络结构及算法94

7.4模糊RBF网络的数据离散拟合95

7.4.1基本原理95

7.4.2仿真实例96

7.5BP神经网络与模糊神经网络训练测试103

7.5.1BP神经网络103

7.5.2模糊RBF神经网络106

7.6采用工具箱的模糊RBF神经网络训练与测试110

7.6.1ANFIS简介110

7.6.2仿真实例111

参考文献113

思考题114

第8章ELM网络算法设计115

8.1ELM神经网络的特点115

8.2网络结构与算法115

8.3ELM网络的训练116

8.4仿真实例117

参考文献121

思考题122

第9章基于高斯基函数特征提取的FELM神经网络123

9.1FELM网络结构与算法123

9.2FELM网络的学习算法123

9.3仿真实例126

参考文献128

思考题128

第10章基于ELM神经网络和FELM神经网络的数据拟合130

10.1数据集的设计130

10.2神经网络的拟合132

10.3仿真实例132

思考题140

第11章动态递归神经网络设计141

11.1网络结构141

11.2DRNN网络的逼近141

11.3仿真实例143

思考题145

第12章带有动态回归层的模糊神经网络147

12.1算法结构147

12.2输入、输出算法147

12.3网络学习算法148

12.4仿真实例149

参考文献158

思考题158

第13章PiSigma模糊神经网络设计159

13.1高木关野模糊系统159

13.2PiSigma模糊神经网络159

13.3网络离散学习算法161

13.4网络在线学习算法162

13.5仿真实例162

参考文献169

思考题170

第14章小脑模型神经网络设计171

14.1概述171

14.2CMAC网络结构171

14.3CMAC网络算法172

14.4仿真实例173

参考文献176

思考题176

第15章Hopfield神经网络设计177

15.1Hopfield网络原理177

15.2Hopfield网络算法177

15.3基于Hopfield网络的路径优化179

15.3.1旅行商问题179

15.3.2求解旅行商问题的Hopfield神经网络设计179

15.3.3仿真实例180

参考文献187

思考题187

第16章深度学习算法——卷积神经网络188

16.1卷积神经网络的发展历史188

16.2卷积神经网络的设计189

16.3数字二值图像分类的设计191

16.3.1网络训练的步骤191

16.3.2网络训练参数的配置194

16.4基于CNN的数字识别195

16.4.1问题的提出195

16.4.2仿真实例195

16.5基于卷积神经网络的数据拟合200

16.5.1基本原理200

16.5.2仿真实例202

16.6卷积神经网络的发展方向208

参考文献208

思考题209

第17章基于长短期记忆网络的拟合与时间序列预测210

17.1LSTM神经网络简介210

17.2LSTM原理210

17.3激活函数的选择212

17.4LSTM的设计与优化212

17.4.1设计方法212

17.4.2梯度消失与爆炸问题212

17.5仿真实例213

17.5.1仿真实现步骤213

17.5.2仿真实例213

17.6未来发展方向221

参考文献221