本书是关于人工智能安全的入门书籍，首先详细介绍人工智能安全相关的基础知识，包括基本算法和安全模型，以便读者明确人工智能面临的威胁，对人工智能安全有一个初步认识。然后，本书将人工智能系统的主要安全威胁分为模型安全性威胁和模型与数据隐私威胁两大类。模型安全性威胁主要包括投毒攻击、后门攻击、对抗攻击、深度伪造攻击。模型与数据隐私威胁主要包括窃取模型的权重、结构、决策边界等模型本身信息和训练数据集信息。 本书在介绍经典攻击技术的同时，也介绍了相应的防御方法，使得读者通过攻击了解人工智能模型的脆弱性，并对如何防御攻击、如何增强人工智能模型的鲁棒性有一定的思考。本书还介绍了真实世界场景中不同传感器下的对抗攻击和相应的防御措施以及人工智能系统对抗博弈的现状。 本书适合希望了解人工智能安全的计算机相关专业的学生、人工智能领域的从业人员、对人工智能安全感兴趣的人员以及致力于建设可信人工智能的人员阅读。

推荐序
前言
第一部分 基础知识
第1章 人工智能概述
1.1 人工智能发展现状
1.1.1 跌跌撞撞的发展史
1.1.2 充满诱惑与希望的现状
1.1.3 百家争鸣的技术生态圈
1.1.4 像人一样行动：通过图灵测试就足够了吗
1.1.5 像人一样思考：一定需要具备意识吗
1.1.6 合理地思考：一定需要具备逻辑思维吗
1.1.7 合理地行动：能带领我们走得更远吗
1.2 人工智能安全现状
1.2.1 模型安全性现状
1.2.2 模型与数据隐私现状
1.2.3 人工智能安全法规现状
第2章 人工智能基本算法
2.1 基本概念
2.2 经典算法
2.2.1 支持向量机
2.2.2 随机森林
2.2.3 逻辑回归
2.2.4 K近邻
2.2.5 神经网络
2.2.6 卷积神经网络
2.2.7 强化学习
2.3 主流算法
2.3.1 生成对抗网络
2.3.2 联邦学习
2.3.3 在线学习
2.4 算法可解释性
2.4.1 可解释性问题
2.4.2 事前可解释
2.4.3 事后可解释
2.4.4 可解释性与安全性分析
2.5 基础算法实现案例
2.6 小结
第3章 人工智能安全模型
3.1 人工智能安全定义
3.1.1 人工智能技术组成
3.1.2 人工智能安全模型概述
3.2 人工智能安全问题
3.2.1 数据安全问题
3.2.2 算法安全问题
3.2.3 模型安全问题
3.3 威胁模型和常见攻击
3.3.1 威胁模型
3.3.2 常见攻击
……
第二部分 模型安全性
第三部分 模型与数据隐私
第四部分 应用与实践
参考文献