当前，数据驱动的理念已渗透到各个领域，数据科学和人工智能技术在制造业、金融、教育等多个行业中得到了广泛应用。Python作为一种编程语言，已成为数据科学和人工智能领域的事实标准，它丰富的生态系统进一步增强了它在这些领域中的重要性。然而，随着数据量的不断增长，如何利用Python加速数据科学处理，并将它扩展到集群上的并行计算，已成为数据科学家面临的重要挑战。本书详细介绍了4种数据科学工具：Dask、Ray、Xorbits和mpi4py，这些工具可以帮助数据工程师和科学家处理更大规模的数据集、训练更复杂的模型，并更高效地进行机器学习模型的迭代和部署。 本书面向具备一定数据科学基础的数据工程师、数据科学家或领域专家，同时也适合大学生和研究生作为进入高性能数据科学领域的入门读物。

第1章 并行计算基础
1.1 现代计算机体系结构
1.1.1 CPU
1.1.2 网卡
1.1.3 异构计算
1.2 串行执行与并行执行
1.3 线程和进程
1.3.1 进程与线程
1.3.2 线程安全
1.3.3 全局解释器锁
1.4 并行程序设计方法
1.4.1 PCAM
1.4.2 切分方式
1.4.3 案例：MapReduce
1.5 性能指标
1.5.1 FLOPS
1.5.2 加速比
第2章 数据科学
2.1 数据科学生命周期
2.1.1 理解业务
2.1.2 理解数据
2.1.3 准备数据
2.1.4 建模
2.1.5 验证
2.1.6 部署
2.1.7 小结
2.2 机器学习
2.2.1 机器学习的定义
2.2.2 线性回归
2.2.3 逻辑回归
2.3 深度学习
2.3.1 深度神经网络
2.3.2 前向传播
2.3.3 反向传播
2.3.4 超参数
2.3.5 实现细节
2.3.6 推理
2.4 超参数调优
2.4.1 搜索算法
2.4.2 调度器
2.4.3 种群训练
2.5 软件生态与本书内容
2.5.1 Python软件生态
2.5.2 本书内容
2.5.3 本书案例
第3章 Dask
3.1 Dask简介
3.2 Dask DataFrame快速入门
3.2.1 创建Dask DataFrame
3.2.2 执行计算
3.2.3 索引
3.2.4 Pandas兼容
3.2.5 计算图
3.3 将Dask扩展到集群
3.3.1 Dask集群
3.3.2 LocalCluster
3.3.3 使用命令行启动一个Dask集群
3.3.4 Python环境和依赖包管理
3.3.5 SSH、Kubernetes和高性能计算集群
3.3.6 自动缩放
3.3.7 Dask Nanny
3.4 GPU
3.4.1 Dask GPU集群
3.4.2 GPU任务
3.5 Task Graph与数据切分
3.5.1 Task Graph
3.5.2 数据切分
3.5.3 数据切分粒度
3.5.4 迭代式算法
3.5.5 设置正确的数据块大小
第4章 Dask DataFrame
4.1 读写数据
4.1.1 文件系统
4.1.2 数据切分与并行读取
4.1.3 数据表模式推理
4.1.4 Parquet
4.2 索引
4.2.1 有序行索引
4.2.2 设置索引列
4.3 map_partitions
案例：纽约出租车数据
4.4 Shuffle
4.4.1 Shuffle的实现机制
4.4.2 数据重分布
4.4.3 案例分析：groupby
4.5 基于Dask的数据分析案例
4.5.1 案例：自行车数据分析
4.5.2 案例：人口普查信息
第5章 Dask机器学习
5.1 数据预处理
5.2 超参数调优
5.2.1 Scikit-learn joblib
5.2.2 Dask-ML API
5.3 分布式机器学习
5.3.1 Scikit-learn API
5.3.2 XGBoost和LightGBM
第6章 Ray
6.1 Ray简介
6.2 分布式函数
6.2.1 启动Ray集群
6.2.2 案例：斐波那契数列
6.2.3 原生Python函数与Ray的区别
6.2.4 案例：分布式图像处理
6.3 分布式对象存储
6.3.1 ray.put()与ray.get()
6.3.2 案例：对数据进行转换
6.3.3 传递参数
6.3.4 底层实现
6.4 分布式类
6.4.1 案例：分布式计数器
6.4.2 Actor编程模型
6.4.3 案例：排行榜
6.4.4 案例：Actor Pool
第7章 Ray集群
7.1 Ray集群概述
7.1.1 Ray集群简介
7.1.2 启动Ray集群
7.2 计算资源与资源组
7.2.1 计算资源
7.2.2 资源需求
7.2.3 其他资源
7.2.4 自动缩放
7.2.5 Placement Group
7.3 Ray作业
7.3.1 Ray Jobs命令行
7.3.2 Python SDK
7.3.3 Ray客户端
第8章 Ray Data
8.1 Ray Data简介
8.1.1 关键概念
8.1.2 Dataset
8.1.3 数据操作与底层实现
8.2 数据加载、查看与保存
8.2.1 加载数据
8.2.2 查看数据
8.2.3 迭代数据
8.2.4 保存数据
8.3 数据转换
8.3.1 转换
8.3.2 分组
8.4 Preprocessor
8.5 Modin
8.5.1 API的兼容性
8.5.2 立即执行
8.5.3 执行引擎
8.5.4 案例：纽约市出租车数据分析
第9章 Ray机器学习
9.1 RayTrain
9.1.1 关键步骤
9.1.2 案例：图像分类
9.1.3 与原生PyTorch的区别
9.1.4 数据读取
9.1.5 ScalingConfig
9.1.6 监控
9.1.7 Checkpoint
9.2 Ray Tune
9.2.1 关键组件
9.2.2 Trainable函数
9.2.3 搜索空间
9.2.4 搜索算法和调度器
9.2.5 案例：飞机延误预测
9.2.6 案例：基于PBT进行图像分类
9.3 Ray Serve
9.3.1 关键概念
9.3.2 案例：大语言模型推理
第10章 Xorbits
10.1 XorbitsData
10.1.1 Xorbits集群
10.1.2 API兼容性
10.1.3 推迟执行
10.2 Xinference
10.2.1 推理引擎
10.2.2 集群
10.2.3 使用模型
10.