作者简介

谢型果

中兴通讯软件工程师，6 年存储研发经验，精通本地文件系统ZFS。2014年开始研究Ceph，目前是 Ceph 开源社区技术委员会成员兼 Ceph Member，主要研究方向为 RADOS。

严  军

中兴通讯软件工程师，6 年存储研发经验，先后从事 NAS 与分布式统一存储产品研发。2016 年加入 Ceph 开源社区，主要研究领域为 RADOS 与分布式存储系统 QoS，目前是 Ceph 开源社区的 Ceph Member。

　　《Ceph之RADOS设计原理与实现》是继《Ceph设计原理与实现》之后，中兴通讯Clove团队在Ceph领域的又一全新力作。Clove团队是Ceph开源社区国内负盛名的组织贡献者之一，自Jewel版起，连续4个版本代码贡献量位列世界前三。目前该团队拥有社区技术委员会成员一名，Ceph Mermber三名。鉴于Clove团队在Ceph不断发展与壮大过程中做出的杰出贡献，创始人SageWeil先生再次为该书亲自作序。
　　存储是云计算的基石，Ceph是开源分布式软件定义存储解决方案中的领头羊。该书以大量存储技术的基本原理（例如分布式一致性、文件系统等）为主线，系统剖析了Ceph核心组件RADOS的设计原理与具体实现。通过阅读该书可以掌握Ceph的核心设计理念与高级应用技巧，从而快速提升自身对于Ceph的研发与运维能力。

序1

序2

序3

前言

第1章　一生万物——RADOS导论  1

1.1　RADOS概述  3

1.2　存储池与PG  5

1.3　对象演进与排序  6

1.4　stable_mod与客户端寻址  10

1.5　PG分裂与集群扩容  13

1.6　总结和展望  17

第2章　计算寻址之美与数据平衡之殇——CRUSH  19

2.1　抽签算法  20

2.2　CRUSH算法详解  24

2.2.1　集群的层级化描述——cluster map  25

2.2.2　数据分布策略——placement rule  27

2.3　调制CRUSH  33

2.3.1　编辑CRUSH map  34

2.3.2　定制CRUSH规则  38

2.4　数据重平衡  40

2.4.1　reweight  42

2.4.2　weightset  45

2.4.3　upmap  47

2.4.4　balancer  48

2.5　总结和展望  52

第3章　集群的大脑——Monitor  54

3.1　集群表OSDMap  56

3.2　集群管理  60

3.2.1　OSD管理  60

3.2.2　存储池管理  63

3.2.3　告警管理  66

3.3　总结和展望  66

第4章　存储的基石——OSD  68

4.1　OSD概述  69

4.1.1　集群管理  70

4.1.2　网络通信  71

4.1.3　公共服务  72

4.2　OSD上电  74

4.3　故障检测  75

4.4　空间管理  78

4.5　总结和展望  82

第5章　高效本地对象存储引擎——BlueStore  84

5.1　设计原理  85

5.2　磁盘数据结构  89

5.2.1　PG  89

5.2.2　对象  89

5.3　缓存机制  97

5.3.1　概述  97

5.3.2　实现  100

5.4　磁盘空间管理  103

5.4.1　概述  103

5.4.2　BitmapFreelistManager  106

5.4.3　BitmapAllocator  107

5.5　BlueFS  109

5.5.1　概述  109

5.5.2　磁盘数据结构  112

5.5.3　块设备  116

5.6　实现原理  116

5.6.1　mkfs  117

5.6.2　mount  117

5.6.3　read  119

5.6.4　write  121

5.7　使用指南  126

5.7.1　部署BlueStore  127

5.7.2　配置参数  129

5.8　总结和展望  132

第6章　移动的对象载体——PG  134

6.1　基本概念与术语  135

6.2　读写流程  138

6.2.1　消息接收与分发  145

6.2.2　do_request  147

6.2.3　do_op  149

6.2.4　execute_ctx  155

6.3　状态迁移  163

6.3.1　状态机概述  164

6.3.2　创建PG  167

6.3.3　Peering  170

6.4　总结和展望  184

第7章　在线数据恢复——Recovery和Backfill  185

7.1　Recovery  186

7.1.1　资源预留  186

7.1.2　对象修复  187

7.1.3　增量Recovery和异步Recovery  191

7.2　Backfill  192

7.3　总结和展望  199

第8章　数据正确性与一致性的守护者——Scrub  201

8.1　Scrub的指导思想  202

8.2　Scrub流程详解  207

8.2.1　资源预留  207

8.2.2　范围界定  209

8.2.3　对象扫描  211

8.2.4　副本比对  213

8.2.5　统计更新与自动修复  215

8.3　Scrub抢占  215

8.4　总结和展望  218

第9章　基于dmClock的分布式流控策略  219

9.1　概述  220

9.2　dmClock基本原理  221

9.2.1　mClock  221

9.2.2　dmClock  224

9.3　dmClock算法实现  225

9.3.1　I/O请求入队  227

9.3.2　I/O请求出队  227

9.3.3　实例分析  229

9.4　在Ceph中的应用实践  233

9.4.1　client的界定  233

9.4.2　支持带宽限制  235

9.4.3　存储卷的QoS  237

9.4.4　集群流控策略  240

9.5　总结和展望  244

第10章　纠删码原理与实践  246

10.1　RAID技术概述  247

10.2　RSRAID和Jerasure  253

10.2.1　计算校验和  254

10.2.2　数据恢复  255

10.2.3　算术运算  256

10.2.4　缺陷与改进  261

10.2.5　Jerasure  262

10.3　纠删码在Ceph中的应用  264

10.3.1　术语  266

10.3.2　新写  268

10.3.3　读  269

10.3.4　覆盖写  271

10.3.5　日志  274

10.3.6　Scrub  275

10.4　总结和展望  275

......