智能计算作为人工智能时代的核心生产力，已成为国际计算机科技发展的焦点，在计算理论、体系架构、应用模式等方面迎来颠覆性变革。本书从全球发展态势、我国发展现状、未来展望和热点亮点四个方面介绍智能计算取得的重要进展情况，对智能计算核心器件、关键软件、计算设备、计算架构等全球及我国态势、关键技术产业进展进行深入研究，希望为我国智能计算领域的发展提供参考。 本书适合计算机、人工智能等专业的本科生和研究生阅读，也可供相关领域的工程技术人员和科研工作者参考。

第1章 全球发展态势
　　智能计算作为人工智能时代的重要生产力，已成为国际计算机科技发展的焦点，全球发展态势呈现出的主要特征表现在：智能计算形态日趋丰富，非传统计算处于探索阶段，计算芯片向多元化、高性能、定制化演进，开源生态逐步完善，计算模式与行业需求精准匹配，智算中心操作系统走向智能化、平台化、网络化、服务化，如图1.1所示。
　　图1.1 智能计算领域全球发展态势
　　1.1 智能计算
　　以人工智能为主要推动力的智能计算正在向多元化、巨量化、生态化方向演进，有效推动了AI产业化和产业AI化的快速发展，加速数字经济与实体经济的深度融合。分环节来看，AI芯片向算力多元化方向演进；智算中心成为算力基础设施发展的新方向，大算力、大模型成为智算中心的典型特征；智算中心基础软件也由云操作系统向云数智融合方向发展，逐渐演进成智算中心操作系统；AI计算框架已经从百家争鸣缩减为有限的几种，市场格局进一步清晰，但整体上仍由国际科技巨头主导；智算中心和AI能力开放平台的建设推动着智能计算生态不断向开放、融合的方向发展。分地区来看，美国科技企业在AI算力、智算中心、AI计算框架、AI开放平台方面有较强的资金和技术优势，引领全球AI技术的发展；我国将人工智能视为新一轮科技革命和产业变革的重要驱动力，在AI算力基础设施的建设中不断加大投入，特别是在AI服务器、AI计算框架和AI开放平台方面，中国科技创新企业正奋起直追，在部分领域已经与国际科技巨头比肩而行。
　　1.1.1 智能计算应用领域不断扩展
　　人工智能已进入工程化落地关键期，与行业融合渗透不断深入，成为医疗、交通、基础科学等领域创新突破的有力抓手。在医疗领域，智能计算与精准医疗深度结合，实现辅助智能诊断、智能手术规划、智能手术导航等应用，大幅提升医生的工作效率。例如，哈尔滨医科大学第一附属医院依靠AI技术实现复杂手术的术前规划和术中导航，辅助医生精准避让高位脊髓组织周边的关键中枢神经，实施了颈部肿瘤切除术，帮助患者恢复健康。在交通领域，智能计算助力无人驾驶的落地应用。百度无人驾驶项目Apollo Go已在多个城市试运行，累计接待旅客超过21万人次；中国自动驾驶企业(如百度、文远知行等)正积极开展基于开放道路的无人驾驶测试，标志着我国无人驾驶技术加速走向产业应用。在基础科学领域，智能计算助力科学研究探索发现新规律。谷歌子公司深度思考(Deep Mind)助力AI技术与数学家合作，AI首先对大规模数据进行探测来提出解题猜想，数学家对猜想进行精确表述和严格证明，从而发现与证明新的数学理论，该技术已经帮助数学家得到了纽结理论中代数和几何不变量之间的关系。同时，智能计算也被广泛应用到其他各项科学研究中。例如，AlphaFold2模型通过训练来预测蛋白质的3D折叠形状，IBM用人工智能预测有机化学反应的结果，从而加速新药的实验研制进度。以上表明，智能计算将成为人类扩展科学知识边界的*有用工具之一。
　　1.1.2 智能计算向多元化、规模化方向发展
　　智能计算的“多元化”包括计算场景的多样化和计算架构的多元化。第一，智能计算场景复杂多样。云计算、边缘计算、关键计算、科学计算等不同领域数据量级和计算类型各异，从AI推理到AI训练各阶段的数据量大不相同。同时，计算类型的新扩展也增大了算力需求跨度，这些复杂的应用场景推动着智能计算向多元化方向发展。第二，智能计算架构多元化。一方面，智能计算的数据输入种类繁多(如结构化、半结构化、非结构化的数据输入)，不同类型的数据对计算芯片指令集、微架构的要求不同，通用计算架构已经无法满足多元化计算场景要求。另一方面，智能手机的发展及互联网的普及为智能计算带来了海量的数据，单一架构处理器已经难以满足海量数据的实时处理要求。因此，高算力、低能耗且适应各类复杂环境的定制化AI芯片成为智能计算的发展热点。谷歌、百度、寒武纪等头部科技企业依托自身技术及业务优势从不同的切入点布局芯片产品研发和规模应用。在云端芯片方面，国外企业仍然占据领先优势。2021年谷歌发布TPUv4 AI芯片，得益于其独*的高速互连技术，能够将数百个独立的TPU处理器转变为一个整体系统，从而大幅提升云计算性能，如TPU v4 Pod(包含4096个TPU v4)算力可达到1 EXAFLOPS。2019年昆仑芯1代芯片首次在国内大型互联网业务上进行万片以上的规模部署。昆仑芯2代芯片基于自研XPU-R架构，采用7nm制程，GDDR6高带宽显存，半浮点精度(FP16)算力可达128 TFLOPS，规模部署后云计算性能大幅提高，进一步打破了国外企业对云端芯片的长期垄断。在边缘和终端芯片方面，截至2021年底，凭借MLU220/MLU270产品，寒武纪在边缘计算上实现近百万片量级的规模销售。2022年比特大陆(算能)、燧原科技等企业也在持续发力，边缘和终端芯片计算性能逐步达到行业中高端水平。综上所述，伴随人工智能在各个行业的应用，各类AI芯片的需求大幅提升，且更加细分多元，促使智能计算向多元化、规模化方向发展。
　　1.1.3 智能计算给计算机体系结构带来挑战
　　智能计算的大模型、大数据、大算力及应用的不断升级，给计算机体系结构带来挑战。第一，智能计算系统的存储需求不断提升。以NLP(自然语言处理)任务为例，基于自监督学习的预训练模型兴起后，模型精度随着模型尺寸及训练数据的增加而显著提升。2020年Open AI发布的GPT-3模型参数量突破千亿量级，达到了1750亿，单次训练需要355张GPU，花费大约2000万美元，且巨量模型对内存的需求呈指数级上涨。2021年，清华大学、北京智源等单位基于新一代神威超算系统完成百万亿参数大模型的高效训练。在超大规模智能计算系统中，需要同时满足几万块AI加速卡的高性能读取需求，这促使智能计算存储系统向更大规模的方向发展。第二，智能计算系统的算力需求不断提升。例如，GPT-3模型对算力的需求达到3640PD (PFLOPS-Day)，未来到2023年巨量模型的算力需求将达到百万PD。然而，在当今世界*快的超算系统上，完成百万PD的计算所需时间约为2年。此外，巨量模型的训练、调试以及应用还带来高能耗、高成本等问题。例如，在微软超算数据中心训练一次GPT-3模型消耗的电量约为19万度。由此可见，通过提高智能计算效率来降低计算成本将成为业内解决大模型应用落地的有效方法。
　　1.1.4 智算中心成为行业发展方向
　　智算中心可提供算力、数据和算法等人工智能全栈能力，是支撑人工智能快速发展和应用运行的新型算力基础设施。近年来，随着应用场景日益复杂化，AI算力需求呈指数级增长，智算中心规模不断扩大。根据美国《2020年国家AI倡议法案》(National AI Initiative Act of 2020)，美国国家AI倡导办公室确定了国家AI研究与应用协调发展项目，将用于AI的超算中心列为保持美国AI竞争力的四大基础设施之一。美国脸书公司，其AI“研究超级集群”(AI Research Super Cluster， RSC)在第二阶段完成时将包含大约16000个GPU，能够“在1艾字节大的数据集上使用超过一万亿个参数”训练AI系统，可以从数万亿实例中学习，跨越数百种语言工作，把文本、图像和视频放在一起分析。脸书认为，它将是世界上*快的AI超级计算机。未来，随着智能社会的不断发展，智算中心将成为支撑和引领数字经济、智能产业、智慧城市、智慧社会发展的关键信息基础设施，并有效促进AI产业化、产业AI化及政府治理智能化的进程，推进经济高质量发展。数据中心智能化升级将进一步加快步伐，基础算力、智能算力、超算算力结构将随着计算需求持续变化，智能算力规模占比将持续扩大。
　　1.1.5 智能计算框架创新升级
　　全球来看，目前以谷歌、脸书、亚马逊、微软等为代表的互联网科技巨头，凭借自身的数据、技术和资本等优势，持续在AI计算框架生态领域发力，引领全球AI计算框架创新升级。其中*具有代表性的是谷歌公司的TensorFlow框架和脸书公司的PyTorch框架。从市场占有率情况看，产业界以TensorFlow为主，学术界以PyTorch为主。产业方面，谷歌于2019年推出TensorFlow Enterprise，为大型企业提供TensorFlow的优化版本以及长期的技术支持，并与Google Cloud服务深度集成，持续巩固TensorFlow在产业界的领先地位；学术方面，据Papers With Code数据显示，2021年全年基于PyTorch的论文数量在所有基于AI计算框架的论文中占比高达58.56%，其在学术界的领先优势在持续加强。未来短期内，这种谷歌(TensorFlow)和脸书(PyTorch)为代表的“双寡头”格局较难改变。在国际

目录
《中国电子信息工程科技发展研究》编写说明
前言
第1章 全球发展态势 1
1.1 智能计算 1
1.1.1 智能计算应用领域不断扩展 2
1.1.2 智能计算向多元化、规模化方向发展 3
1.1.3 智能计算给计算机体系结构带来挑战 4
1.1.4 智算中心成为行业发展方向 5
1.1.5 智能计算框架创新升级 6
1.1.6 智能计算推动行业智能化升级 7
1.1.7 存算一体架构为算力提升提供新的机遇 8
1.2 非传统计算 9
1.3 开源创新和生态构建 11
1.3.1 国际国内智能计算开源生态建设并行发展 12
1.3.2 基于云服务的开源协同更加智能化 13
1.3.3 基于RISC-V的开源芯片快速崛起 14
1.4 计算模式与行业应用 15
1.4.1 5G促进“端边云网智”计算模式全面发展与应用 15
1.4.2 云边端融合计算在工业领域应用趋于成熟 16
1.4.3 人工智能依托“端边云网智”计算架构实现规模化应用 17
1.5 计算芯片 17
1.5.1 行业对芯片需求加剧 18
1.5.2 芯片制造工艺发展实现多点突破 18
1.5.3 X86和ARM在智能计算中仍占据重要地位 20
1.5.4 通用加速芯片支撑智能计算性能成倍提升 21
1.5.5 领域定制芯片蓬勃发展 22
1.5.6 芯粒组装模式成为重要发展趋势 24
1.5.7 多源异构数据的处理需求增长迅速 25
1.5.8 新型芯片产业化应用有待提升 26
1.6 智算中心操作系统 27
1.6.1 智算中心操作系统是云操作系统迭代升级的产物 27
1.6.2 头部厂商纷纷布局并推动智算中心操作系统发展 29
1.7 智能计算平台 30
1.7.1 智能计算与高性能计算平台结合与发展 30
1.7.2 智能计算系统发展应用面临多方挑战 33
第2章 我国发展现状 37
2.1 国产计算芯片 37
2.1.1 我国电子信息产业规模增长迅速 37
2.1.2 国产CPU芯片自主化生态体系加速构建 38
2.1.3 国产GPU芯片研发迎来热潮 39
2.1.4 国产FPGA公司加快研发进度 41
2.1.5 国产AI芯片研发能力显著提升 42
2.1.6 国产领域专用芯片加速国产化替代 44
2.1.7 国产存算一体芯片突破瓶颈 45
2.2 操作系统与基础软件 47
2.2.1 我国AI基础模型发展迅速 47
2.2.2 操作系统迎来新一轮繁荣期 48
2.2.3 国产软硬件多样化的智能计算生态加速成型 49
2.2.4 “端边云一体”的AI软件加速人工智能全场景应用 51
2.2.5 我国在大规模并行计算方面步入世界领先水平 52
2.2.6 规模化智算中心操作系统应用达到国际先进水平 54
2.2.7 智算中心操作系统向多场景延伸和覆盖 56
2.3 云边协同 60
2.3.1 云边协同的融合计算模式成为新的发展方向 61
2.3.2 “端边云网智”融合计算技术不断创新且产业发展趋势逐步明朗 62
2.3.3 人工智能从中心云向边缘下沉促使边缘智能应运而生 64
2.3.4 云服务向边缘侧延展并提出全新安全防护需求 65
2.4 计算生态规模、架构、形态同步演进 67
2.4.1 基建化、一体化建设亟待发展 67
2.4.2 国内企业纷纷探索跨域算力协同支撑全国算力一体化建设 68
2.4.3 应用推动算力多元化创新发展 68
第3章 未来展望 70
3.1 计算平台技术不断突破，生态构建逐步完善 70
3.1.1 计算平台体系结构孕育重大创新 70
3.1.2 计算平台软件生态迎来重要发展机遇 71
3.2 新型基础服务设施推动智能计算产业发展 72
3.2.1 算力一体化发展成为国家战略 72
3.2.2 构建多元异构算力设施体系推动智算中心建设 73
3.3 操作系统促进行业深度融合 73
3.3.1 深度学习框架深化探索 73
3.3.2 超大规模预训练模型通用化 74
3.3.3 云原生加速AI落地 75
3.4 多项计算芯片实现国产自主化 76
3.4.1 多种指令架构并行演进发展 76
3.4.2 核心芯片设计封装技术升级 77
3.4.3 自主计算芯片产业生态环境快速形成 77
3.5 云数智深度融合成为推动数字经济产业发展的新动力引擎 79
3.5.1 算力的多元化持续丰富泛在软件定义内涵 80
3.5.2 大规模多云混合云进一步往互联互通互操作方向发展 80
3.5.3 虚拟化和容器化并存融合演进推动云原生技术重塑IT 架构 81
3.5.4 数、智、超以云为基础底座并在云上统一以服务形式呈现 81
3.5.5 数据中心完全自动化管理开始“由点到面” 81
3.5.6 开源成为技术创新和生态构建的主要途径 82
3.5.7 云及数据安全新技术持续发展 82
3.5.8 无代码/低代码平台加速人工智能应用落地 82
第4章 我国热点亮点 84
4.1 计算芯片 84
4.1.1 芯片需求持续扩张推动国产芯片向国际先进看齐 84
4.1.2 我国自研芯片在多领域实现技术与研发突破 86
4.1.3 我国自主指令系统架构步入新阶段 88
4.1.4 智能计算芯片加速实现规模化的国产替代 89
4.1.5 计算芯片IP芯片化 90
4.1.6 加强核心技术理论突破与先进技术创新 91
4.2 操作系统/基础软件 93
4.2.1 面向人网物融合场景的多端融合操作系统探索发展 93
4.2.2 新型操作系统呈现多样化发展趋势 94
4.2.3 深度学习大规模应用开发部署能力与模型构建成为亮点 96
4.2.4 人工智能技术实现与热点行业场景的深度融合 97
4.2.5 智算中心操作系统成为企业实现AI应用的载体 99
4.2.6 加强智算中心操作系统技术突破与生态建设 102
4.3 计算平台 103
4.3.1 我国在计算平台建设的能力和技术储备达世界领先水平 103
4.3.2 我国自研计算系统性能显著提升并实现多线应用 105
4.3.3 超大规模数据中心建设与10E量级的计算平台协同发展 106
4.4 计算模式 108
4.4.1 “端边云网智”融合的计算模式处于发展初期 108
4.4.2 边缘计算业务下沉 109
4.4.3 图计算实现技术突破并取得多项创新成果 110
第5章 领域年度热词 112
第6章 领域“长板” 117
6.1 计算模式 117
6.2 计算芯片 118
参考文献 120