超级计算机原理与实践

目录**部分 超级计算机的基础知识第1章 超级计算机入门 11.1 超级计算机简介 11.2 超级计算机的性能指标 51.2.1 基本性能指标 51.2.2 可扩展性 61.2.3 峰值性能与持续性能 71.2.4 其他性能指标 81.3 超级计算机的基准评测集 81.3.1 计算性能评测集 91.3.2 I/O 性能评测集 151.3.3 网络性能评测集 171.3.4 应用评测集 181.4 超级计算机的发展历程 191.4.1 “初生”时代 191.4.2 “克雷”时代 191.4.3 “多核”时代 201.4.4 “异构”时代 211.4.5 国产超级计算机的发展历程 211.5 超级计算机的应用领域 221.6 本章小结 23课后习题 23第2章 超级计算机硬件与体系结构 242.1 超级计算机硬件 242.1.1 计算阵列 252.1.2 存储阵列 262.1.3 服务阵列 262.1.4 互连通信子系统 272.1.5 监控诊断子系统 282.2 超级计算机体系结构 282.2.1 Flynn 分类法 282.2.2 典型超级计算机体系结构分类 292.3 本章小结 41课后习题 42第二部分 超级计算机的系统软件第3章 超算调度系统 433.1 超算调度系统的发展历史 433.2 超算调度系统功能模型 453.3 典型超算调度系统 463.3.1 LSF 463.3.2 Slurm 523.4 本章小结 58课后习题 58第4章 超算存储与文件系统 594.1 超算系统典型存储结构 594.2 并行文件系统 604.2.1 文件访问接口 604.2.2 并行文件系统关键技术 624.2.3 Lustre 文件系统 644.2.4 BeeGFS 介绍 684.3 I/O 中间件 714.3.1 MPI I/O 724.3.2 PLFS 734.3.3 其他 744.4 本章小结 75课后习题 75第三部分 面向超级计算机的并行编程第5章 并行编程基础 775.1 并行编程模型 775.1.1 共享内存编程模型 775.1.2 消息传递编程模型 785.1.3 数据并行编程模型 805.1.4 混合并行编程模型 815.1.5 隐式并行编程模型 825.2 并行程序执行模式 825.2.1 主从模式 825.2.2 SPMD 模式 825.2.3 MPMD 模式 835.3 并行程序设计的方法论 835.3.1 Foster 方法论简介 835.3.2 并行算法 855.4 本章小结 88课后习题 88第6章 传统并行编程 906.1 MPI 编程 906.1.1 MPI 基本概念 906.1.2 MPI 通信模式 936.2 Pthreads 编程 976.2.1 线程管理 986.2.2 线程同步 1006.3 OpenMP 编程 1086.3.1 编译器指令 1086.3.2 并行结构与常用指令 1086.3.3 数据范围属性子句 1146.3.4 运行时库函数和环境变量 1156.4 混合并行编程 1156.4.1 混合并行编程的基本思想 1166.4.2 混合并行编程方法 1166.4.3 混合并行编程实例 1206.5 本章小结 121课后习题 121第7章 异构并行编程 1237.1 CUDA 编程 1237.1.1 CUDA 编程模型 1257.1.2 CUDA 执行模型 1357.1.3 CUDA 函数库 1377.2 OpenCL 编程 1387.2.1 OpenCL 平台模型 1387.2.2 OpenCL 编程模型 1397.2.3 OpenCL 执行模型 1397.2.4 OpenCL 内存模型 1407.2.5 OpenCL 编程实例 1417.3 本章小结 145课后习题 146第四部分 典型并行应用案例与应用软件介绍第8章 典型并行应用案例 1478.1 通用矩阵乘法并行化 1478.1.1 基于 OpenMP 并行化实现 1478.1.2 基于 Pthreads 并行化实现 1488.1.3 基于 MPI 并行化实现 1498.2 **排序算法并行化 1528.2.1 奇偶排序并行化：消除数据相关性 1528.2.2 二路归并排序并行化 1548.3 生产者消费者问题并行化 1558.4 分布式机器学习并行化 1598.4.1 单机计算与并行模式 1598.4.2 任务划分与聚合 1618.4.3 分布式架构与网络通信 1648.5 本章小结 167课后习题 167第9章 超算基础软件库和应用开发框架 1689.1 超算基础软件库 1689.1.1 ScaLAPACK 1689.1.2 Trilinos 1709.1.3 TAO 1779.1.4 HPCToolkit 1789.1.5 ADIOS 1819.1.6 Kokkos 1829.1.7 VTK-m 1849.2 超算应用开发框架 1859.2.1 VASP 1859.2.2 Gaussian 1879.2.3 Fluent 1909.2.4 OpenFOAM 1929.2.5 GROMACS 1969.2.6 NAMD 1979.2.7 MATLAB 1989.2.8 MOOSE 2009.3 本章小结 203课后习题 204参考文献 205