数据科学中的并行计算:以R.C++和CUDA为例

第1章 R语言中的并行处理入门1 1.1 反复出现的主题：良好并行所具有的标准. . . . . . . . . . . . 1 1.2 关于机器. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 1.3 反复出现的主题：不要把鸡蛋放在一个篮子里. . . . . . . . . . 3 1.4 扩展示例：相互网页外链. . . . . . . . . . . . . . . . . . . . . 3 第2章 “我的程序为什么这么慢？”：速度的障碍15 2.1 速度的障碍. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 2.2 性能和硬件结构. . . . . . . . . . . . . . . . . . . . . . . . . . . 16 2.3 内存的基础知识. . . . . . . . . . . . . . . . . . . . . . . . . . . 17 2.4 网络基础. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 2.5 延迟和带宽. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 2.6 线程调度. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 2.7 多少个进程/线程？ . . . . . . . . . . . . . . . . . . . . . . . . . 27 2.8 示例：相互外链问题. . . . . . . . . . . . . . . . . . . . . . . . 27 2.9 “大O”标记法. . . . . . . . . . . . . . . . . . . . . . . . . . 28 2.10 数据序列化. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 2.11 “易并行”的应用. . . . . . . . . . . . . . . . . . . . . . . . . 29 第3章 并行循环调度的准则31 3.1 循环调度的通用记法. . . . . . . . . . . . . . . . . . . . . . . . 32 3.2 snow 中的分块. . . . . . . . . . . . . . . . . . . . . . . . . . . 33 3.3 关于代码复杂度. . . . . . . . . . . . . . . . . . . . . . . . . . . 36 3.4 示例：所有可能回归. . . . . . . . . . . . . . . . . . . . . . . . 36 3.5 partools 包. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48 3.6 示例：所有可能回归，改进版本. . . . . . . . . . . . . . . . . . 48 3.7 引入另一个工具：multicore . . . . . . . . . . . . . . . . . . . . 54 3.8 块大小的问题. . . . . . . . . . . . . . . . . . . . . . . . . . . . 61 3.9 示例：并行距离计算. . . . . . . . . . . . . . . . . . . . . . . . 62 3.10 foreach 包. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67 3.11 跨度. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 3.12 另一种调度方案：随机任务置换. . . . . . . . . . . . . . . . . . 71 3.13 调试snow 和multicore 的代码. . . . . . . . . . . . . . . . . . 74 第4章 共享内存范式：基于R 的简单介绍76 第5章 共享内存范式：C 语言层面112 第6章 共享内存范式：GPU 157 第7章 Thrust 与Rth 176 第8章 消息传递范式186 第9章 MapReduce 计算204 第10章 并行排序和归并214 第11章 并行前缀扫描227 第12章 并行矩阵运算244 第13章 原生统计方法：子集方法266 附录A 回顾矩阵代数275