大数据基础与应用

前言
第1章初识大数据
1.1大数据产生的背景
1.2大数据的结构与特征
1.2.1大数据的结构
1.2.2大数据的特征
1.3大数据相关概念
1.3.1大数据关键技术
1.3.2数据类型与数据管理
1.3.3数据仓库
1.3.4数据挖掘
1.4大数据可视化
1.4.1什么是数据可视化
1.4.2数据可视化的工具与方法
1.4.3数据可视化的建模
1.4.4数据可视化分类
1.5大数据相关工具
1.5.1Hadoop
1.5.2R语言
1.5.3Python语言
1.5.4RapidMiner
1.5.5Tableau
1.6大数据时代的新机遇
1.6.1数据价值
1.6.2应用价值
1.6.3发展前景
1.7本章小结
1.8习题
第2章大数据处理架构Hadoop
2.1Hadoop简介
2.2Hadoop发展史及特点
2.3Hadoop体系结构
2.3.1HDFS体系结构
2.3.2MapReduce体系结构
2.4配置Linux环境
2.4.1安装VMware12虚拟机
2.4.2部署CentOS 64位操作系统
2.4.3配置网络
2.4.4Linux终端
2.5Hadoop环境搭建
2.5.1JDK安装和测试
2.5.2Hadoop安装和配置
2.5.3SSH免密码配置
2.6Hadoop关键组件
2.6.1HDFS
2.6.2HBase
2.6.3MapReduce
2.6.4Hive
2.6.5Pig
2.6.6Mahout
2.6.7ZooKeeper
2.6.8Flume
2.6.9Sqoop
2.6.10Ambari
2.7本章小结
2.8习题
第3章分布式文件系统HDFS
3.1HDFS概念
3.1.1HDFS简介
3.1.2HDFS相关概念
3.2HDFS体系结构
3.3HDFS文件存储机制
3.4HDFS的数据读写过程
3.4.1读数据的过程
3.4.2写数据的过程
3.5HDFS应用实践
3.5.1HDFS常用命令
3.5.2HDFS的Web界面
3.5.3HDFS常用Java API及应用实例
3.6本章小结
3.7习题
第4章计算系统MapReduce
4.1MapReduce概述
4.1.1MapReduce简介
4.1.2MapReduce 数据类型与格式
4.1.3数据类型Writable接口
4.1.4Hadoop序列化与反序列化机制
4.2MapReduce架构
4.2.1数据分片
4.2.2MapReduce的集群行为
4.2.3MapReduce作业执行过程
4.3MapReduce接口类
4.3.1MapReduce输入的处理类
4.3.2MapReduce输出的处理类
4.4MapReduce应用案例——单词计数
程序
4.4.1WordCount代码分析
4.4.2WordCount处理过程
4.5本章小结
4.6习题
第5章分布式数据库HBase
5.1初识HBase
5.1.1HBase的来源
5.1.2HBase的特点
5.1.3HBase的系统架构
5.2HBase安装与配置
5.2.1HBase运行模式分类
5.2.2Hbase的安装
5.2.3HBase基本API实例
5.2.4HBase Shell工具使用
5.3Hbase的存储结构
5.3.1存储结构中重要模块
5.3.2HBase物理存储和逻辑视图
5.3.3数据坐标
5.4HBase的实现原理
5.4.1Hbase的读写流程
5.4.2表和Region
5.4.3Region的定位
5.5HBase表结构设计
5.5.1列族定义
5.5.2表设计原则
5.5.3Rowkey设计
5.6本章小结
5.7习题
第6章NoSQL数据库
6.1NoSQL简介
6.1.1NoSQL的含义
6.1.2NoSQL的产生
6.1.3NoSQL的特点
6.2NoSQL技术基础
6.2.1一致性策略
6.2.2数据分区与放置策略
6.2.3数据复制与容错技术
6.2.4数据的缓存技术
6.3NoSQL的类型
6.3.1键值存储
6.3.2列存储
6.3.3面向文档存储
6.3.4图形存储
6.4NoSQL典型工具
6.4.1Redis
6.4.2CouchDB
6.5本章小结
6.6习题
第7章集群计算Spark
7.1深入理解Spark
7.1.1Spark简介
7.1.2Spark与Hadoop差异
7.1.3Spark的适用场景
7.1.4Spark成功案例
7.2Spark的安装与配置
7.2.1安装模式
7.2.2Spark的安装
7.2.3启动并验证Spark
7.3Spark程序的运行模式
7.3.1Spark on Yarn-cluster
7.3.2Spark on Yarn-client
7.4Spark编程实践
7.4.1启动Spark Shell
7.4.2Spark RDD基本操作
7.4.3Spark应用程序
7.5Spark的三个典型应用案例
7.5.1词频数统计
7.5.2人口的平均年龄
7.5.3搜索频率*高的K个关键词
7.6本章小结
7.7习题
第8章流计算Storm
8.1流计算概述
8.1.1流计算的概念
8.1.2流计算与Hadoop
8.1.3流计算框架
8.2开源流计算框架Storm
8.2.1Storm简介
8.2.2Storm的特点
8.2.3Storm的设计思想
8.2.4Storm的框架设计
8.3实时计算处理流程
8.3.1数据实时采集和计算
8.3.2数据查询服务
8.4典型的流引擎Spark Streaming
8.4.1Spark Streaming
8.4.2Storm和Spark Streaming框架
对比
8.5流计算的应用案例——电商
实时销售额的监控
8.5.1技术架构
8.5.2技术实现
8.5.3项目预案
8.6本章小结
8.7习题
第9章分布式协调系统ZooKeeper
9.1ZooKeeper概述
9.1.1ZooKeeper简介
9.1.2ZooKeeper数据模型
9.1.3ZooKeeper特征
9.1.4ZooKeeper工作原理
9.2ZooKeeper的安装和配置
9.2.1安装ZooKeeper
9.2.2配置ZooKeeper
9.2.3运行ZooKeeper
9.3ZooKeeper的简单操作及步骤
9.4ZooKeeper Shell操作
9.4.1ZooKeeper服务命令
9.4.2ZooKeeper客户端命令
9.5ZooKeeper API操作
9.6ZooKeeper应用案例——Master
选举
9.6.1使用场景及结构
9.6.2编码实现
9.7本章小结
9.8习题
第10章销售数据分析系统
10.1数据采集
10.1.1在Windows下安装JDK
10.1.2在Windows下安装Eclipse
10.1.3将WebCollector项目导入
Eclipse
10.1.4在Windows下安装MySQL
10.1.5连接JDBC
10.1.6运行爬虫程序
10.2在HBase集群上准备数据
10.2.1将数据导入到MySQL
10.2.2将MySQL表中的数据导入到HBase
表中
10.3安装Phoenix中间件
10.3.1Phoenix架构
10.3.2解压安装Phoenix
10.3.3Phoenix环境配置
10.3.4使用Phoenix
10.4基于Web的前端开发
10.4.1将Web前端项目导入Eclipse
10.4.2安装Tomcat
10.4.3在Eclipse中配置Tomcat
10.4.4在Web浏览器中查看执行
结果
10.5本章小结
10.6习题
第11章交互式数据处理
11.1数据预处理
11.1.1查看数据
11.1.2数据扩展
11.1.3数据过滤
11.1.4数据上传
11.2创建数据仓库
11.2.1创建数据仓库的基本命令
11.2.2创建Hive区分表
11.3数据分析
11.3.1基本统计
11.3.2用户行为分析
11.3.3实时数据
11.4本章小结
11.5习题
第12章协同过滤推荐系统
12.1推荐算法概述
12.1.1基于人口统计学的推荐
12.1.2基于内容的推荐
12.1.3基于协同过滤的推荐
12.2协同过滤推荐算法分析
12.2.1基于用户的协同过滤推荐
12.2.2基于物品的协同过滤推荐
12.3Spark MLlib推荐算法应用
12.3.1ALS算法原理
12.3.2ALS的应用设计
12.4本章小结
12.5习题
附录课后习题答案
参考文献