Hadoop应用开发实战详解-深入云计算-修订版

第1篇　hadoop技术篇
　第1章　初识hadoop
　　1.1　hadoop简介　
　　　1.1.1　hadoop的起源　
　　　1.1.2　什么是hadoop　
　　　1.1.3　hadoop的核心技术是google核心技术的开源实现　
　　　1.1.4　hadoop的功能与优点　
　　　1.1.5　hadoop的应用现状和发展趋势　
　　1.2　hadoop的体系结构　
　　　1.2.1　hdfs的体系结构　
　　　1.2.2　mapreduce的体系结构　
　　1.3　hadoop与分布式开发　
　　1.4　hadoop的数据管理　
　　　1.4.1　hdfs的数据管理　
　　　1.4.2　hbase的数据管理　
　　　1.4.3　hive的数据管理　
　　1.5　思考与总结　
　第2章　hadoop的安装和配置
　　2.1　在windows下安装与配置hadoop　
　　　2.1.1　jdk的安装　
　　　2.1.2　cygwin的安装　
　　　2.1.3　hadoop的安装　
　　2.2　在linux下安装与配置hadoop　
　　　2.2.1　ubuntu的安装　
　　　2.2.2　jdk的安装　
　　　2.2.3　hadoop的安装　
　　2.3　hadoop的执行实例　
　　　2.3.1　运行hadoop　
　　　2.3.2　运行wordcount.java程序　
　　2.4　hadoop　eclipse简介和使用　
　　　2.4.1　eclipse插件介绍　
　　　2.4.2　eclipse插件开发配置　
　　　2.4.3　在eclipse下运行wordcount程序　
　　2.5　hadoop的集群和优化　
　　　2.5.1　hadoop的性能优化　
　　　2.5.2　hadoop配置机架感知信息　
　　2.6　思考与总结　
　第3章　hdfs海量存储
　　3.1　开源的gfs——hdfs　
　　　3.1.1　hdfs简介　
　　　3.1.2　hdfs的体系结构　
　　　3.1.3　hdfs的保障可靠性措施　
　　3.2　hdfs的常用操作　
　　　3.2.1　hdfs下的文件操作　
　　　3.2.2　管理与更新　
　　　3.2.3　hdfs　api详解　
　　　3.2.4　hdfs的读/写数据流　
　　3.3　用hdfs存储海量的视频数据　
　　　3.3.1　场景分析　
　　　3.3.2　设计实现　
　　3.4　思考与总结　
　第4章　初识mapreduce
　　4.1　mapreduce简介　
　　　4.1.1　mapreduce要解决什么问题　
　　　4.1.2　mapreduce的理论基础　
　　　4.1.3　mapreduce的编程模式　
　　4.2　mapreduce的集群行为　
　　4.3　map/reduce框架　
　　4.4　样例分析：单词计数　
　　　4.4.1　wordcount实例的运行过程　
　　　4.4.2　wordcount的源码分析和程序处理过程　
　　　4.4.3　mapreduce常用类及其接口　
　　4.5　实例：倒排索引　
　　　4.5.1　倒排索引的分析和设计　
　　　4.5.2　倒排索引完整源码　
　　　4.5.3　运行代码结果　
　　4.6　mapreduce　在日志分析中数据去重案例　
　　　4.6.1　什么是数据去重　
　　　4.6.2　设计思路　
　　　4.6.3　程序代码　
　　　4.6.4　代码运行结果　
　　4.7　数据排序实例　
　　　4.7.1　实例描述　
　　　4.7.2　设计思路　
　　　4.7.3　程序代码　
　　4.8　思考与总结　
　第5章　分布式开源数据库hbase
　　5.1　hbase简介　
　　　5.1.1　hbase逻辑视图　
　　　5.1.2　hbase物理存储　
　　　5.1.3　子表region服务器　
　　　5.1.4　hmaster主服务器　
　　　5.1.5　元数据表　
　　5.2　hbase的安装配置　
　　　5.2.1　hbase单机模式　
　　　5.2.2　hbase伪分布模式　
　　　5.2.3　hbase完全分布模式　
　　5.3　学生成绩表实例　
　　　5.3.1　shell的基本操作　
　　　5.3.2　代码实现　
　　　5.3.3　关于中文的处理　
　　　5.3.4　常用hbase的　shell操作　
　　5.4　思考与总结　
　第6章　mapreduce进阶
　　6.1　api的配置　
　　　6.1.1　一个简单的配置文件　
　　　6.1.2　合并多个源文件　
　　　6.1.3　可变的扩展　
　　6.2　配置开发环境　
　　　6.2.1　配置文件设置　
　　　6.2.2　设置用户标识　
　　6.3　复合键值对的使用　
　　　6.3.1　小的键值对如何合并成大的键值对　
　　　6.3.2　巧用复合键让系统完成排序　
　　6.4　用户定制数据类型　
　　　6.4.1　内置数据类型　
　　　6.4.2　用户自定义数据类型　
　　6.5　用户定制输入/输出格式　
　　　6.5.1　内置数据的输入格式　
　　　6.5.2　用户定制数据输入格式与recordreader　
　　　6.5.3　hadoop内置的数据输出格式　
　　　6.5.4　hadoop内置的数据输出格式与recordwriter　
　　6.6　用户定制partitioner和combiner　
　　6.7　组合式的mapreduce作业　
　　　6.7.1　mapreduce作业运行机制　
　　　6.7.2　组合式mapreduce计算作业　
　　6.8　datajoin连接多数据源　
　　6.9　思考与总结　
　第7章　hive数据仓库
　　7.1　hive简介　
　　7.2　hive安装与配置　
　　7.3　hive的服务　
　　　7.3.1　hive　shell　
　　　7.3.2　jdbc/odbc　
　　　7.3.3　thrift服务　
　　　7.3.4　web接口　
　　　7.3.5　元数据服务　
　　7.4　hiveql查询语言　
　　7.5　hive实例　
　　　7.5.1　udf　编程实例　
　　　7.5.2　udaf　编程实例　
　　　7.5.3　hive的日志数据统计实战　
　　7.6　思考与总结　
　第8章　pig开发应用
　　8.1　pig简介　
　　8.2　pig的安装与配置　
　　8.3　pig的使用　
　　　8.3.1　pig的mapreduce模式　
　　　8.3.2　pig的运行方式　
　　8.4　通过grunt学习pig　latin　
　　　8.4.1　pig的数据模型　
　　　8.4.2　运算符　
　　　8.4.3　常用操作　
　　　8.4.4　各种sql在pig中的实现　
　　　8.4.5　pig　latin实现　
　　8.5　pig使用的案例　
　　8.6　思考与总结　
　第9章　chukwa数据收集系统
　　9.1　chukwa简介　
　　　9.1.1　chukwa是什么　
　　　9.1.2　chukwa主要解决什么问题　
　　9.2　chukwa的安装配置　
　　　9.2.1　chukwa的安装　
　　　9.2.2　chukwa的配置　
　　　9.2.3　chukwa的启动　
　　9.3　chukwa的基本命令　
　　　9.3.1　chukwa端的命令　
　　　9.3.2　agent　端的命令　
　　9.4　chukwa在数据收集处理方面的运用　
　　　9.4.1　数据生成　
　　　9.4.2　数据收集　
　　　9.4.3　数据处理　
　　　9.4.4　数据析取　
　　　9.4.5　数据稀释　
　　　9.4.6　数据显示　
　　9.5　思考与总结　
　第10章　zookeeper开发应用
　　10.1　zookeeper简介　
　　　10.1.1　zookeeper的设计目标　
　　　10.1.2　zookeeper主要解决什么问题　
　　　10.1.3　zookeeper的基本概念和工作原理　
　　10.2　zookeeper的安装配置　
　　　10.2.1　单机模式　
　　　10.2.2　启动并测试zookeeper　
　　　10.2.3　集群模式　
　　10.3　zookeeper提供的接口　
　　10.4　zookeeper事件　
　　10.5　zookeeper实例　
　　　10.5.1　实例1：一个简单的应用——分布式互斥锁　
　　　10.5.2　实例2：进程调度系统　
　　10.6　思考与总结　
第2篇　hadoop管理和容错篇
　第11章　hadoop管理
　　11.1　hadoop权限管理　
　　11.2　hdfs文件系统管理　
　　11.3　hadoop维护与管理　
　　11.4　hadoop常见问题及解决办法　
　　11.5　思考与总结　
　第12章　hadoop容错
　　12.1　hadoop的可靠性　
　　　12.1.1　hdfs中的namenode单点失效解决方案　
　　　12.1.2　hdfs数据块副本机制　
　　　12.1.3　hdfs心跳机制　
　　　12.1.4　hdfs负载均衡　
　　　12.1.5　mapreduce容错　
　　12.2　hadoop的secondaynamenode机制　
　　　12.2.1　磁盘镜像与日志文件　
　　　12.2.2　secondarynamenode更新镜像的流程　
　　12.3　avatar机制　
　　　12.3.1　avatar机制简介　
　　　12.3.2　avatars部署实战　
　　12.4　hadoop_hbase容错　
　　12.5　思考与总结　
第3篇　hadoop实战篇
　第13章　综合实战1：hadoop中的数据库访问
　　13.1　dbinputformat类访问数据库　
　　　13.1.1　在dbinputformat类中包含的内置类　
　　　13.1.2　使用dbinputformat读取数据库表中的记录　
　　　13.1.3　使用示例　
　　13.2　使用dboutputformat向数据库中写记录　
　　13.3　思考与总结　
　第14章　综合实战2：一个简单的分布式的grep
　　14.1　分析与设计　
　　14.2　实现代码　
　　14.3　运行程序　
　　14.4　思考与总结　
　第15章　综合实战3：打造一个搜索引擎
　　15.1　搜索引擎工作原理　
　　15.2　网页搜集与信息提取　
　　　15.2.1　设计的主要思想　
　　　15.2.2　系统设计目标　
　　15.3　网页信息的提取与存储　
　　15.4　mapreduce的预处理　
　　　15.4.1　**步：源数据过滤　
　　　15.4.2　第二步：生成倒排文件　
　　　15.4.3　第三步：建立二级索引　
　　15.5　建立web信息查询服务　
　　15.6　思考与总结　
　第16章　综合实战4：移动通信信令监测与查询
　　16.1　分析与设计　
　　　16.1.1　cdr数据文件的检测与索引创建任务调度　
　　　16.1.2　从hdfs读取数据并创建索引　
　　　16.1.3　查询cdr信息　
　　16.2　代码实现　
　　　16.2.1　cdr文件检测和索引创建任务程序　
　　　16.2.2　读取cdr数据和索引创建处理　
　　　16.2.3　cdr查询　
　　16.3　思考与总结　
附录a　hadoop命令大全　
附录b　hdfs命令大全