互联网大数据处理技术与应用

目录 第1部分概述 第1章互联网大数据 1.1从IT走向DT 1.1.1信息化与Web时代 1.1.2大数据时代 1.2互联网大数据及其特点 1.3互联网大数据处理的相关技术 1.3.1技术体系构成 1.3.2相关技术研究 1.4互联网大数据技术的发展 1.5本书内容安排 思考题 第2部分互联网大数据的获取 第2章Web页面数据获取 2.1网络爬虫技术概述 2.2爬虫的内核技术 2.2.1Web服务器连接器 2.2.2页面解析器 2.2.3爬行策略搜索 2.3主题爬虫技术 2.3.1主题爬虫模块构成 2.3.2主题定义 2.3.3链接相关度估算 2.3.4内容相关度计算 2.4动态Web页面获取技术 2.4.1动态页面的分类 2.4.2动态页面的获取方法 2.4.3模拟浏览器的实现 2.4.4基于脚本解析的实现 2.5微博信息内容获取技术 2.6DeepWeb数据获取技术 2.6.1相关概念 2.6.2DeepWeb数据获取方法 2.7反爬虫技术与反反爬虫技术 2.7.1反爬虫技术 2.7.2反反爬虫技术 2.7.3爬虫技术的展望 思考题 第3章互联网大数据的提取技术 3.1Web页面内容提取技术 3.1.1Web页面内容提取的基本任务 3.1.2Web页面解析方法概述 3.1.3基于HTMLParser的页面解析 3.1.4基于Jsoup的页面解析 3.2基于统计的Web信息抽取方法 3.3其他互联网大数据的提取 3.4阿里云公众趋势分析中的信息提取应用 3.5互联网大数据提取的挑战性问题 思考题 第3部分互联网大数据的结构化处理与分析技术 第4章结构化处理技术 4.1互联网大数据中的文本信息特征 4.2中文文本的词汇切分 4.2.1词汇切分的一般流程 4.2.2基于词典的分词方法 4.2.3基于统计的分词方法 4.2.4歧义处理 4.3词性识别 4.3.1词性标注的难点 4.3.2基于规则的方法 4.3.3基于统计的方法 4.4新词识别 4.5停用词的处理 4.6英文中的词形规范化 4.7开源工具与平台 4.7.1开源工具及应用 4.7.2阿里分词器 思考题 第5章大数据语义分析技术 5.1语义及语义分析 5.2词汇级别的语义技术 5.2.1词汇的语义关系 5.2.2知识库资源 5.2.3词向量 5.2.4词汇的语义相关度计算 5.3句子级别的语义分析技术 5.4命名实体识别技术 5.4.1命名实体识别的研究内容 5.4.2人名识别方法 5.4.3地名识别方法 5.4.4时间识别方法 5.4.5基于机器学习的命名实体识别 5.5大数据语义分析技术的发展 思考题 第6章大数据分析的模型与算法 6.1大数据分析技术概述 6.2特征选择与特征提取 6.2.1特征选择 6.2.2特征提取 6.2.3基于深度学习的特征提取 6.3文本的向量空间模型 6.3.1向量空间模型的维 6.3.2向量空间模型的坐标 6.3.3向量空间模型中的运算 6.3.4文本型数据的逻辑存储结构 6.4文本的概率模型 6.4.1Ngram模型 6.4.2概率主题模型 6.5分类技术 6.5.1分类技术概要 6.5.2经典的分类技术 6.6聚类技术 6.7回归分析 6.7.1回归分析的基本思路 6.7.2线性回归 6.7.3加权线性回归 6.7.4逻辑回归 6.8大数据分析算法的并行化 6.8.1并行化框架 6.8.2矩阵相乘的并行化 6.8.3经典分析算法的并行化 6.9基于阿里云大数据平台的数据挖掘实例 6.9.1网络数据流量分析 6.9.2网络论坛话题分析 思考题 第7章大数据隐私保护 7.1隐私保护概述 7.2隐私保护模型 7.2.1隐私泄露场景 7.2.2k匿名及其演化 7.2.31多元化 7.3位置隐私保护 7.4社会网络隐私保护 思考题 第8章大数据技术平台 8.1概述 8.2大数据技术平台的分类 8.3大数据存储平台 8.3.1大数据存储需要考虑的因素 8.3.2HBase 8.3.3MongoDB 8.3.4Neo4j 8.3.5云数据库 8.3.6其他 8.4大数据可视化 8.4.1大数据可视化的挑战 8.4.2大数据可视化方法 8.4.3大数据可视化工具 8.5Hadoop 8.5.1Hadoop概述 8.5.2Hadoop生态圈及关键技术 8.5.3Hadoop的版本 8.6Spark 8.6.1Spark的概述 8.6.2Spark的生态圈 8.6.3SparkSQL 8.6.4Spark Streaming 8.6.5Spark机器学习 8.7阿里云大数据平台 8.7.1飞天系统 8.7.2大数据集成平台 思考题 第4部分综 合 应 用 第9章基于阿里云大数据技术的个性化新闻推荐 9.1目的与任务 9.2系统架构 9.3存储设计 9.3.1RDS 9.3.2OSS 9.3.3OTS 9.3.4MaxCompute 9.4软件架构 9.4.1ECS 9.4.2爬虫 9.4.3模型训练 9.4.4分类过程 9.4.5开源代码 9.5阿里云大数据的应用开发 9.5.1开发环境 9.5.2部署 9.5.3运行与测试 思考题 参考文献