白话大数据与机器学习

目　　录?contents前　言第1章　大数据产业 11.1　大数据产业现状 11.2　对大数据产业的理解 21.3　大数据人才 31.3.1　供需失衡 31.3.2　人才方向 31.3.3　环节和工具 51.3.4　门槛障碍 61.4　小结 8第2章　步入数据之门 92.1　什么是数据 92.2　什么是信息 102.3　什么是算法 122.4　统计、概率和数据挖掘 132.5　什么是商业智能 132.6　小结 14第3章　排列组合与古典概型 153.1　排列组合的概念 163.1.1　公平的决断——扔硬币 163.1.2　非古典概型 173.2　排列组合的应用示例 183.2.1　双色球彩票 183.2.2　购车摇号 203.2.3　德州扑克 213.3　小结 25第4章　统计与分布 274.1　加和值、平均值和标准差 274.1.1　加和值 284.1.2　平均值 294.1.3　标准差 304.2　加权均值 324.2.1　混合物定价 324.2.2　决策权衡 344.3　众数、中位数 354.3.1　众数 364.3.2　中位数 374.4　欧氏距离 374.5　曼哈顿距离 394.6　同比和环比 414.7　抽样 434.8　高斯分布 454.9　泊松分布 494.10　伯努利分布 524.11　小结 54第5章　指标 555.1　什么是指标 555.2　指标化运营 585.2.1　指标的选择 585.2.2　指标体系的构建 625.3　小结 63第6章　信息论 646.1　信息的定义 646.2　信息量 656.2.1　信息量的计算 656.2.2　信息量的理解 666.3　香农公式 686.4　熵 706.4.1　热力熵 706.4.2　信息熵 726.5　小结 75第7章　多维向量空间 767.1　向量和维度 767.1.1　信息冗余 777.1.2　维度 797.2　矩阵和矩阵计算 807.3　数据立方体 837.4　上卷和下钻 857.5　小结 86第8章　回归 878.1　线性回归 878.2　拟合 888.3　残差分析 948.4　过拟合 998.5　欠拟合 1008.6　曲线拟合转化为线性拟合 1018.7　小结 104第9章　聚类 1059.1　k-means算法 1069.2　有趣模式 1099.3　孤立点 1109.4　层次聚类 1109.5　密度聚类 1139.6　聚类评估 1169.6.1　聚类趋势 1179.6.2　簇数确定 1199.6.3　测定聚类质量 1219.7　小结 124第10章　分类 12510.1　朴素贝叶斯 12610.1.1　天气的预测 12810.1.2　疾病的预测 13010.1.3　小结 13210.2　决策树归纳 13310.2.1　样本收集 13510.2.2　信息增益 13610.2.3　连续型变量 13710.3　随机森林 14010.4　隐马尔可夫模型 14110.4.1　维特比算法 14410.4.2　前向算法 15110.5　支持向量机svm 15410.5.1　年龄和好坏 15410.5.2　“下刀”不容易 15710.5.3　距离有多远 15810.5.4　n维度空间中的距离 15910.5.5　超平面怎么画 16010.5.6　分不开怎么办 16010.5.7　示例 16310.5.8　小结 16410.6　遗传算法 16410.6.1　进化过程 16410.6.2　算法过程 16510.6.3　背包问题 16510.6.4　极大值问题 17310.7　小结 181第11章　关联分析 18311.1　频繁模式和apriori算法 18411.1.1　频繁模式 18411.1.2　支持度和置信度 18511.1.3　经典的apriori算法 18711.1.4　求出所有频繁模式 19011.2　关联分析与相关性分析 19211.3　稀有模式和负模式 19311.4　小结 194第12章　用户画像 19512.1　标签 19512.2　画像的方法 19612.2.1　结构化标签 19612.2.2　非结构化标签 19812.3　利用用户画像 20312.3.1　割裂型用户画像 20312.3.2　紧密型用户画像 20412.3.3　到底“像不像” 20412.4　小结 205第13章　推荐算法 20613.1　推荐思路 20613.1.1　贝叶斯分类 20613.1.2　利用搜索记录 20713.2　user-based cf 20913.3　item-based cf 21113.4　优化问题 21513.5　小结 217第14章　文本挖掘 21814.1　文本挖掘的领域 21814.2　文本分类 21914.2.1　rocchio算法 22014.2.2　朴素贝叶斯算法 22314.2.3　k-近邻算法 22514.2.4　支持向量机svm算法 22614.3　小结 227第15章　人工神经网络 22815.1　人的神经网络 22815.1.1　神经网络结构 22915.1.2　结构模拟 23015.1.3　训练与工作 23115.2　fann库简介 23315.3　常见的神经网络 23515.4　bp神经网络 23515.4.1　结构和原理 23615.4.2　训练过程 23715.4.3　过程解释 24015.4.4　示例 24015.5　玻尔兹曼机 24415.5.1　退火模型 24415.5.2　玻尔兹曼机 24515.6　卷积神经网络 24715.6.1　卷积 24815.6.2　图像识别 24915.7　深度学习 25515.8　小结 256第16章　大数据框架简介 25716.1　著名的大数据框架 25716.2　hadoop框架 25816.2.1　mapreduce原理 25916.2.2　安装hadoop 26116.2.3　经典的wordcount 26416.3　spark 框架 26916.3.1　安装spark 27016.3.2　使用scala计算wordcount 27116.4　分布式列存储框架 27216.5　prestodb——神奇的cli 27316.5.1　presto为什么那么快 27316.5.2　安装presto 27416.6　小结 277第17章　系统架构和调优 27817.1　速度——资源的配置 27817.1.1　思路一：逻辑层面的优化 27917.1.2　思路二：容器层面的优化 27917.1.3　思路三：存储结构层面的优化 28017.1.4　思路四：环节层面的优化 28017.1.5　资源不足 28117.2　稳定——资源的可用 28217.2.1　借助云服务 28217.2.2　锁分散 28217.2.3　排队 28317.2.4　谨防“雪崩” 28317.3　小结 285第18章　数据解读与数据的价值 28618.1　运营指标 28618.1.1　互联网类型公司常用指标 28718.1.2　注意事项 28818.2　ab测试 28918.2.1　网页测试 29018.2.2　方案测试 29018.2.3　灰度发布 29218.2.4　注意事项 29318.3　数据可视化 29518.3.1　图表 29518.3.2　表格 29918.4　多维度——大数据的灵魂 29918.4.1　多大算大 29918.4.2　大数据网络 30018.4.3　去中心化才能活跃 30118.4.4　数据会过剩吗 30218.5　数据变现的场景 30318.5.1　数据价值的衡量的讨论 30318.5.2　场景1：征信数据 30718.5.3　场景2：宏观数据 30818.5.4　场景3：画像数据 30918.6　小结 310附录a　vmware workstation的安装 311附录b　centos虚拟机的安装方法 314附录c　python语言简介 318附录d　scikit-learn库简介 323附录e　fann for python安装 324附录f　群众眼中的大数据 325写作花絮 327参考文献 329