人工智能概论

目录 第1章 人工智能概念与发展 1 1.1 人工智能概念 1 1.1.1 定义 1 1.1.2 判断方法 4 1.1.3 模型 6 1.1.4 表示 7 1.1.5 推理 8 1.1.6 学习 10 1.1.7 优化 13 1.1.8 深度学习 14 1.2 人工智能的发展简史 15 1.2.1 人工智能的提出 16 1.2.2 推理与证明 16 1.2.3 危机 17 1.2.4 专家系统 17 1.2.5 重生 18 1.3 人工智能学派 19 1.3.1 符号主义 19 1.3.2 连接主义 20 1.3.3 行为主义 20 1.3.4 另一种分类 21 1.4 小结 22 习题 23 第2章 知识表示 24 2.1 基本概念 24 2.1.1 数据 24 2.1.2 信息 24 2.1.3 知识 25 2.1.4 人工智能中的知识表示 26 2.2 状态空间图 28 2.3 问题归约 30 2.4 谓词逻辑 32 2.4.1 命题 32 2.4.2 谓词逻辑表示 33 2.5 语义网络 37 2.5.1 语义基元 38 2.5.2 常见的语义联系 38 2.6 不确定知识表示 40 2.7 其他表示方法 41 2.7.1 规则表示 41 2.7.2 框架表示 42 2.7.3 脚本表示 43 2.7.4 面向对象表示 44 2.7.5 智能体Agent 45 2.8 小结 46 习题 46 第3章 确定性与不确定性推理 48 3.1 图搜索策略 48 3.1.1 盲目搜索 48 3.1.2 启发式搜索 55 3.2 命题逻辑推理 58 3.2.1 完全归纳法 59 3.2.2 反演法 59 3.3 语义网络推理 61 3.4 产生式系统 62 3.5 不确定性推理 65 3.5.1 事件概率 65 3.5.2 贝叶斯推理 67 3.6 小结 69 习题 69 第4章 神经网络 71 4.1 计算智能 71 4.2 人工神经网络相关概念 72 4.2.1 并行分布处理 73 4.2.2 非线性映射 73 4.2.3 训练学习 74 4.3 人工神经元结构与激活函数 74 4.3.1 生物神经元结构 74 4.3.2 人工神经元结构 75 4.3.3 神经元中的激发函数 75 4.4 人工神经网络结构 76 4.4.1 人工神经网络的一般结构 76 4.4.2 对比生物神经网络 78 4.5 前馈网络与反馈网络 78 4.5.1 前馈神经网络 78 4.5.2 反馈神经网络 79 4.6 表示与推理 82 4.6.1 基于神经网络的知识表示与推理 82 4.6.2 与逻辑 83 4.6.3 异或逻辑 84 4.6.4 基于神经网络的推理 85 4.6.5 神经网络的泛化能力 85 4.7 应用领域 86 4.8 小结 87 习题 87 第5章 进化算法 89 5.1 发展背景 89 5.2 进化策略 90 5.3 进化规划 91 5.4 遗传算法 92 5.4.1 染色体编码与解码 94 5.4.2 初始种群 96 5.4.3 适应度函数 96 5.4.4 遗传操作 97 5.5 小结 104 习题 105 第6章 群体智能 106 6.1 发展背景 106 6.2 社会系统 107 6.3 粒子群算法 108 6.3.1 基本思路 108 6.3.2 算法描述 108 6.3.3 惯性因子讨论 109 6.3.4 标准PSO算法 110 6.4 蚁群算法 116 6.4.1 基本原理 116 6.4.2 蚁群TSP系统模型 117 6.4.3 函数优化 120 6.5 小结 122 习题 123 第7章 机器学习基础 125 7.1 机器学习的定义和发展历史 125 7.1.1 机器学习定义 125 7.1.2 发展历程 126 7.1.3 相关概念 127 7.1.4 过程模型 128 7.1.5 常用机器学习模型 129 7.2 归纳与回归 130 7.2.1 数据归纳处理 130 7.2.2 回归 131 7.2.3 过拟合与欠拟合 134 7.3 分类分析 136 7.3.1 决策树 136 7.3.2 朴素贝叶斯模型 140 7.3.3 支持向量机 142 7.3.4 k近邻 146 7.3.5 集成学习 150 7.4 聚类分析 153 7.4.1 k-means算法 154 7.4.2 基于密度的聚类方法DBSCAN 156 7.4.3 层次聚类法 158 7.5 小结 161 习题 161 第8章 模型度量 163 8.1 偏差与方差 163 8.1.1 偏差 163 8.1.2 方差与标准差 164 8.1.3 偏差-方差平衡 166 8.1.4 均方误差 167 8.2 准确率和错误率 167 8.3 精确率、召回率、F1分数 168 8.4 ROC*线 171 8.4.1 ROC*线定义 171 8.4.2 ROC*线绘制 172 8.5 AUC值 174 8.6 交叉验证 175 8.7 小结 176 习题 176 第9章 异常检测 177 9.1 统计方法 177 9.1.1 3??方法 177 9.1.2 箱线图 179 9.2 密度方法 181 9.2.1 LOF 181 9.2.2 DBSCAN 185 9.3 基于距离的方法 186 9.3.1 孤立森林 186 9.3.2 k-NN 189 9.4 本章小结 190 习题 191 第10章 梯度下降 193 10.1 拟合 193 10.2 梯度下降法的基本原理 194 10.2.1 公式变换 194 10.2.2 方向导数与梯度 195 10.2.3 梯度表示与计算 196 10.2.4 算法描述 196 10.2.5 随机梯度下降法 201 10.3 模型函数 202 10.3.1 假设函数 202 10.3.2 损失函数 202 10.3.3 代价函数与目标函数 210 10.4 本章小结 212 习题 212 第11章 逻辑回归 214 11.1 逻辑分布 214 11.2 决策边界 215 11.3 线性模型与非线性模型 216 11.4 逻辑回归算法 218 11.4.1 逻辑回归模型的假设函数 218 11.4.2 逻辑回归的代价函数与目标函数 221 11.4.3 计算参数w、b：梯度下降 222 11.5 Softmax回归 223 11.5.1 多分类问题 223 11.5.2 Softmax回归模型 224 11.6 判别模型与生成模型 226 11.6.1 判别模型 227 11.6.2 生成模型 227 11.7 本章小结 228 习题 228 第12章 BP神经网络 230 12.1 复合函数梯度计算 230 12.2 逻辑回归函数梯度计算 232 12.2.1 单样本情况的梯度计算 232 12.2.2 多样本情况的梯度计算 233 12.3 BP神经网络的基本原理 234 12.3.1 BP神经网络的假设函数 234 12.3.2 BP神经网络的代价函数 235 12.3.3 前向传播 236 12.3.4 反向传播 236 12.4 应用BP神经网络的步骤 247 12.5 本章小结 247 习题 248 第13章 深度学习 249 13.1 发展背景 249 13.2 神经网络的兴起 250 13.2.1 大数据的支撑 250 13.2.2 全连接网络的缺陷 251 13.3 卷积神经网络结构 252 13.3.1 输入层 253 13.3.2 卷积层 254 13.3.3 非线性层 262 13.3.4 池化层 265 13.3.5 全连接层 267 13.3.6 输出层 269 13.4 网络训练 270 13.4.1 训练方法 270 13.4.2 预训练与微调 271 13.5 小结 272 习题 272 第14章 自然语言处理 274 14.1 发展背景 274 14.2 语言模型 275 14.2.1 基础模型 275 14.2.2 n-gram模型 276 14.3 词向量 278 14.3.1 离散式表示 279 14.3.2 分布式表示 283 14.4 神经网络语言模型 291 14.5 预训练模型 294 14.6 小结 294 习题 295 参考文献 296