包邮大语言模型通识

前言 课程教学进度表 第1章 概述 1.1 人工智能基础 1.1.1 人工智能的定义 1.1.2 人工智能的实现途径 1.1.3 机器学习和深度学习 1.1.4 监督学习与无监督学习 1.2 大语言模型的定义 1.3 大语言模型形成基础 1.3.1 Blockhead思维实验 1.3.2 大模型的历史基础 1.3.3 基于Transformer模型 1.3.4 大模型的学习能力 1.3.5 大模型的世界模型问题 1.3.6 文化知识传递和语言支持 1.4 通用人工智能 1.4.1 什么是通用人工智能 1.4.2 大模型与通用人工智能 1.4.3 人工智能生成内容 [作业] [实践与思考]了解典型的开源大语言模型 第2章 大模型基础 2.1 什么是语言模型 2.1.1 语言模型的定义 2.1.2 注意力机制 2.1.3 开源还是闭源 2.2 大模型发展三阶段 2.2.1 基础模型阶段 2.2.2 他力探索阶段 2.2.3 突破发展阶段 2.3 Transformer模型 2.3.1 Transformer过程 2.3.2 Transformer结构 2.3.3 Transformer模块 2.4 生成式预训练语言模型GPT 2.5 大模型的结构 2.5.1 LLaMA的模型结构 2.5.2 LLaMA的注意力机制 [作业] [实践与思考]基于ChatGPT的免费工具：ChatAI小组件 第3章 大模型的架构 3.1 大模型生成原理 3.1.1 上下文学习 3.1.2 指令微调 3.1.3 零样本/少样本 3.1.4 深度学习架构 3.1.5 训练策略及优化技术 3.2 多模态语言模型 3.2.1 多模态指令微调 3.2.2 多模态上下文学习 3.2.3 多模态思维链 3.2.4 大模型辅助视觉推理 3.3 应用技术架构 3.3.1 指令工程 3.3.2 函数调用 3.3.3 检索增强生成 3.3.4 微调 …… 第4章 数据标注 第5章 大模型预训练数据 第6章 大模型的开发组织 第7章 分布式训练 第8章 提示工程与微调 第9章 强化学习方法 第10章 基于大模型的智能体 第11章 大模型应用框架 第12章 技术伦理与限制 第13章 大模型的评估 第14章 大模型的健康未来 附录 作业参考答案 参考文献