生成式AI入门与AWS实战

前言 1 第 1章 生成式AI用例、基础知识和项目生命周期 5 1.1 生成式AI用例和任务 5 1.2 基础模型和模型中心 8 1.3 生成式AI项目生命周期 8 1.4 AWS上的生成式AI 11 1.5 为什么选择基于AWS构建生成式AI 13 1.6 在AWS上构建生成式AI应用程序 14 1.7 小结 16 第 2章 提示工程与上下文学习 17 2.1 提示与补全 17 2.2 token 18 2.3 提示工程 18 2.4 提示结构 19 2.4.1 指令 20 2.4.2 上下文 20 2.5 通过少样本推理进行上下文学习 22 2.5.1 零样本推理 23 2.5.2 单样本推理 23 2.5.3 少样本推理 23 2.5.4 上下文学习出错 24 2.5.5 上下文学习实践 25 2.6 提示工程实践 26 2.7 推理配置参数 31 2.8 小结 36 第3章 大语言基础模型 37 3.1 大语言基础模型简介 37 3.2 分词器 39 3.3 嵌入向量 40 3.4 Transformer 41 3.4.1 输入token上下文窗口 42 3.4.2 嵌入 42 3.4.3 编码器 42 3.4.4 自注意力层 43 3.4.5 解码器 44 3.4.6 Softmax输出 44 3.5 基于Transformer的基础模型的类别 45 3.6 预训练数据集 48 3.7 缩放定律 48 3.8 计算*优模型 50 3.9 小结 51 第4章 显存和计算优化 53 4.1 显存容量挑战 53 4.2 数据类型和数值精度 55 4.3 量化 57 4.3.1 fp16 57 4.3.2 bfloat16 59 4.3.3 fp8 60 4.3.4 int8 61