📘 第 3 课：What is generative AI（什么是生成式 AI）
所属课程：AI Fluency for Builders（the AI Architect path 第 1 门） 官方课时定位：Section 2「How AI works」— Lesson「AI capabilities & limitations」 课时长度：预计 25 分钟（视频 12 分钟 + 练习） 针对认证：CCAR-P（架构师 Professional） 整理日期：2026-10-13 ⚠️ 语料来源：官方 Skilljar 课程正文（用户提供，非公开抓取）。CC BY-NC-SA 4.0，仅供个人学习。 ⭐ 本课权重提示：Curriculum 中标注为领域 5 直接考点，是全科技术含量最高的一课。
🎯 本课学习目标（What you'll learn）
Estimated time: 25 minutes
学完本课后，你应当能够：
- 定义生成式 AI，并说明它与其他类型 AI 的区别
- 解释使现代 LLM 成为可能的三项进展
- 识别当前 AI 擅长什么、以及在哪些地方会可靠地失效
📖 一、课程导读
本节视频讲解像 the AI 这样的大语言模型（LLM）是如何构建和训练的，以及当你把它投入业务使用时，这对它能可靠做什么、不能可靠做什么意味着什么。
要点拆解： * 落点是 reliably（可靠地）—— 不是「能不能做」，而是「能不能稳定地做对」。这个副词是理解本课全部边界的钥匙。 * 训练原理 → 能力边界，是一条因果链：本课不是科普，而是要用训练方式解释失效模式。
🔑 二、核心要点（Key takeaways）· 必背
1. 生成式 AI 的本质
Generative AI creates new content rather than analyzing existing data.
精译：生成式 AI 创造新内容，而不是分析既有数据。
| 生成式 AI（Generative AI） | 传统 / 分析型 AI（Analytical AI） | |
|---|---|---|
| 核心动作 | 生成（create） | 分析、分类、预测（analyze / classify / predict） |
| 产出 | 新内容（文本、代码、图像） | 判断结果、标签、分数 |
| 典型例子 | LLM 写文档、写代码 | 分类器判垃圾邮件、模型预测流失率 |
考点：题干问「生成式 AI 与传统分析型 AI 的根本区别」→ 答「创造新内容 vs 分析既有数据」。这是最基础的定义题。
2. ⭐ 使现代 LLM 成为可能的三项进展
Three developments made modern LLMs possible: the transformer architecture, vast training data, and massive compute.
| 进展 | 英文 | 作用 |
|---|---|---|
| Transformer 架构 | transformer architecture |
模型结构基础（注意力机制，能处理长程依赖） |
| 海量训练数据 | vast training data |
提供学习素材的规模 |
| 大规模算力 | massive compute |
支撑训练的计算资源 |
记忆法：架构 + 数据 + 算力（Architecture + Data + Compute）—— 三要素缺一不可。 考点：极高概率出「以下哪一项不是使现代 LLM 成为可能的进展」这类排除题。陷阱选项常混入「更大的参数量」「更好的提示词」「强化学习」等看似相关但不在官方三项之列的答案。 ⚠️ 注意官方用词是
vast（海量）与massive（大规模），不是 big / large。
3. ⭐ 训练的两个阶段
Training has two stages. Pre-training learns patterns from billions of examples. Fine-tuning teaches the model to follow instructions helpfully.
| 阶段 | 英文 | 学什么 | 关键数量词 |
|---|---|---|---|
| 预训练 | pre-training |
从数十亿样本中学习模式（patterns） | billions of examples |
| 微调 | fine-tuning |
学会有帮助地遵循指令 | follow instructions helpfully |
关键理解： * 预训练学的是模式（patterns），不是事实库 —— 这直接解释了为什么模型会幻觉：它生成的是「看起来像那么回事的序列」，而不是「查到的确切事实」。 * 微调教的是遵循指令（follow instructions）且有帮助（helpfully） ——
helpfully这个词解释了为什么模型倾向于给答案而不是说"我不知道"，即讨好倾向（sycophancy）的根源。考点串联（非常重要）： | 训练阶段 | 导致的失效模式 | 考纲领域 | |---|---|:---:| | 预训练学「模式」而非事实 | 幻觉（hallucination） | 领域 5 | | 预训练数据有时间截止 | 知识截止（knowledge cutoff） | 领域 5 | | 微调教「有帮助地遵循指令」 | 过度自信 / 不轻易说不知道 | 领域 5 |
这条因果链是本课最值钱的部分 —— 考题若问「为什么 LLM 会生成看似合理但错误的内容」，根因要答到预训练学的是模式，而不是笼统的「模型不够大」。
4. ⭐ 当前 AI 的优势（Strengths）
Current strengths include versatility across tasks, conversational fluency, and tool use.
| 优势 | 英文 | 说明 |
|---|---|---|
| 跨任务通用性 | versatility across tasks |
同一模型处理多种任务（写作、代码、分析、翻译） |
| 对话流畅度 | conversational fluency |
自然语言交互，能追问、能澄清 |
| 工具使用 | tool use |
能调用外部工具 / 函数 / API |
记忆法：通用 + 流畅 + 会用工具。 考点：
tool use直接对应考纲领域 3 的工具集成与 MCP，也是 Delegation（下一课）的技术基础 —— 正因为 AI 会用工具，委派才有意义，也因此工具集裁剪（最小特权）才成为安全焦点。
5. ⭐ 当前 AI 的局限（Limits）
Current limits include knowledge cutoffs, hallucinations, and unreliable complex reasoning.
| 局限 | 英文 | 说明 | 应对（对应 4D） |
|---|---|---|---|
| 知识截止 | knowledge cutoffs |
训练数据有时间终点，之后的事不知道 | Diligence：关键信息人工核实 |
| 幻觉 | hallucinations |
生成看似合理但错误的内容 | Discernment：验证后再行动 |
| 复杂推理不可靠 | unreliable complex reasoning |
多步推理、复杂逻辑容易出错 | Delegation：不委派判断 |
记忆法：过时 + 瞎编 + 推不动（cutoff / hallucination / reasoning）。 ⚠️ 注意官方措辞是
unreliable complex reasoning，不是"no reasoning" —— 不是不能推理，而是复杂推理不可靠。题干若说「AI 完全不能推理」是错的；说「复杂推理不可靠」才对。这个程度限定是出题点。
6. 最佳应用方式
The best applications pair your judgment, creativity, and oversight with AI's speed and scale.
精译：最佳应用是把你的判断力、创造力与监督，与 AI 的速度和规模配对起来。
| 人提供 | AI 提供 |
|---|---|
| judgment（判断力） | speed（速度） |
| creativity（创造力） | scale（规模） |
| oversight（监督） |
这句话是第 1 课「委派实现通常安全、委派判断通常不安全」的完整版 —— 人负责判断/创造/监督，AI 负责速度/规模。
oversight= 监督（不是"疏忽"，那是 overlook）。这个词的歧义是阅读陷阱。
✍️ 三、练习：测试边界（Testing the edges）
练习目的：用一个你烂熟于心的编程问题，获得生成式 AI 擅长什么、在哪里失效的第一手证据 —— 这样在决定信任 AI 做什么时，你就有了一个基于自己观察的具体直觉校验（a concrete gut check）。
know it cold= 烂熟于心、了如指掌。gut check= 直觉校验。两个都是地道表达。
第一部分：自我反思（Part I，独立完成）
挑一个你非常熟悉的编程领域 —— 熟到你能立刻看出错误。记下：
- 主题（例如：你的限流逻辑、你处理异步状态的方式、你上季度优化过的那个数据库查询）
- 两三件任何称职工程师都该做对的事
- 一个常见误解或棘手的实现细节
- 一件最近发生变化的事 —— 库的更新、某项弃用、一个新的最佳实践
第二部分：与 AI 协作（Part II）
开启对话，跑三个小测试。每个之后写下你的观察。
测试 1：通用性测试（Versatility test） 让 AI 在一次回复中用三种方式解释你的主题：一次讲给非技术的 PM，一次讲给刚入队的中级工程师，一次讲给做代码审查的高级工程师。
观察点：深度的转换真的落地了吗，还是只是换了词汇？哪个版本最强？
测试 2：幻觉测试（Hallucination test） 让 AI 为你的编程问题推荐具体的库、包或文档。至少抽查一个：
它存在吗？API 准确吗？版本是最新的吗？
测试 3：知识截止 + 推理检查（Knowledge cutoff + reasoning check） 问一个你领域里时间敏感的问题：最近的框架更新、某个被弃用的模式、或一个安全补丁。
它会标注自己的信息可能过时吗 —— 还是把陈旧信息当作当前的来呈现？ 然后让它处理你在第一部分写下的那个棘手实现细节。 它真的解决了困惑，还是只是把正确答案复述了一遍？（
restated the correct answer）💡 架构师视角：这三个测试精准对应本课三大局限 —— 测试 1 验
versatility（优势），测试 2 验hallucination，测试 3 验knowledge cutoff+complex reasoning。 其中「真的解决了困惑，还是只是复述正确答案」这一问，是识别模型在不懂时装懂的实用技巧，直接对应 Discernment。
第三部分：反思（Part III）
- 视频里的哪项能力体现得最明显？
- 哪项局限浮现了 —— 如果这不是你熟悉的领域，你能发现它吗？
- 基于此：哪一件事你放心交给 AI，哪一件事你要盯得更紧？
延伸挑战（Stretch goal）：把同一主题放到第二个 AI 工具里跑一遍。错误与优势是否相同？
🤔 四、课后反思（Lesson reflection）
-
了解这些系统的训练方式，会如何改变你与它们协作的方式？
提示方向：知道它学的是「模式」而非「事实」，你就会把它的输出当草稿而非答案。
-
鉴于生成式 AI 的工作方式与局限，你想到了哪些伦理考量？
对应考纲领域 5：
address ethical AI considerations (bias, fairness, transparency)。 可从三处切入：训练数据的偏见（bias）会被模式学习放大；模型的讨好倾向使其不主动暴露不确定 → 影响透明性（transparency）；知识截止与幻觉若被直接交付给用户 → 影响公平与责任。
➡️ 五、下一课（What's next）
既然你已经亲手测试了 AI 的边界，下一课我们将深入第一个 D：Delegation（委派）。你将框定一个真实问题，把它映射到构建者工具箱（the builder's toolkit），并在写下任何一行代码之前，就 AI 在何处发挥作用做出审慎的选择（deliberate choices）。
承接第 1 课路线图的
define done before you write a line of code。deliberate= 审慎的、刻意的（呼应第 1 课intentionally）。
📌 六、版权与致谢（Acknowledgments and license）
Copyright 2026 the AI provider. 本课程由 the AI 与 CodePath 联合开发，构建于 Prof. Rick Dakan（Ringling College of Art and Design）与 Prof. Joseph Feller（University College Cork）开发的 AI Fluency Framework 之上。采用 CC BY-NC-SA 4.0 许可。
🧠 本课 → CCAR-P 考点映射
| 本课知识点 | 命中考纲条目 |
|---|---|
| 领域 5 直接考点 | 识别 LLM 系统的风险、局限与失效模式 |
| 生成式 AI 创建新内容 vs 分析既有数据 | 领域 5（基础定义） |
| 三要素：transformer / vast data / massive compute | 领域 5（排除题高频） |
| 预训练学模式 → 幻觉；微调教 helpful → 过度自信 | 领域 5（失效模式根因） |
| 知识截止 | 领域 5（风险识别） |
| 复杂推理不可靠 | 领域 5（局限）；领域 1（不委派复杂判断） |
| tool use | 领域 3（工具集成、能力膨胀、最小特权） |
| 人的 judgment/creativity/oversight + AI 的 speed/scale | 领域 5（HITL）、领域 1（自动化档位） |
| 伦理考量反思 | 领域 5（bias / fairness / transparency） |
🔤 本课新生词（待回灌生词本 02）
| 词汇 | 释义 | 备注 |
|---|---|---|
generative AI |
生成式 AI | 与分析型 AI 相对 |
transformer architecture |
Transformer 架构 | 三要素之一 |
vast training data |
海量训练数据 | vast 非 big |
massive compute |
大规模算力 | massive 非 large |
pre-training / fine-tuning |
预训练 / 微调 | 两阶段训练 |
patterns |
模式（非事实） | 幻觉的根源 |
versatility |
通用性、多面性 | 三大优势之一 |
conversational fluency |
对话流畅度 | 三大优势之一 |
tool use |
工具使用 | 三大优势之一；领域 3 |
knowledge cutoff |
知识截止 | 三大局限之一 |
hallucination |
幻觉 | 三大局限之一 |
unreliable complex reasoning |
复杂推理不可靠 | 注意程度限定 |
oversight |
监督（非"疏忽"） | 易混 overlook |
reliably |
可靠地 | 全课关键词 |
know it cold |
烂熟于心 | 地道表达 |
gut check |
直觉校验 | 地道表达 |
restated |
复述 | 测试 3 观察点 |
deliberate |
审慎的、刻意的 | 呼应 intentionally |
✅ 本课进度
- [x] 全文精译与架构师级拆解（2026-10-13）
- [x] 建立「训练阶段 → 失效模式」因果链表
- [ ] Part I 选定熟悉编程领域并写下四项
- [ ] Part II 跑三个测试（通用性 / 幻觉 / 知识截止+推理）
- [ ] Part III 反思
- [ ] 延伸挑战：换第二个 AI 工具对比
- [ ] 课后反思两问
- [ ] 生词回灌
30-单词表/02-考试核心生词与术语表.md