学习目标
学习本课后，你将能够：
- 准确解释本课核心概念
- 区分相关方法与系统组件
- 用图示描述主要流程
- 识别局限并说明验证方法
1. AI是更广泛的领域
人工智能包括规则系统、搜索、规划、符号推理、机器学习以及这些方法的组合。关键是系统要完成的任务和能力，而不是是否包含神经网络。
2. 机器学习
机器学习（ML）利用数据估计规律或决策规则，而不是为每种情况都依赖人工编写规则。训练过程调整参数以降低预测误差等目标函数，再将学到的关系用于新输入。
3. 深度学习
深度学习（DL）是机器学习的分支，基于包含多个参数化变换层的神经网络。这些层从数据中学习表示。DL广泛应用于视觉、语音和语言，但通常需要较多数据、计算资源和评估。
4. 嵌套关系
所有深度学习方法都属于机器学习，机器学习属于人工智能；反过来不成立。许多AI系统不从数据中学习，许多ML方法也不是深度神经网络。三者是嵌套集合，而非可互换标签。
5. 比较机制
规则过滤器执行明确条件；决策树从样本中学习特征判断；神经网络在多个层中学习数值权重。它们可能解决相似任务，但训练需求、透明度和失效方式不同。
6. 分类示例
使用搜索和人工评估函数的国际象棋引擎可以属于AI但不使用ML；用标注邮件训练的垃圾邮件过滤器属于ML；Transformer语言模型属于DL，因此也属于ML和AI。
7. 理解检查
画出AI、ML和DL三个嵌套圆。将规则专家系统、随机森林和Transformer语言模型放入正确区域，并解释为什么并非所有AI都是深度学习。
理解检查
请用自己的话解释本课核心术语，举出真实应用例子，并说明如何验证系统结果。
核心术语
- 人工智能（AI）
- 智能系统的广泛领域，既包括学习方法，也包括不使用学习的方法。
- 机器学习（ML）
- 从数据中估计规律或决策函数的方法。
- 深度学习（DL）
- 基于多个参数化层的神经网络的机器学习方法。
- 表示（Representation）
- 系统用于编码输入中有用信息的数值或结构化形式。
技术路线比较
| 方法 | 行为来源 | 示例 |
|---|---|---|
| 规则 | 人工编写的明确条件 | 安全检查清单 |
| 传统机器学习 | 从样本中估计参数 | 随机森林分类器 |
| 深度学习 | 从数据中学习的多层神经表示 | Transformer语言模型 |
机器学习中的学习范式
监督学习使用带标签的样本；无监督学习在没有目标标签的情况下寻找数据结构；强化学习通过交互和奖励信号训练智能体。这些是学习设置，而不是某种模型架构的同义词：神经网络可以用于不止一种学习范式。
特征工程与表示学习
在传统流程中，研究人员通常根据领域知识设计特征，例如滑动平均值或日历指标。深度学习可以直接从原始或少量处理的输入中学习内部表示。表示学习可以减少人工特征设计，但不能替代可靠的数据、评估和领域理解。
如何选择技术路线？
模型选择取决于数据、任务目标、可解释性要求、部署硬件、延迟、维护成本和错误代价。当透明度与可靠性比基准分数的小幅提升更重要时，简单规则或线性模型可能更合适。
8. 完整课程内容：AI、ML与DL之间的关系
三个层级，而不是三个互相竞争的标签
人工智能（AI）是本课中范围最广的概念，指构建能够执行智能行为相关任务的系统这一领域。机器学习（ML）是AI中的一种技术路线：开发者不必手工写出每一条决策规则，而是通过训练过程从样本中估计规律或参数。深度学习（DL）则是机器学习中的一个方法家族，利用多层神经网络从数据中学习表示。因此三者是嵌套关系：DL属于ML，ML属于AI。
这种层级关系并不是性能排名。深度神经网络并不自动比规则系统或小型统计模型更准确、更安全或更合适。技术选择取决于任务、数据数量与质量、延迟要求、硬件、可解释性、维护成本以及错误后果。
为什么并非所有AI系统都使用机器学习？
基于规则的诊断助手可以执行专家编写的条件，而不需要从数据集中估计参数。路径规划器可以搜索可能路线组成的图。约束求解器可以寻找满足明确要求的排程。这些系统执行的任务可能属于AI，但其核心逻辑并不是从样本中学习的。它们也可以与ML结合，例如由学习模型估计行程时间，再由搜索算法选择路线。
为什么并非所有机器学习都使用深度学习？
经典机器学习包括线性回归、逻辑回归、决策树、随机森林、支持向量机和梯度提升树。这些方法通常适用于结构化表格和中等规模数据。它们可能需要特征工程，但往往比大型神经网络更容易训练、检查和部署。当输入是图像、音频、视频和自然语言等高维或非结构化数据，并且有足够的代表性样本与计算资源时，深度学习通常更有优势。
学习范式与模型家族不是同一概念
- 监督学习：样本同时包含输入特征和目标标签或数值，模型学习预测目标。
- 无监督学习：样本没有目标标签，算法寻找聚类、低维结构或异常观测。
- 自监督学习：训练目标由数据自身构造，例如预测被遮挡的词语或输入中的缺失部分。
- 强化学习：智能体与环境交互，并根据一系列动作带来的奖励或惩罚进行学习。
这些概念描述学习设置，而不是互相排斥的神经网络类型。神经网络可以用于监督、自监督或强化学习；决策树则通常使用带标签的样本进行监督训练。
特征工程与表示学习
在建筑能耗表格中，工程师可以构造室外温度、时刻、人员数量和过去能耗的滑动平均值等特征。这就是特征工程：利用领域知识设计输入表示。深度学习能够从原始或经过少量处理的数据中学习内部表示。例如，图像网络的早期层可能响应边缘和纹理，后续层再将其组合成更复杂的模式。学习表示并不会消除数据准备、验证和领域知识，只是改变了部分表示工作发生的位置。
生成式AI不等于深度学习
生成式AI指能够创建新内容的系统，例如文本、图像、音频或代码。当前许多生成式系统使用深度神经网络，包括Transformer和扩散模型，但两个术语描述的对象不同：“生成式”描述任务或能力，“深度学习”描述方法家族。深度学习模型可以只做图像分类而不生成内容。生成式系统也可能在神经网络之外组合检索、工具、规则和人工复核。
如何判断一个真实系统的技术路线？
可以提出四个问题：系统执行什么任务？哪个组件产生决策？规则是由人明确编写，还是从数据中估计？系统处理什么输入并产生什么输出？垃圾邮件过滤器可能使用监督学习；固定安全联锁可能使用规则；路线规划器可能使用搜索；现代助手则可能组合语言模型、检索、外部工具和策略检查。不要只根据营销名称给整个产品分类。
实践任务
选择三个系统：使用固定阈值的恒温器、银行交易分类器和语言助手。分别说明任务、可能采用的技术路线、数据要求、一个优势、一个局限，以及为什么另一种方法可能更合适。最后解释为什么“使用了AI”并不能说明系统一定使用了ML或DL。
9. 案例：为建筑运行任务选择技术路线
考虑一栋建筑中的三项需求。第一，安全联锁必须在测量值超过认证限值时停止设备。显式规则是合适的候选方案，因为触发条件明确，而且必须能够审计。第二，工程师希望根据天气、人员数量和历史读数预测明日能耗。由于历史样本包含目标值，可以使用监督回归模型。第三，设施团队希望在没有预定义标签的情况下，将能耗曲线相似的建筑分组。无监督聚类可以帮助探索数据，但分组结果仍需要领域人员解释。
这些组件可以共存于同一个产品中。预测模型给出估计值，基于规则的层执行安全限制，仪表板展示不确定性并允许工程师复核结果。整个产品是AI系统，但它并不存在一个唯一的“AI算法”。
选择方法时要问的问题
- 是否有可靠的带标签样本？
- 任务能否用稳定、明确的规则描述？
- 输入是结构化数据、图像、音频还是文本？
- 是否需要人员检查推理过程或批准行动？
- 误报和漏报分别会造成什么代价？
回答这些问题，比仅仅因为某种技术流行就选择它更有价值。
练习检查
问题 1
哪一项最准确地描述了这些概念之间的关系？
答案与解释
正确：B。 AI 是广泛领域；ML 是其中一种方法；DL 是基于多层神经网络的机器学习分支。
问题 2
如果推荐系统只按照预先编写的专家规则运行，它必须使用机器学习吗？
答案与解释
不必。 如果决策完全由明确规则产生，参数没有通过数据学习，那么它可以是没有机器学习组件的 AI 系统。
问题 3
一个梯度提升模型使用大型表格数据训练，这是否意味着它属于深度学习？
答案与解释
不是。 梯度提升属于机器学习，但不需要多层深度神经网络。数据集规模不会改变方法类别。
问题 4
神经网络对图像进行分类，它一定属于生成式 AI 吗？
答案与解释
不一定。 分类任务预测类别；生成式系统则创建新的内容样本。
问题 5
为什么“我们使用 AI”不足以构成技术描述？
答案与解释
它没有说明实际机制。 技术描述应指出规则、搜索、传统机器学习、深度学习、生成模型或混合方案，并说明输入、输出、训练方式和局限。