学习目标
完成本课后，你将能够：
- 准确解释本课核心概念
- 区分相关方法与系统组件
- 用图示描述主要流程
- 识别局限并说明验证方法
1. AI作为工程领域
人工智能是一类用于完成感知、语言、推理、规划、学习和决策支持等任务的方法与系统。不同学科没有唯一通用定义。工程上应描述任务、运行条件和可测量的能力边界，而不是简单判断机器是否像人。
2. 智能行为不等于意识
系统可以识别图像、翻译文本或规划路线，但这并不能证明它具有主观体验。智能行为是可观察的任务表现；意识涉及主观体验，是独立的科学与哲学问题。任务成功本身不能证明意识存在。
3. 完整的AI系统
部署后的产品包括数据采集、验证、预处理、模型或规则引擎、后处理、界面、监控，有时还包括人工复核。模型只是整个流程中的一个组件。
4. 主要技术路线
基于规则的系统执行明确规则；搜索与规划探索状态和行动；机器学习从样本中估计规律；混合系统组合多种方法。有用的AI系统不一定使用神经网络，甚至不一定使用机器学习。
5. 能力与局限
性能取决于任务、数据、环境和评估方法。AI可能在陌生输入、有偏样本、环境变化和含糊请求下失败。表达流畅不代表正确。高影响应用需要可追溯、验证和适当人工监督。
6. 案例
建筑能耗助手可以结合安全规则、预测模型和应用程序。规则阻止不安全建议；模型估计能耗；应用程序检查单位并展示依据。真正有用的是完整流程。
7. 复习检查点
解释为什么基于规则的路线规划器可以属于AI，却不使用机器学习。举出一个不能证明意识存在的智能行为例子，并说出部署模型的两个外围组件。
7.1. 复习问题
请用自己的话解释本课核心术语，举出真实应用例子，并说明如何验证系统结果。
7.2. 核心术语
- 人工智能（AI）
- 研究和构建能够完成智能相关任务的系统与方法的广泛领域。
- 规则系统
- 根据人编写的明确条件和规则作出判断的系统。
- 智能行为（Intelligent behaviour）
- 系统在任务中的可观察表现；它本身并不意味着系统具有意识。
- 人工监督（Human oversight）
- 由人员复核、批准或在必要时否决重要系统输出的流程。
7.3. 案例：建筑能耗助手
区分各个组件：仪表提供观测数据；验证模块检查单位和缺失值；预测模型估计需求；安全规则拒绝不合理或不安全的建议；界面解释结果。如果预测错误，应检查整个流程，而不是默认模型是唯一原因。
7.4. 人工智能的发展脉络
早期AI研究重点是符号表示、搜索和显式推理。随后，统计学习使系统能够从更大规模的数据中估计规律。深度神经网络又推动了图像识别、语音和语言任务的发展。这些路线并非简单地相互取代：现代系统经常结合规则、搜索、学习模型和人的专业知识。
7.5. 狭义AI与通用智能
大多数部署中的系统只针对有限任务或领域设计。擅长翻译的系统并不会因此自动具备规划建筑改造或诊断设备的能力。人工通用智能（AGI）仍是存在争论的研究概念，不能仅凭一次令人印象深刻的演示就推断其已经实现。
7.6. 如何评估AI系统？
评估必须符合任务和后果：预测质量、对输入变化的鲁棒性、不同相关群体间的公平性、安全性、延迟、成本，以及对重要决策进行解释或人工复核的能力。单一分数无法概括所有维度。
8. 扩展课程：概念、边界与案例
8.1. 什么样的系统可以称为AI系统？
不同研究领域并不存在唯一且完全一致的定义。本课程采用工程视角：AI系统接收有关任务及环境的信息，利用显式规则、搜索、从数据中学习的参数，或这些方法的组合进行处理，并输出用于支持或执行智能任务的结果。这个定义描述系统可观察的功能，并不意味着系统具有意识、人的理解能力或自主目标。
评估系统时，首先要明确边界。模型本身并不等于完整产品。实际部署的系统还可能包括传感器、数据校验、预处理、业务规则、用户界面、人工复核、监控和反馈。故障可能发生在任何环节。例如，模型本身计算正确，但如果输入单位错误或缺少安全规则，最终建议仍可能造成风险。
8.2. 主要技术路线的区别
基于规则的系统执行由人明确编写的条件，例如测量值超过阈值时发出警报。当规则稳定时，这类系统通常容易检查；但例外情况不断增加后，维护成本会迅速上升。专家系统通过事实和规则表示领域知识，有时使用推理引擎推导结论。其推理过程可以被检查，但知识库需要持续维护。
搜索与规划探索可能的状态和动作，以寻找满足目标或降低成本的路径。路线规划、排程和游戏程序都可能使用搜索，而不需要从样本中学习策略。机器学习从数据中估计参数或决策规则。深度学习是基于多层神经网络的机器学习方法，能够学习内部表示。实际产品可以组合这些方法，例如同时使用神经网络、显式约束和搜索算法。
8.3. 不同任务需要不同输出
- 识别：检测或辨认物体、声音、事件或模式。
- 分类：将输入分配到预先定义的类别。
- 预测与预报：估计未来或未知数值。
- 异常检测：发现偏离预期行为的观测。
- 推荐：为用户或流程排序并建议选项。
- 生成：生成文本、图像、音频、代码或其他结构化内容。
不要把任务与技术方法混为一谈。分类任务可以通过规则、决策树、逻辑回归或神经网络实现。任务说明需要什么输出，方法说明系统如何得到该输出。
8.4. 传统编程与机器学习
传统编程由开发者编写规则，将输入转换为输出。在监督学习中，开发者提供输入及其正确答案，训练算法调整模型参数，以降低定义好的损失函数。这并不意味着机器会自动发现真理。结果取决于样本如何收集、目标变量如何定义、损失函数是否代表真实目标，以及评估数据能否代表未来使用环境。
8.5. 狭义AI与通用智能
目前大多数实际部署的AI都属于狭义AI：它们只在特定任务、领域或运行范围内工作。一个领域的优秀表现，并不能证明系统可以迁移到无关任务。人工通用智能（AGI）仍是存在争议的研究概念，尚无普遍认可的操作性测试。语言流畅或在某个基准测试中取得高分，都不足以单独证明通用智能。
8.6. 案例：建筑能耗助手
设想一个帮助工程师分析建筑能耗的系统。它接收电表读数、天气、运行时间表和设备状态。数据校验负责检查缺失值和单位；预测模型估计能耗；规则引擎检查运行限制；界面展示建议及其依据，最后由工程师决定是否采取行动。如果预测不准确，应先检查传感器质量、数据时间对齐、模型漂移和运行假设，而不能立即认定模型是唯一原因。这个案例说明了系统级评估和可解释性的重要性。
8.7. 为什么这些基础知识对可解释AI很重要？
可解释AI（XAI）研究如何理解和传达AI系统产生输出的过程，以及系统的适用范围和局限。在询问模型为什么作出某项预测之前，应先明确模型、输入、目标、周边规则以及它支持的具体决策。对单次模型输出的解释，并不自动等于对整个产品的解释，也不能证明决策正确或公平。
8.8. 实践任务
选择一个使用AI的产品，描述它的输入、输出、用户、运行环境和错误后果。判断哪些环节可能使用显式规则、搜索、机器学习或人工判断。再列出两个发生在模型之外的故障模式，并说明如何发现它们。最后说明：在称该产品可靠之前，还需要哪些证据？
9. 技术路线与任务类型详解
9.1. 基于规则的系统
基于规则的系统将决策表示为明确的条件和动作。例如：测量压力超过规定限值时发出警报；必要传感器不可用时，停止自动控制并要求检查。其优势是每条规则都可以被审查和追踪。局限也很明显：规则只能覆盖设计者预先考虑的情况；相互冲突的规则需要协调；例外越来越多时，维护会变得困难。规则适合表达明确约束和安全联锁，但不能把它误认为从经验中学习的系统。
9.2. 专家系统
专家系统将专业知识编码到知识库中，并通过推理机制处理事实。诊断系统可以综合症状、设备状态和已知故障模式，给出可能原因。解释过程可以显示哪些事实和规则影响了结论。但结果质量取决于知识库是否完整、是否及时更新。新的事件不会自动让专家系统变得更有知识，知识库仍需要人工审核和维护。
9.3. 搜索与规划
搜索方法检查可能的状态或动作序列。规划器可以把问题表示为状态集合、合法动作和目标，然后探索不同方案，有时使用成本函数或启发式方法优先检查更有希望的路径。路线规划、排程、资源分配和游戏程序都可能使用搜索。搜索可以在没有神经网络或统计训练数据的情况下生成有效方案。主要挑战是控制搜索空间规模，并确保问题表示包含真实约束。
9.4. 机器学习与深度学习
当样本中包含难以用有限规则描述的规律时，机器学习会很有用。模型可以根据天气和人员数量估计能耗，将交易分类为可疑或正常，也可以按照相关性排列文档。深度学习使用多层神经网络，常用于图像、音频、文本和其他高维数据。它可能需要大量有代表性的数据、计算资源和持续监控。实际系统通常会用显式规则约束模型预测，并由人员复核关键结果。
9.5. AI任务示例
识别回答“出现了什么？”例如检测图像中的人员或裂缝。分类将对象分配到某个类别，例如正常/故障或不同文档类型。预测估计未知数值；预报则利用当前可用信息估计未来数值。异常检测发现值得调查的异常读数，但异常并不自动意味着故障。推荐对候选动作或内容进行排序。生成创建新的回答、图像、音频片段或代码。一个产品可能在同一流程中组合多种任务。
9.6. AI的应用领域及其检查重点
在工程领域，AI可用于预测性维护、能耗预测、图像检查和文件审查。在医疗领域，它可以辅助影像分诊或风险估计，但临床决策需要适当验证和专业人员监督。在金融领域，它可以发现可疑交易或估计信用风险，同时引出偏差、责任和申诉机制等问题。在教育领域，它可以推荐学习材料或提供反馈，但学习目标的质量和学生隐私仍然重要。不同领域对错误率的容忍度、所需证据和人工控制程度各不相同。
9.7. 为什么AI不等同于人类思维？
系统可以产生有用结果，却不一定具有人类经验、意图或意识。分类器根据学习或编程得到的结构，将输入映射到标签；语言模型根据训练数据和上下文生成可能的后续内容。流畅的输出不能证明系统像人一样理解情境。应当询问系统被训练来做什么、使用哪些证据、在哪些情况下会失败，以及输出能否被检查。
9.8. 迷你实验：用三种方式发现能耗异常
- 基于规则：当每日能耗超过固定阈值时报警。它容易解释，但单一阈值可能忽略天气和人员数量。
- 机器学习：根据温度、面积和人员数量预测预期能耗，再调查实际值与预测值之间的较大差异。它可以学习样本中的规律，但依赖有代表性的数据和正确评估。
- 混合方法：先用模型估计预期能耗，再应用明确的安全限值，并要求人工复核后才能执行运行操作。这样可以结合灵活性与透明约束。
对每种方法，分别举出一个误报和一个漏报，并说明公平比较它们需要哪些数据。这个练习并不是要从玩具示例中选出赢家，而是帮助理解任务定义和错误后果如何影响系统设计。
10. 本课术语表
系统在任务中的可观察表现；它本身并不意味着系统具有意识。
由人员复核、批准或在必要时否决重要系统输出的流程。
系统无需持续人工干预即可运行的程度。
系统根据新数据或环境变化调整行为的能力。
按照明确条件和动作运行的系统。
利用形式化领域知识和推理机制工作的系统。
探索多个候选方案以寻找解决办法的过程。
为实现目标而构建行动序列。
从输入数据中辨认对象、事件或结构。
将对象分配到一个或多个类别。
根据已有信息估计未知数值或类别。
估计未来数值，常用于时间序列。
发现明显偏离数据典型行为的观测。
根据学习到的规律和提示生成新内容的系统。
针对特定任务或有限应用领域设计的系统。
能够广泛处理多种智力任务的假设性系统。
分析并传达 AI 系统行为解释的方法。
模型在新数据上保持表现的能力。
系统在允许的输入和环境变化下保持可靠性的能力。