教育评论 ｜ 北大报告：智能体时代的教育治理新议题

从"对话框"到"行动者"：一次根本性的转变

过去几年，公众对AI的认知大多停留在对话交互层面——输入一个问题，获得一段文本。但一种新的AI形态正在快速崛起，学界称之为"智能体"（Agent）。

智能体与传统生成式AI的区别，不在于回答得更聪明，而在于它具备了自主执行任务的能力。它能够围绕一个目标，自主规划任务步骤，调用搜索、数据库、支付系统甚至物理设备来完成任务，并根据环境反馈动态调整策略。

报告的核心判断是：AI的本质正在从"问答系统"转变为"行动系统"。

这一转变意味着风险边界发生了根本性的位移。过去的主要关注点是AI"说什么"——生成虚假信息、输出偏见内容；而现在需要面对的是AI"做什么"——执行一笔错误的金融交易、未经授权的数据操作、在医疗场景中做出危及安全的决策。风险从信息层面扩展到了行为层面，从可追溯的静态风险演变为动态演化、即时生效的行动风险。

六大风险：从理论讨论到现实场景

报告系统梳理了智能体面临的六大类伦理风险，每一类都与具体应用场景直接关联。

第一类是身体安全与生命健康风险。当智能体被部署在医疗诊断、自动驾驶、工业制造等场景中，其决策直接作用于物理世界。与传统的生成式AI不同，智能体的错误输出不再局限于文本层面，而可能造成真实的物理伤害。报告将这类风险定义为"不可容忍的、涉及基本人权的高风险类别"。

第二类是隐私保护与数据伦理问题。智能体的运作依赖对用户行为、偏好、决策模式的大规模感知和持续学习。传统AI的个人信息处理通常是离散的——用户输入一段数据，模型完成一次处理。智能体则在持续的交互过程中逐步积累个人特征，形成对用户的高度画像能力。这种记忆的持续性和积累的隐蔽性，使得个人信息的保护边界变得更加模糊。

第三类涉及人格尊严与人机关系。智能体通过长期记忆、情感互动和行为引导，与用户形成持续的拟人化互动关系。报告特别指出，在缺乏清晰伦理边界的情况下，长期人机互动可能形成"数字依恋"，影响使用者的自我认同和人格独立性，削弱个体的自主选择能力。

第四类是公平使用与差别影响。报告列举了两个典型案例：一是某OTA平台被发现存在差异化定价问题，VIP用户购买高价商品时获得优惠的概率更高，而普通用户在购买低价商品时更可能承受不公平价格；二是国外研究者对主流AI模型的分析发现，ChatGPT存在明显的种族与性别偏见，对黑人男性名字的积极情绪比例低于白人男性，对女性的情绪表达比例也系统性偏低。报告指出，当AI进入智能体化阶段后，偏见不再表现为单次回答的偏差，而可能在链式决策过程中逐步累积和放大。

第五类是空间秩序与公共安全。智能体可以在网络空间内持续运行、自主交互，甚至组织多个智能体协同完成任务。在这种结构中，单个节点的行为后果可能通过智能体网络迅速扩散。例如，一个智能体在金融交易中的局部决策失误，可能在智能体网络中引发跨市场的连锁反应。

第六类是责任归属与损害救济。当智能体的行为由多个组件共同生成——基础模型提供推理能力，工具模块执行具体动作，平台提供运行环境，使用者下达初始指令——其行为后果越来越难以归因于某个单一主体。多个智能体协同运作时，这一问题更加突出。

报告对国内外现有治理体系进行了系统审视，指出现有框架主要针对的是生成式AI的"内容风险"，而智能体带来的"行为风险"在治理对象、责任划分和治理手段上，都超出了既有框架的覆盖范围。

以国内为例，近年来已形成较为完整的AI治理架构：《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相继出台，2026年发布的《人工智能治理和服务管理条例（征求意见稿）》更是我国首部AI领域的综合性行政法规。但报告指出，这些规定主要针对"内容生成—数据使用—平台审核"三类风险，尚未系统回应智能体在执行阶段带来的伦理挑战。

国际方面，欧盟《人工智能法案》以风险分级为核心，明确将高度自主、具备工具使用能力的系统纳入高风险类别，要求确保人类可以在任何阶段介入甚至中断系统运行。英国则采取更为柔性的自律模式，在鼓励创新的同时保留风险防控空间。联合国和OECD致力于推动以人为本、透明、公平、安全的国际共识。

报告的核心判断是：各国治理理念虽存在差异，但在基本方向上趋于一致——承认智能体是下一代AI的核心形态，并尝试在自主性与可控性之间寻找平衡。

报告提出的治理框架，可以概括为从"管内容"到"管行为"、从"一次性审查"到"全生命周期管理"的范式转换。

在治理原则层面，报告强调三个核心方向：一是"以人为本"，无论智能体在形式上多么接近人类行为，其设计与运行都不得威胁人的身体安全，不得侵犯人格尊严，不得损害基本权利；二是"风险分级治理"，按照应用场景的社会重要性、智能体的自主决策程度以及行为后果的可逆性，对智能体系统进行分级管理；三是"全生命周期治理"，在系统设计阶段嵌入伦理约束，在开发阶段进行伦理测试，在部署阶段建立备案与用户告知机制，在运行阶段实施持续监测与干预机制。

在治理措施层面，报告特别强调了两点：一是对工具调用行为的控制——需要明确智能体可以调用哪些工具、在何种条件下调用、如何记录调用过程，确保其行为始终处于可追溯、可干预的范围之内；二是针对多智能体协同的治理——当多个智能体在网络中协同运行时，需要建立清晰的责任分配与协同治理机制。

在责任配置方面，报告建议按照"谁负责运行，谁负责监督；谁设计风险，谁承担预防责任"的思路，建立多方主体共同参与的责任体系，并对高风险应用场景探索建立责任分担机制。

这份报告的价值，不仅在于系统梳理了智能体伦理治理的现状与趋势，更在于它揭示了一个根本性转变：AI正在从"信息工具"变为"行动主体"，教育体系、人才培养模式乃至职业预期，都需要为这一转变做出调整。

有几个方向值得关注。

一是帮助下一代理解"行为风险"的概念。传统AI教育侧重"模型如何生成内容"，但智能体时代需要关注的核心问题变成了"系统如何做出行动决策"。这不仅是计算机科学专业的课题，也涉及法律、伦理、公共管理等多个学科。

二是重视"可干预性"意识的培养。报告反复强调的一个原则是：人类必须在智能体的任何运行阶段保留介入和中断的能力。这种"人机协同"的理念，应当成为未来人才培养的基本素养之一。

三是关注治理人才的跨学科培养。报告指出的六大类风险中，没有一类是单纯靠技术就能解决的，它们同时涉及法律、伦理、社会学、管理学等多个领域。未来需要的，不仅是"懂AI的技术人才"或"懂政策的管理人员"，更是能够在技术与制度之间架起桥梁的复合型人才。

四是教育研究本身也需要关注智能体伦理。报告中提到的隐私积累、算法偏见、责任归属等问题，在教育场景中同样存在。当越来越多的学校引入智能体辅助教学、管理和评估，这些伦理问题将不再是抽象的理论讨论，而是具体的治理挑战。

报告的最后，北京大学袁军教授在序言中写道：智能体时代需要一套既能促进创新又能防控风险的伦理治理体系。这不仅是技术问题，更是一个关乎人类未来福祉的社会工程。

在这个社会工程中，教育承担着独特的角色——它不仅需要理解正在发生的变化，更需要为应对这些变化培养足够多、足够好的头脑。