资讯
中国发布《人工智能安全治理框架 3.0》：单列智能体与人形机器人风险
一句话：9 月 15 日，中国发布《人工智能安全治理框架 3.0》，在 2.0 版基础上新增对自主智能体（agent）与人形机器人等具身智能形态的风险条目，并呼吁建立全球 AI 治理框架以应对技术快速迭代。
背景
- 《框架》由 TC260（全国信息安全标准化技术委员会）牵头演进，2.0 版聚焦生成式 AI 与训练数据；3.0 版针对 2025 下半年以来 agent 与具身智能的爆发式落地，补上了「会自主行动」与「会物理行动」两类新风险。
核心要点
- 新增「自主智能体风险」专章：涵盖目标漂移、工具滥用、长期记忆泄露与多 agent 协作失控。
- 新增「具身智能 / 人形机器人」条目：覆盖运动控制安全、物理交互伤害、远程操控与数据采集合规。
- 强化对深度合成与 AI 生成内容标识的落地要求，与既有内容标识办法衔接。
- 提出「多边共治」主张，呼吁在联合国与区域机制下形成可互认的 AI 安全评估框架。
为什么重要
- 这是主要经济体中首个把「agent 自主行动风险」与「机器人物理行动风险」同时单列的国家级治理框架，为后续立法与备案提供锚点。
- 在全球治理碎片化背景下，中国主动提出「全球 AI 治理框架」倡议，意在争夺规则话语权。
关键事实速记
- 发布：2026-09-15（北京）
- 版本：框架 3.0（接 2.0）
- 新增：agent 风险 + 具身智能风险
- 主张：多边共治的全球 AI 治理框架
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考