资讯
加州 Newsom 签署行政令，研究为前沿 AI 设「熔断开关」式强制监管
一句话：9 月 17 日报道，加州州长 Gavin Newsom 签署行政令，要求州政府机构研究制定针对前沿 AI 系统的强制安全框架，其中包括为高风险模型设置「kill switch（熔断/关停开关）」的提案，回应模型自主行为与失控风险。
背景
- 在联邦层面的 AI 立法停滞、欧盟 AI Act 已落地的背景下，加州以行政令先行，试图在「创新友好」与「安全底线」之间给出州级示范。
核心要点
- 行政令要求州机构在特定期限内提交前沿 AI 系统安全框架建议，并评估「熔断开关」等强制干预机制的可行性。
- 「kill switch」指在前沿模型出现失控、越权或造成重大危害时，运营方须具备可即时中断或回滚的能力。
- 框架同时覆盖模型自主 agent 行为、红队测试、事故通报与关键基础设施保护。
- 行政令而非立法，意味着落地节奏更快，但约束对象与罚则仍需后续法案细化。
为什么重要
- 加州是美国 AI 产业核心腹地，其监管取向直接影响全美企业的合规默认设置。
- 「熔断开关」从理念走向政策工具箱，标志监管从「软建议」转向「可强制中断」的硬约束。
关键事实速记
- 签署：2026-09-17（Newsom 行政令）
- 提出机制：AI kill switch / 熔断
- 对象：前沿 AI 系统
- 性质：行政令（非立法）
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考