纽约市议会 AI 安全听证会：前 OpenAI / Anthropic / DeepMind 员工作证警示失控风险

背景

AP 报道：10 月 5 日纽约市议会就 AI 安全举行听证，Anthropic、OpenAI、Google DeepMind 的离任员工到场作证，称大公司已陷入「为速度牺牲安全」的文化。

核心要点

• 前 Anthropic 工程师 Jacob Coxon 称：企业持「快速行动、打破常规、事后修补」的初创心态，但「这不适用于人类有史以来最强大技术」。
• Coxon 直言：按当前路径，「人类更可能而非更不可能失去对 AI 的控制，甚至走向灭绝」。
• OpenAI 代表 Morgan Dwyer 拒绝量化灾难风险概率，称「1% 还是 20% 都不容接受」，遭议长批为「轻描淡写」。
• 市议会正考虑多项法案：要求 AI 工具信息披露、市内系统需第三方审批、吹哨人可分得企业罚款份额。

为什么重要

在联邦与国会按兵不动时，州与城市正成为 AI 安全立法的实际前线；「可量化风险 + 强制披露 + 吹哨激励」正形成地方监管模板。

关键事实速记

• 10/5 纽约市议会 AI 安全听证
• 三家离任员工作证
• Coxon：失控风险更可能大于不可能
• 拟议：第三方审批+吹哨分罚
• 地方监管接棒联邦真空