资讯
AI 视频进步致深伪检测准确率一年内下降 49%，合成内容识别告急
一句话：据报道 OpenAI 与 Anthropic 正接近达成互相红队测试协议，前沿实验室从「各自为战」转向协同安全评估，呼应全球监管对 GPAI 执法权的强化。
背景
- 在欧盟 AI Act GPAI 执法权生效、各国加强对前沿模型审查的背景下，头部实验室的安全协作成为新议题。
核心要点
- 报道称双方拟建立互相红队（red-team）对方模型安全缺陷的机制。
- 此前 Anthropic 已聘请埃森哲做独立安全评估，双方各至少投入 10 亿美元建设防护。
- 协同评估意在以独立第三方视角补足自评盲区，覆盖越权、数据泄露与自主 agent 风险。
- 与「放缓前沿开发」的行业讨论形成对照：安全从口号转向可执行的互查流程。
为什么重要
- 实验室间互测将安全验证外部化、常态化，可能成为监管认可的默认合规动作，降低单点自评的信任折扣。
关键事实速记
- 动向：OpenAI ↔ Anthropic 互测协议
- 并行：Anthropic 聘埃森哲独立评估
- 投入：双方各 ≥$10 亿防护
- 背景：GPAI 执法权生效
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考