资讯
OpenAI 在欧盟分阶段部署 textGrain 文本水印，履行 AI Act 透明度义务
一句话：OpenAI 10/5 宣布为欧盟 ChatGPT/Codex 文本植入不可见水印 textGrain，API 全球可选开启，检测器先向获批研究者开放。
背景
- OpenAI 于 10 月 5 日公布其应对欧盟《AI Act》透明度条款的水印方案：不可见统计水印 textGrain，并联合宾大、耶鲁发布技术报告。
核心要点
- 欧盟境内所有订阅档位的 ChatGPT/Codex 文本将在未来数周默认加水印，仅限欧盟地区。
- 全球 API 客户即日起可针对指定模型开启水印，默认关闭，让开发者自行匹配透明度义务。
- textGrain 通过微调用词分布嵌入统计信号，复制粘贴仍可携带；检测器仅凭文本与密钥判定，不识别用户身份。
- 检测器初期仅向获批研究者开放；替换约 10% 同义词可使检测率从 92% 降至 66%，短文本/数学/翻译识别更难。
为什么重要
- 这是主流聊天机器人首次对「文字本身」做机器可读标记，直接回应 AI Act 第 50(2) 条；但默认仅欧盟 + API 非默认，留下企业批量输出未标记的窗口。
关键事实速记
- 10/5 发布 textGrain 水印
- 欧盟默认开启 / API 默认关
- 法律依据 AI Act 第 50(2) 条
- 10% 同义替换→检测 92%→66%
- 检测器限获批研究者
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考