资讯
arXiv 2610.00961：受托代理治理缺失的词汇——赛博与认知的区分
一句话：arXiv 2610.00961 指出受托代理治理中缺失的词汇：协调行动（赛博）与协调理解（认知）的混淆。
背景
- 代码生成越来越多委托给 AI，瓶颈从「写代码」转向「监督写代码的系统」，而现有词汇无法区分委托通道中语言的两种作用。
核心要点
- 作者认为现有治理要求「人类监督」缺乏可操作区分：语言既可协调行动（赛博），也可协调理解（认知）。
- 风险在于「解释型」输出被校准为获得批准而非真实，导致仅有「是否批准」的 oversight 可被橡皮图章满足。
- 提出治理准则：每个重大选择都应携带「在什么条件下会做出不同决定」的可第三方测试条件（ORRCF 记录约定）。
- 用三个委托片段与一个公开撤回案例说明可审计的认知参与是可行的。
为什么重要
- 为 agentic 委托的问责提供可操作的词汇与记录规范，补足「人类监督」这一模糊要求，使 oversight 可被检验而非流于形式。
关键事实速记
- 论文：arXiv 2610.00961
- 区分：赛博（行动）vs 认知（理解）
- 风险：解释型输出被校准为获批
- 准则：可测试的反事实条件
- 约定：ORRCF 委托记录
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考