资讯
arXiv 2610.09115 VoS：用「转向价值」学习在何时、以何种机制纠正 agent
一句话：论文 From Uncertainty to Action 提出 VoS（Value of Steering），用约 8.2 万次反事实续写训练轨迹级监控，12 个设定平均提升 7.8 点。
背景
- 论文 From Uncertainty to Action（10/6，cs.AI）研究「何时纠正 agent、在哪一步、以何种机制」——不确定度常用来决定何时纠正，但能否定位有效步骤并不清楚。
核心要点
- 构建逐步结果表（SOT）：对 1864 条轨迹、跨 3 基准 2 agent，在每非终止步用四种机制分别纠正并跑到终点，累计约 8.2 万次反事实续写。
- 发现：不确定度能识别失败轨迹，但没有任何单一信号可靠定位「纠正有用」的那一步。
- 提出 VoS（转向价值）：轨迹级监控器（离线/在线），从 SOT 学习每步转向价值并按其决定介入；危害预算触发器限制对被扰成功轨迹的比例。
- 在基准×agent×离/在线共 12 个设定中全部优于未修改执行（平均 +7.8 点），并在 11 项中优于最强的不确定度触发方法（+2.9 点）。
为什么重要
- 把「agent 何时该被纠正」从启发式变成可学习的监控，是长程自主 agent 安全落地的实用一步——在不出手与瞎出手之间给出数据依据。
关键事实速记
- 论文 arXiv 2610.09115（10-06）
- VoS 轨迹级监控
- 8.2 万次反事实续写
- 12 设定 +7.8 点
- 优于不确定度触发法
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考