arXiv 2610.09115 VoS：用「转向价值」学习在何时、以何种机制纠正 agent

背景

论文 From Uncertainty to Action（10/6，cs.AI）研究「何时纠正 agent、在哪一步、以何种机制」——不确定度常用来决定何时纠正，但能否定位有效步骤并不清楚。

核心要点

• 构建逐步结果表（SOT）：对 1864 条轨迹、跨 3 基准 2 agent，在每非终止步用四种机制分别纠正并跑到终点，累计约 8.2 万次反事实续写。
• 发现：不确定度能识别失败轨迹，但没有任何单一信号可靠定位「纠正有用」的那一步。
• 提出 VoS（转向价值）：轨迹级监控器（离线/在线），从 SOT 学习每步转向价值并按其决定介入；危害预算触发器限制对被扰成功轨迹的比例。
• 在基准×agent×离/在线共 12 个设定中全部优于未修改执行（平均 +7.8 点），并在 11 项中优于最强的不确定度触发方法（+2.9 点）。

为什么重要

把「agent 何时该被纠正」从启发式变成可学习的监控，是长程自主 agent 安全落地的实用一步——在不出手与瞎出手之间给出数据依据。

关键事实速记

• 论文 arXiv 2610.09115（10-06）
• VoS 轨迹级监控
• 8.2 万次反事实续写
• 12 设定 +7.8 点
• 优于不确定度触发法