资讯
arXiv 2610.18457 Kairos：在 LLM agent 系统边界做事务性安全执行
一句话：论文 Kairos（10-13，cs.CR）指出合法工作与攻击第一步在单步动作上难以区分、差异在轨迹后方显现，遂在不可改 opaque agent 的隔离边界处设参考监视器，把工具调用/Shell/脚本统一为文件与网络操作进行中介。
背景
- arXiv 2610.18457（10-13，密码学与安全）：LLM agent 能力越大，被诱导后危害越大；间接提示注入应在 agent 产生的效应上被中介，而非依赖对齐或分类器。
核心要点
- Kairos 在不可修改的 opaque agent 隔离边界设参考监视器，把工具调用、Shell 命令、自写脚本统一为文件与网络操作跨越边界。
- 声明式策略决定多数效应，其余延迟（defer）并在 agent 继续推演时由受限决策 oracle（模型/人）释放或拒绝。
- 在 AgentDojo 上将攻击成功率从 47.0% 降到 2.7%，同时良性效用保持在不设防 agent 水平。
- 给出攻击成功与效用之间更优的权衡，跨三个基准、三种 agent 模型验证。
为什么重要
- 把 agent 安全从「允许/拒绝」二元监控升级为「事务性、可延迟裁决」的边界执行。
- 对不可改动的第三方 agent 也能施加约束，适用面广、工程价值高。
关键事实速记
- arXiv 2610.18457（10-13）
- Kairos 事务性边界执行
- 统一文件/网络操作中介
- AgentDojo 攻击 47%→2.7%
- 可延迟裁决 oracle
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考