资讯
arXiv 2610.16005 DelegateGuard：为委托型 agent 工作流设目的受限能力
一句话：论文 DelegateGuard（10-12，cs.CR）针对 LLM agent 委派子任务时持有敏感数据权限带来的「混淆 deputy」风险，提出将用户授权转换为可按目的/标签/操作/接收端/委派深度衰减的能力，并在 LLM 之外中介每次数据移动。
背景
- arXiv 2610.16005（10-12，密码学与安全）：LLM agent 常在持有敏感数据权限时委派子任务，被注入的 delegate 可能外泄数据、放大权限或在撤销后继续行动。
核心要点
- 提出 DelegateGuard：参考监视器把发起用户的授权转换为可按目的、标签、操作、接收端、委派深度衰减的能力。
- 每次数据移动都在 LLM 之外被中介，撤销沿委派图级联生效。
- 在 517,401 封 Enron 邮件与多轮生态研究中评估，把泄露从 0.844 降到 0.20 且保持任务完成。
- 形式化给出「衰减式授权何时足够」的精确边界，并跨四种可观测接收端工作流复现。
为什么重要
- 为委托型 agent 提供「模型无关」的执行边界，是 agent 安全基础设施的关键一环。
- 把授权衰减与撤销级联落到运行时，直接缓解混淆 deputy 类攻击。
关键事实速记
- arXiv 2610.16005（10-12）
- DelegateGuard 目的受限能力
- LLM 外中介数据移动
- 泄露 0.844→0.20
- 撤销沿委派图级联
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考