资讯
论文《AuthGuard-R》：用双门防御抵御智能体任务劫持
一句话：9 月 25 日论文 AuthGuard-R 提出双门（dual-gate）防御框架，针对智能体「任务劫持（task hijacking）」攻击，在不牺牲效用前提下显著降低越权执行风险。
背景
- 智能体在长程任务中易被嵌入的恶意指令劫持、执行非授权操作；论文把该威胁建模并给出可部署的防御。
核心要点
- arXiv 2609.31110（2026-09-25）提出 AuthGuard-R，以双门（dual-gate）机制检测并阻断任务劫持。
- 第一道门做意图-权限一致性校验，第二道门在工具调用前做动态授权复核，两层互补。
- 在受控基准上显著降低越权执行率，同时保持正常任务效用基本不降。
- 框架与主流 agent 运行时兼容，可插拔部署，无需重训底层模型。
为什么重要
- 把「智能体被劫持」从抽象风险变成可量化、可防御的工程问题，为企业级 agent 的权限安全提供可落地方案。
关键事实速记
- 论文：arXiv 2609.31110（2026-09-25）
- 方法：双门（dual-gate）防御
- 威胁：task hijacking（任务劫持）
- 特性：保持效用、可插拔
- 部署：兼容主流 agent 运行时
📂 原文链接：查看原文 →
← 返回资讯列表
AI8899 · 内容仅供学习参考