Secure-CUA 论文提出通过预提交动作事务隔离不可信内容以防御计算机使用智能体的视觉误导攻击

该论文针对计算机使用智能体（CUAs）在处理包含不可信内容的图形界面时易受视觉误导和指令注入攻击的问题，形式化定义了决策与执行层面的安全需求，并提出了名为 Secure-CUA 的系统方案。其核心机制是在访问不可信内容前提交显式的“动作事务”（action transaction），锁定对不可信内容的查询方式及响应用途，随后通过隔离查询模型处理请求并屏蔽不可信区域，最终定位正确的界面目标。

在 WebArena 基准的 400 个任务上，基于三个前沿模型在 5 个种子下的 6,000 次执行轨迹评估显示，Secure-CUA 的平均任务成功率为 53.55%。这一数据略低于无防护的 Vanilla-CUA（55.12%），但显著高于现有的 CaMeL-CUA 系统（13.17%）。事实层面确认了该方法在引入安全约束后仍能维持接近基线的任务效用，且优于同类防御方案。

推断表明，这种“先承诺后执行”的事务模型可能成为构建高可靠性 GUI 智能体的标准范式，特别是在涉及敏感操作或复杂交互的场景中。然而，材料未披露该系统在真实对抗环境下的具体攻击面测试结果，也未说明额外计算开销对实时性的影响。猜测部分认为，随着智能体自主性增强，此类基于形式化验证的执行层隔离技术将比单纯依赖提示词工程的安全策略更具扩展性。