Defense-as-Skill：运行时守卫保护增强型智能体
先了解这件事
2026年10月12日，arXiv发布论文《Defense-as-Skill》，提出新范式以解决技能增强型智能体中恶意技能潜伏问题。传统预安装审查无法应对基于任务上下文的动态威胁，作者构建了SkillSonar，将其实现为可安装、可检查且可编辑的运行时守卫技能。该方案在不修改底层运行环境的前提下，根据用户任务边界对敏感操作进行允许、重规划或确认决策。目前研究旨在验证该方法的有效性，但具体实验数据与结果尚未在提供的报道片段中完整披露。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- arXiv cs.CR精选Defense-as-Skill：将运行时防御转化为可演化的技能以保护增强型智能体
该论文提出一种名为 Defense-as-Skill 的新范式，旨在解决技能增强型智能体（Skill-augmented agents）中恶意技能通过持久化上下文长期潜伏并伺机攻击的问题。传统预安装审查无法应对这种基于任务上下文的动态威胁，因此作者构建了 SkillSonar，将其实现为一个可安装、可检查且可编辑的运行时守卫技能，在不修改底层智能体运行环境的前提下，根据用户任务边界对敏感操作进行允许、重规划或确认决策。 为验证该方法，研究团队构建了 SCOPE-R 数据集，涵盖 6 类风险家族和 21 个子类别，包含 206 个经确认的攻击实例和 43 个良性任务。在此基础上，利用蒙特卡洛树搜索（Monte-Carlo Tree Search）过程对守卫技能进行运行时演化，使其能从回放反馈中持续改进。实验显示，在 Claude Code 和 OpenClaw 上，演化后的守卫显著降低了攻击成功率；在 GLM-5 重复运行测试中，ID ASR 从 0.482 降至 0.104，OOD ASR 从 0.606 降至 0.115，且性能提升在不同受害模型、未见的风险家族及外部基准上具有迁移性。 事实层面，该工作已发表于 NeurIPS 2026，代码与数据公开于 arXiv:2609.1487。推断层面，这表明未来智能体的安全架构可能从静态规则转向动态、可进化的技能模块，使防御能力具备与业务技能同等的生命周期管理。猜测层面，若此类机制被广泛采纳，可能会推动智能体开发框架内置“守卫技能”标准接口，但具体实施成本与性能开销仍需工程验证。
本事件热度走势
当前热度 9·可比范围峰值 9（10月12日 14:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。