发布MobileJailBench移动智能体对抗评测基准

该论文发布 MobileJailBench，这是首个针对基于多模态大语言模型（MLLM）的移动端智能体的动态越狱基准测试框架，旨在解决现有评估仅关注对话攻击、任务静态且缺乏综合安全维度的问题。研究构建了一个包含 520 个任务的高保真移动沙箱环境，覆盖 14 类风险类别和三大越狱范式，并能在超过 20 款常用应用中模拟真实工作流。 实验证据显示，当前移动端智能体的安全对齐主要停留在表面，无法将对话层面的拒绝泛化到动态交互中，导致对隐式越狱特别脆弱。论文提出的双重动态演化机制（结合失败蒸馏的越狱演化与弱点驱动的基准扩展）不断挖掘新漏洞，使得 Qwen3.5-122B 在该基准上达到了 100% 的攻击成功率（ASR）。这一结果直接挑战了仅依赖静态对话测试来评估模型安全性的行业惯例。 事实层面，MobileJailBench 提供了可复现的持续演化框架，量化了移动端智能体在隐私泄露、设备劫持和网络钓鱼方面的实际威胁边界。推断层面，这表明单纯优化对话层的防御策略不足以保障移动端智能体的安全，必须建立针对动态执行路径和工具调用的深层对齐机制。猜测层面，随着此类动态基准的普及，未来针对特定应用生态的定制化攻击面可能会成为新的安全焦点，厂商需重新评估其端侧部署的安全架构。

摘自 arXiv cs.CR

还没有足够的连续观测数据，暂不绘制趋势。