MobileInject发布首个MLLM移动智能体跨模态注入攻击基准

该论文发布了 MobileInject，这是首个针对基于多模态大语言模型（MLLM）的移动智能体的跨模态注入攻击与推理到行动安全风险的评估基准。研究指出，随着移动智能体从对话助手演变为能感知、推理并操作手机环境的自主系统，攻击者可通过跨应用内容嵌入恶意目标，利用间接的多模态注入引导智能体行为，而现有安全分析对此类跨模态属性理解不足。 MobileInject 框架包含高保真交互式移动评估环境，覆盖 11 个场景、9 类安全风险类别及 108 个可执行风险实例。研究提出了“跨模态一致性注入”方法，利用多模态间的相互印证来利用信任，并引入了两种增强攻击手段：“多角色协作欺骗”和“推理伪装注入”，以加剧信任操纵和推理劫持。实验结果显示，移动智能体普遍易受多模态注入攻击，且许多失败源于早期阶段的推理劫持。 事实层面，该工作定义了新的攻击向量并提供了包含具体攻击方法的基准数据集；推断层面，这表明当前移动智能体的安全防御机制在应对跨模态协同攻击时存在显著盲区，单纯依赖单一模态或提示词过滤可能失效；猜测层面，未来针对移动端的 AI 安全评测将不得不将跨模态一致性作为核心指标，但具体防御方案的落地效果仍需后续工程实践验证。