MPIDetector提出利用大模型推理检测多模态提示注入

该研究提出 MPIDetector 框架，通过少样本上下文学习（ICL）利用大语言模型的内在推理能力检测多模态提示词注入攻击，而非依赖传统的微调或模式匹配方法。该方法在包含八个文本和七个视觉恶意类别的综合基准上进行了评估，并在 Gemini-2.0-Flash、Qwen3-VL-32B-Instruct 和 Doubao-seed-1.6-flash 等多个主流模型上验证了其有效性。 实验数据显示，该方法在文本任务上达到最高 90.91% 的准确率和 100% 的召回率；在视觉领域，准确率高达 99.28%，且所有评估模型均保持 100% 的精确率。特别是在针对 500 个高度混淆的环境 Web 智能体注入（WebInject）测试中，检测率达到了 99.80%。这些结果显著优于两种用于文本注入检测的基线方法及两种视觉输入检测方法。 事实层面，该框架通过提供特定提示模板和代表性攻击示例来审查跨模态输入的语义意图，无需微调即可工作。推断层面，这种基于推理的检测机制可能比基于签名或困惑度的方法更能适应复杂的跨模态攻击变种。猜测层面，由于未提及具体部署延迟或计算开销，该方法在资源受限的端侧设备上的实时应用效果仍需进一步验证。