ReMAS提出基于强化学习的多智能体系统黑盒红队测试框架

该论文针对现有黑盒红队测试在多智能体系统（MAS）中效果不佳的问题，提出了首个基于强化学习的红队测试框架 ReMAS。该方法专门微调攻击者大语言模型，以生成有效的对抗性提示词用于提取系统提示词，解决了多个子智能体不直接与用户交互导致的攻击难点。 实验显示，ReMAS 通过两阶段流程显著提升了攻击成功率：第一阶段重写基础攻击提示词以提高提取成功率，第二阶段构建攻击模板以增加调用特定子智能体的概率并暴露其系统提示词。该方法在不同后端 LLM 和 MAS 结构间表现出良好的迁移能力，证明了当前多智能体系统在自适应黑盒对手面前的脆弱性。 事实层面，ReMAS 是首个针对 MAS 的 RL 红队框架，且实验验证了其跨模型的迁移性；推断层面，这意味着现有的单智能体防御机制可能无法直接保护复杂的协作系统；猜测层面，未来 MAS 的安全评估可能需要引入类似 ReMAS 的动态对抗训练机制，而非仅依赖静态规则或单一模型测试。