arXiv cs.AI· Taozheng Zhu, Shixiong Jiang, Fanxin Kong·2026-10-21 12:00· 5 小时前AI 评分42

MinMax Attack 如何攻击安全多智能体强化学习

Vulnerability Analysis for Safe Multi-Agent Reinforcement

AI 摘要

论文提出名为 MinMax Attack 的攻击框架，针对安全多智能体强化学习（SMARL）在推理时观测层面发起攻击。该框架通过扰动部分智能体观测并联合选择对抗目标动作，在保持任务奖励的同时诱导更高的安全成本。实验显示其在多个安全关键基准上比现有基线具有更强的有效性和隐蔽性。

来源：arXiv cs.AI · arxiv.org