AI审批监控器共享模型或数据导致关联失效

该研究通过预注册协议测试了十二个小型开源权重监控器在支付审批场景下的表现，发现当监控器共享基础模型或中毒输入时会出现关联失效，导致任何仅基于投票计数的规则都无法在所有测量攻击下同时满足安全性和活性。测试还包含三个闭源前沿模型（Claude Opus 5.5、GPT-6 Astra、Gemini 4 Argon）和开源DeepSeek-V3.2，结果显示欺骗监控器批准欺诈行为总是通过特定的证据源传播，而阻止正确支付则取决于注入抵抗能力。 关键数据表明，在相同安全性水平下，按证据源而非票数计数的规则将错误拦截率从7.4%降至0.9%，但单一来源攻击仍使所有12个语言模型监控器的规则失效。只有引入无法被说服的规则引擎后，才在测量攻击中恢复了安全且活跃的规则条件。闭源模型如Opus表现出更强的抗说服力，但并未完全免疫。 事实层面确认了现有聚合机制的脆弱性；推断认为单纯增加监控数量若无输入多样性将无法提升系统鲁棒性；猜测部分指出未来Agent架构需强制分离决策逻辑与验证逻辑，否则单位经济成本将因误拦截而上升。