arXiv cs.AI· Xiaoyang Wang, Tianrui Wang, Christopher C. Yang·· 4 小时前精选AI 评分82
临床多智能体系统无法通过共识消除偏见而是进行差异清洗
Disparity Laundering: Consensus Without Fairness in Clinical Multi-Agent Systems
AI 导读
该研究在120个真实MIMIC-IV急诊案例中测试了五个模型家族和四种聚合拓扑,发现无论何种配置都无法中和人口统计学偏差,所有组合均延续了独立代理的决策方向,导致黑人患者被分配更紧急的分诊等级。这种“差异清洗”现象表明,现有的单模型、单输出审计无法捕捉最终承诺决策中的系统性偏差。
实验证据显示,晚期修复措施如公平性指令或人口统计屏蔽对缩小差距无效,而代理自去偏反而扩大了差距,因为偏差已编码在普通临床数据中。唯一有效的干预是使反事实版本在系统内部可见并通过 deliberation 汇聚到最终决策中,采用多视角集成的方案在每轮都汇聚五种视角时,可将差异减少67%至94%,而从不汇聚这些视角的拓扑结构则无法可靠修复问题。
事实层面确认了多智能体系统不过滤人口统计学偏差;推断层面认为当前审计框架存在盲区,需转向包含多样性的集成架构;猜测层面指出若缺乏显式多样性设计,任何单一版本的模型优化都无法解决此类系统性风险。
推荐理由
揭示多智能体共识无法消除临床偏见,指出多样性集成是唯一有效防御机制。
来源:arXiv cs.AI · arxiv.org