提出任务条件可见性边界的威胁量化方法

1. 12:00
   arXiv cs.CR

   论文提出任务条件可见性边际以量化多源异常检测器的隐蔽源操纵威胁

   该研究针对融合多数据源并依赖跨源异常检测器保护下游模型的安全管道，指出传统评估指标（如误报率和随机污染捕获率）无法捕捉控制部分源并针对特定下游决策的对抗者。作者提出了一个名为“任务条件可见性边际”的威胁量化指标，定义为每单位对下游任务造成的危害所需揭示的最小检测器证据。该指标具有闭式解，每个证书计算耗时约85微秒，能生成最小证据攻击并识别检测器无法看到的任务相关方向。 在包含17个通道的工业遥测基准测试中，一个能标记82.8%随机单通道污染的检测器，在对一到四个通道子集的审计中，对64.7%的任务/子集对呈现一阶盲点。任务条件操纵导致的虚假安心错误数量是通用隐蔽攻击的两倍以上，且在五个拆分中的四个上，特别是在小预算下，更多此类攻击避开了警报。使用该边际对保留子集进行优先级排序时，十次检查中发现了中位数为四个的已验证失败，而随机顺序为零，基于警报的排序为两个，表现与任务梯度基线相当。该方法还能对学习的GDN和TranAD检测器以及五源作物产量面板的可配置脆弱性进行排名。 事实层面，该工作定义了新的量化指标并在特定工业遥测场景下验证了其有效性；推断层面，这表明当前主流的多源异常检测机制在面对有目标的源操纵时存在系统性盲区，且现有审计方式可能遗漏关键风险；猜测层面，该指标若推广至更广泛的商业AI系统，可能需要重新设计安全管道的评估标准，但这取决于后续在不同架构上的复现结果。

当前热度 9·可比范围峰值 9（10月28日 15:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。