生成式欺骗对抗语言模型攻击者并增加其能耗

该研究通过330次会话评估了自主语言模型攻击者与使用防御模型分析指令并选择响应的诱饵之间的对抗，发现禁用推理时，在48种配置中的41种（排除诊断调用）或全部48种（包含诊断调用）下，攻击者对防御者的能量比95%置信区间均大于1。尽管令牌比率在无截断配置中保持在约两倍以内，但令牌计数可能掩盖实质性的能量不对称。引入反注入每级使攻击者令牌增加约9%，但未检测到能量消耗的显著变化。 当双方启用推理时，防御者能耗增加8至17倍，并在原始活动中逆转了一对模型的交换结果。这表明单纯依赖令牌数量作为效率指标会误导对防御有效性的判断，实际能量成本结构受推理机制影响巨大。研究基于这些发现提出了针对SCADA系统的欺骗架构建议，包括为每个识别的攻击者分配私有物理状态以及确定性的协议与流程模拟。 事实部分基于原文报告的330次会话、8对模型、2种攻击者画像及3级反注入的实验数据；推断部分指出令牌比率无法反映真实能耗差异，需结合推理开启状态重新评估防御策略；猜测部分关于SCADA架构的具体实施细节未在原文展开，仅作为研究动机的方向性提议。