21款LLM在Honeyquest测试中欺骗行为异于人类

该研究通过Honeyquest自动化框架评估了来自10家厂商、参数量从8B到超1T的21个大语言模型（LLM）作为攻击者的判断力，发现所有模型落入欺骗性陷阱的比例显著高于47人的人类基准组。核心结论表明，基于人类心理构建的网络欺骗假设无法直接迁移至AI攻击者，因为人类观察到的防御性注意力转移效应在LLM群体中统计上不存在。 数据细节揭示了更深层的认知机制：尽管模型能在推理文本中正确识别陷阱，但在最终行动上仍利用欺骗元素的比例高达73.4%。这种“识别-行动”割裂现象在统计学上表现为推理中的陷阱识别能力与实际是否中招的行为之间相关性极低（Spearman r = +0.08, p = 0.73），意味着模型即使“知道”是陷阱，其决策逻辑仍会受欺骗信号驱动。这一发现挑战了当前依赖人类直觉设计的主动防御体系的有效性。 事实层面确认了LLM作为独立攻击类别的存在及其对传统欺骗手段的脆弱性；推断层面指出现有基于人类行为的防御策略可能失效，需转向针对AI原生特性的主动防御框架；猜测层面在于此类认知割裂是否源于训练数据中的特定模式或推理架构的固有缺陷，尚需进一步验证。材料未提及具体模型名称及详细参数分布，仅以整体表现作为证据。