提出角色分解框架评估LLM隐写术

这篇来自arXiv cs.CR的论文指出，当前大语言模型隐写术（LLM steganography）的成功率通常仅通过端到端（E2E）恢复来衡量，即检查解码器是否能正确重构私密消息，但这种单一指标无法区分是编码器未能隐藏消息还是解码器未能提取消息，也无法揭示消息在文本中的具体表示方式。作者Om Tailor等人提出了一个角色分解框架，将私密消息在编码器输出文本中的表示、解码器的恢复结果以及确定性验证能力分开考察。 通过对7,200个编码器响应的分析，研究发现存在168个被解码器遗漏的可验证编码案例，另有706个响应包含通过词长或令牌初始模式重构的私密消息，而这些模式并未在编码器的指令中明确指定。这些细节表明，仅依赖端到端恢复可能会模糊编码和解码之间的关键区别，导致对安全问题的误判。 事实层面，该研究基于7,200次实验样本量化了传统评估方法的盲区；推断层面，这意味着现有的隐写术防御或检测机制可能因评估标准过于粗糙而失效；猜测层面，未来针对LLM隐写术的安全对齐可能需要引入更细粒度的中间状态监控，而非仅仅关注最终的消息是否被成功传递。

摘自 arXiv cs.CR

还没有足够的连续观测数据，暂不绘制趋势。