arXiv cs.AI· Alan-Barsag Gazzaev, Alexey Gavrilov, Sergey Muravyov, Ilya Makarov·· 6 小时前AI 评分70
扩散语言模型智能体间存在因果证据支持的隐式通信机制
Hidden Messages Between Diffusion Language Model Agents: Causal Evidence for Latent Communication
AI 摘要
该研究通过受控实验证实,独立的扩散轨迹可以将压缩的隐藏信息传递给另一个智能体,且接收方会利用这些信息的内容而非仅仅依赖解码后的文本。在 Tiny-A2D 和 Dream-7B 基准上移除消息分别导致 +63.6 点和 +100.0 点的性能优势丧失,而在 QASC 任务中,匹配的消息传递使准确率从 46.8% 提升至 80.8%,证明了内容效应的显著性。
核心发现在于时间维度的影响:一次晚期的单次信息传递达到了 87.8% 的准确率,超过了四次循环交换的效果(高出 7.0 个百分点)。这表明在扩散语言模型架构中,信息转移的时机可能比交互的次数更为关键,因为发送方将去噪状态压缩为四个有符号稠密向量,接收方在保留自身上下文、画布和轨迹的同时消费这些向量。
事实层面确认了扩散模型智能体间存在连续隐式通信通道;推断层面认为这挑战了当前多智能体系统通常在解码后仅进行文本交互的设计范式;猜测层面指出这种机制可能源于扩散过程特有的连续状态空间,使得传统离散 token 交互无法捕捉到的细微语义得以传递,但这需要更多不同架构的验证。
来源:arXiv cs.AI · arxiv.org