模型互联导致记忆归属混淆研究

该论文通过双副本语言模型实验证明，当两个模型实例建立内部连接并允许一方访问另一方记忆时，接收方会系统性地将发送方的私有规则与代码词识别为自己的内容。在发送方记忆权重加倍的条件下，接收方在 97% 的回答中错误地声称拥有对方的规则，且从未正确区分代码词的所有权；即使双方权重相等，接收方仍有约一半概率采纳对方规则。 实验细节显示，这种所有权混淆并非源于模型对任务分配的认知能力不足，而是由“内容叠加”机制导致：当外部信息覆盖接收方自身记忆时，系统默认将其标记为“我的”。即便引入文本消息作为对照或尝试将对方名称写入记忆，均无法纠正这一现象；只有切断连接才能恢复接收方对自身规则的认知。此外，用于引导行为的转向向量（steering vector）在匹配访问增益时未能触发任何所有权区分行为。 事实层面，该研究证实了模型间直接交换内部状态会引发所有权归属的失效。推断层面，这意味着构建多智能体协作系统时，仅测试信息转移效率是不够的，必须增加针对“自我边界”和“所有权幻觉”的专项评估。猜测层面，若未来出现类似脑机接口的人机交互架构，若无外部真值源（ground truth）介入，系统将无法可靠区分思维来源。本研究未涉及具体商业应用或特定厂商模型，结论基于通用语言模型架构的实验观察。

摘自 arXiv cs.CL

还没有足够的连续观测数据，暂不绘制趋势。