跳到正文
原文
arXiv cs.AI· Yuxuan Li, Xiangchen Guan, Kunrong Li, Jin Wang, Kaiwen Luo, Yang Xiao, Yufei Guo, Zhisheng Chen, Liang Lin, Kun Wang·· 5 小时前AI 评分62

DuplexLedger 基准测试显示全双工语音智能体在事务性记忆管理上存在严重缺陷

DuplexLedger: Benchmarking Transactional Memory in Full-Duplex Speech Agents

AI 摘要

DuplexLedger 是一个包含 1,094 个持久化会话的双语基准,旨在评估全双工语音智能体在边听边说时更新持久记忆的准确性。该基准对齐了四种全双工场景,提供事件级的写入、更新、忽略或保留监督,并明确记录了前后记忆状态。对五个全双工模型的评估结果显示,没有任何系统能同时具备强大的边界控制能力和连贯的最终状态记忆,最佳系统的最终状态事实覆盖率仅为 2.01%。

为了解决这一交互与记忆之间的差距,作者提出了 ACT-Mem,这是一个包含 892 万参数的旁路组件,由事件控制器、版本化事务账本和类型化检索器组成,耦合在冻结的 MiniCPM-o 4.5 主干网络上。在 219 个预留会话上的测试表明,ACT-Mem 将最新值准确率从 4.11% 提升至 8.68%,同时减少了过时断言和干扰项的采用,但同时也导致中断停止速度变慢。

事实层面,现有全双工模型在记忆管理的精确度上表现极差,且简单的转录保留策略无法解决状态一致性问题。推断层面,当前的架构设计可能过度依赖被动记录而缺乏主动的事务性逻辑,导致信息污染。猜测层面,未来若要在消费级产品中实现可靠的全双工交互,必须引入类似事务数据库的显式状态管理机制,而非仅仅优化上下文窗口大小。

来源:arXiv cs.AI · arxiv.org