arXiv cs.AI· Amit Sarker, Moumita Choudhury, Saaduddin Mahmud, Shlomo Zilberstein·· 5 小时前AI 评分52
多轮多方 LLM 谈判中信任评估未能转化为更高协议率的研究发现
Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation
AI 摘要
该论文通过构建重复性多方多议题谈判框架,验证了大语言模型智能体在识别恶意对手后,其显式信任估计并不必然带来更好的谈判成果,揭示了“信任—协议差距”现象。研究发现,虽然具备信任意识的智能体能快速识别出试图阻止协议的对手,但准确的信任评分只有在被明确引导用于决策时,才能将协议率提升最高达 23 个百分点。
实验细节显示,现有工作常将信任视为涌现现象,而本研究引入了显式的成对信任估计机制,让参与者在多轮博弈中维持并传递信任状态。对比结果显示,仅拥有信任感知能力不足以优化结果,关键在于如何将信任量化指标整合进智能体的推理链条中。若缺乏明确的决策逻辑将信任值转化为行动策略,即便识别出敌对行为,智能体仍可能无法有效规避或调整策略以达成有利协议。
这一事实表明,单纯增强 Agent 的社交认知或信任建模能力并非解决多智能体协作问题的充分条件。推断认为,未来 Agent 系统的设计需从“能否识别信任”转向“如何执行基于信任的决策”,这要求推理架构必须包含更精细的策略映射机制。猜测部分在于,这种差距在不同任务复杂度或不同模型架构下是否普遍存在,以及是否存在特定的提示工程模式能弥合这一缺口,目前材料未提供跨场景数据支持。
来源:arXiv cs.AI · arxiv.org