跳到正文
原文
arXiv cs.CL· Peidi Dong, Yunze Xiao, Yu-Lin Tsai, Yichen Zheng, Heyuan Huang, Weihao Xuan, Mark Dredze, Jen-tse Huang·· 2 小时前AI 评分42

TASC 基准评估大语言模型在对话中的时间敏感安全感知能力

Before You Continue: Evaluating Time-Sensitive Safety Awareness in Conversational Assistants

AI 摘要

研究提出 TASC 基准,评估大语言模型在对话中应用时间依赖约束的能力。测试显示 13 个模型在建议违反规则时仅 30.5% 能正确应用约束,且 62.1% 的案例虽算出 elapsed time 却未能应用该信息。显式提供时间仅解决约一半失败,揭示时序推理与对话建议应用间的差距。

来源:arXiv cs.CL · arxiv.org