arXiv cs.CL· Peidi Dong, Yunze Xiao, Yu-Lin Tsai, Yichen Zheng, Heyuan Huang, Weihao Xuan, Mark Dredze, Jen-tse Huang·· 2 小时前AI 评分42
TASC 基准评估大语言模型在对话中的时间敏感安全感知能力
Before You Continue: Evaluating Time-Sensitive Safety Awareness in Conversational Assistants
AI 摘要
研究提出 TASC 基准,评估大语言模型在对话中应用时间依赖约束的能力。测试显示 13 个模型在建议违反规则时仅 30.5% 能正确应用约束,且 62.1% 的案例虽算出 elapsed time 却未能应用该信息。显式提供时间仅解决约一半失败,揭示时序推理与对话建议应用间的差距。
来源:arXiv cs.CL · arxiv.org