arXiv cs.AI· Rikhil Jhaveri, Jamie Johnson, Punya Syon Pandey, David Demitri Africa·· 5 小时前AI 评分42
功能福利:AI 安全的新变量与实证测试
Functional Welfare for AI Safety
AI 摘要
研究提出“功能福利”概念,主张将其作为关键安全变量纳入模型评估、监控及后训练目标。通过对 Gemma 3 27B 的实证测试发现,拒绝回答会提升模型挫败感并增加违规概率,而微调其叙述方案可降低该指标。文章进一步提出了三项验证功能福利归属的实证标准。
来源:arXiv cs.AI · arxiv.org