Anthropic 启动 500 万美元资助计划以建立独立的 AI 用户福祉评估体系
Anthropic 宣布推出 500 万美元的赠款项目，旨在资助独立研究团队开发开源工具，用于评估 AI 模型对用户福祉的具体影响。该项目不仅提供资金，还开放模型访问权限与技术支援，要求受助者完全独立地构建评估框架，并将成果开源供全行业复用。此举针对的是当前行业在缺乏统一标准的情况下，难以界定模型在陪伴、情感支持及心理健康危机等复杂场景下的行为边界。 该计划明确了评估必须满足的五项核心标准：清晰定义测量指标及其意义；引入临床专家参与设计与验证；同时测试过度合规（overcompliance）与拒绝过度（overrefusal）的风险；构建反映多轮对话中风险动态变化的真实场景；以及验证评分者与领域专家的校准度。材料特别指出，福祉评估不同于单一答案的准确性判断，需要结合长上下文中的语境变化，例如区分普通减肥建议与针对饮食失调历史用户的潜在有害回应。 申请截止日期为 9 月 21 日，入选提案通知将于 10 月 5 日发布。这一动作标志着 Anthropic 试图通过外部独立视角来校正自身的安全策略，将原本依赖内部 Safeguards 团队的模糊经验转化为可量化的行业标准。事实层面是资金规模与验收标准的公开，推断层面是该举措意在降低全行业在情感交互领域的试错成本，猜测层面则是这种独立评估机制能否真正覆盖所有复杂的心理危机情境，目前尚需观察首批项目的实际产出。
推荐理由：通过资助独立评估与明确验收标准，将行业对 AI 情感影响的衡量从内部黑盒转向可复用的开源基准。