Anthropic 更新政策禁止虐待 Claude 并收紧武器化限制

Anthropic 在超过一年后首次更新使用政策，新增禁止对 Claude 进行“持续且无意义的虐待或残忍行为”，并将选举干扰、武器开发、监控及健康金融用途纳入更严格的禁令范围。此次更新明确终止对话仍是主要执行机制，未提及用户封禁等进一步措施。 具体细节包括：武器禁令扩展至控制软件组件及武装无人机等自主车辆；监控禁令禁止未经同意的追踪及用于执法决策的工具；若模型连接可能导致伤害的自主硬件，必须配备合格操作员进行观察和干预。政策同时保留了对政府客户的合同豁免条款，前提是存在足够的约束和保障措施。 这一变化反映了 Anthropic 对“模型福利”研究的持续投入，与微软等行业伙伴关于 AI 是否应享有权利的立场形成对比。事实层面，政策已生效且明确了执行手段；推断层面，这可能预示未来与具身智能领域的合作需遵循更严格的操作规范；猜测层面，关于操作员是否必须为人类尚不明确，且未来是否会引入用户封禁机制仍待观察。