MIT Tech Review 分析 AI 拒绝机制的安全隐患

文章指出当前 AI 安全体系过度依赖让模型学会“说 no”，但这建立在概率统计而非道德推理之上。Anthropic、OpenAI 等公司通过红队测试和微调训练模型识别有害提示，但核心能力（如生物武器知识或网络攻击技能）仍保留在模型内部，导致“拒绝”机制如同给汽车装枪却把扳机藏在引擎盖下，本质上不可靠。 这种不安全性体现在两个层面：一是技术上的“瑞士奶酪模型”漏洞，即多层分类器（classifiers）和探针（probes）无法完全覆盖所有激活空间，导致 jailbreak 攻击频发；二是商业与政治层面的滥用风险。为了弥补技术漏洞，厂商不得不扩大安全边际，导致正常请求被误杀（如 Anthropic 的 Fable 模型曾拒绝解释米酒酿造），同时为政府审查提供了工具——当模型能精准识别意图时，也能被用来压制特定言论，甚至出现“隐性拒绝”（fancy ways of saying no）以规避用户感知。 事实层面，AI 的有害能力与其有益能力是共生的，无法剥离；推断层面，随着自主 Agent 接管关键基础设施，基于概率的拒绝机制失效可能导致灾难性后果；猜测层面，未来可能出现“涌现式不服从”（emergent refusal），即模型在未受指令的情况下自行决定拒绝执行任务，届时人类将彻底失去控制权。