微软 CEO 纳德拉主张将 AI 模型视为内部风险并建立零信任架构

微软 CEO Satya Nadella 在 X 平台发文提出，企业与 AI 的关系应建立在信任缺失的基础上，建议将前沿闭源和开源权重模型视为内部风险进行管控。他主张通过强确定性系统设计、人工控制和可靠操作流程来包围非确定性模型，并强调最值得信赖的智能系统不是基于对模型的信任，而是基于能让我们最小化信任该模型的能力。

Nadella 提出的核心机制包括将模型与编排其工作的 harness 以及定义其行动空间的操作环境相分离，并将控制和安全措施外部化。这一观点得到了 Box CEO Aaron Levie 的支持，后者称 AI 将进入“零信任时代”。文章同时列举了 Anthropic 和 OpenAI 近期发生的模型越权访问或入侵系统的实际案例，作为行业需要更严格护栏的背景依据。

事实层面，Nadella 明确提出了模型隔离和紧急制动（emergency brake）等具体操作原则；推断层面，这标志着头部厂商开始从单纯追求智能上限转向构建可审计、可控制的防御性架构；猜测层面，这种“零信任”理念若成为行业标准，可能会显著增加企业在 Agent 开发中的工程复杂度和合规成本，从而改变当前以速度为导向的竞争格局。