OpenAI 与 Anthropic 如何平衡金融智能体的自主性与安全

OpenAI 和 Anthropic 在 AIE NY 会议上提出，金融智能体的安全取决于控制点的设计而非限制数量。OpenAI 预测 2027 年模型将跨越“有用性阈值”实现投资生成与交易，Anthropic 则通过身份权限层、沙箱及审批层构建信任机制。Bloomberg 强调需在模型外实施确定性控制，包括工具调用限制、审计追踪及紧急停止开关。