跳到正文
原文
InfoQ 中文· Ali Taha·· 2 小时前AI 评分70

Snowflake Cortex AI Gateway 公开预览,提供统一模型路由、MCP 治理与成本归因

企业 AI 越用越复杂,如何用一个 Gateway 管好模型、Agent 和成本?| 技术趋势

AI 摘要

Snowflake 发布面向企业级 AI 基础设施的集中式控制平面 Cortex AI Gateway,目前已在 AWS 商业区域进入公开预览阶段。该平台旨在解决企业技术栈碎片化问题,通过单一端点整合对 OpenAI、Grok、GLM、Gemini、Llama、Mistral 和 DeepSeek 等模型的访问,并支持 Claude Messages API 及即将推出的 OpenAI Responses API。

核心功能包括动态模型路由与 MCP 工具治理。动态路由允许系统根据任务复杂度自动选择最经济的模型,内部评估显示在 dbt Pipeline 工作负载中 token 效率最高提升 3 倍,编程测试中 token 使用量减少约 25%。MCP 治理方面,平台内置了超过 100 个经过筛选的 MCP 服务器目录,能够防止工具投毒和 Rug Pull 攻击,并将工具调用日志写入 Trace 表实现全链路审计。此外,平台集成了基于角色的访问控制(RBAC)和预算限制功能,支持按部门、角色或用户 ID 进行细粒度的成本归因与控制。

该方案通过 Snowflake CLI 简化集成流程,并采用 OpenTelemetry 标准将遥测数据写入客户自有的 AGENT_TRACE_TABLE,确保数据始终处于客户的安全边界内。事实层面,Cortex AI Gateway 已具备上述功能并开放试用;推断层面,这将改变企业构建 Agent 应用时的架构模式,从分散接入转向集中治理;猜测层面,随着更多第三方框架接入,其可能成为企业级 AI 流量的默认网关。

来源:InfoQ 中文 · infoq.cn