跳到正文
原文
InfoQ 中文· Snowflake·· 4 小时前AI 评分57

Snowflake 发布五项措施管理 AI 智能体行动时的企业治理风险

当 AI 智能体代表用户行动时,企业治理将面临哪些新问题? | 技术趋势

AI 摘要

Snowflake 针对 AI 智能体代表用户执行操作时可能引发的权限继承与数据泄露问题,正式推出包含识别、限制、保护、控制和审计的五项治理控制措施。这些功能旨在解决当智能体参与会话时,传统基于角色的访问控制(RBAC)无法区分人与机器行为的痛点,确保在赋予智能体完成任务所需权限的同时,避免授予超出需要的访问能力。

核心机制在于通过 `SYS_CONTEXT('SNOWFLAKE$CURRENT', 'IS_AGENT_ACTIVATED')` 等上下文变量实时识别智能体活动状态。在此基础上,新发布的“智能体受限会话范围”允许管理员设定预定义或自定义的权限上限,例如禁止写入和 DDL 操作,即使底层 RBAC 角色拥有更高权限;同时,现有的掩码策略和行访问策略可被改造为“感知智能体”,在检测到智能体激活时自动对敏感数据进行脱敏处理,从而在数据层实现比用户更严格的访问控制。

此外,Snowflake 还引入了单用户 AI credit 配额以应对智能体自动化运行导致的资源消耗激增,并提供了 `QUERY_HISTORY` 和 `ACCESS_HISTORY` 视图用于追踪智能体的具体操作与对象访问记录。对于 CoCo 自动化等无人值守场景,系统同样应用上述治理逻辑,但强调需谨慎配置默认角色以防止影响范围扩大。事实层面,这是 Snowflake 平台功能的更新;推断层面,这标志着企业级 AI 治理正从宏观原则转向具体的代码级策略约束;猜测层面,此类细粒度控制可能会成为未来其他云厂商构建 Agent 生态的标准配置。

来源:InfoQ 中文 · infoq.cn