跳到正文
原文
AWS Machine Learning Blog· Steve Vinsik·· 2 小时前精选AI 评分62

Amazon Quick 发布 Smart Approvals 功能以在保留人工监督的同时减少常规操作中断

Smart Approvals in Amazon Quick: Human oversight where it matters

AI 导读

Amazon Quick 推出 Smart Approvals 功能,旨在解决 AI Agent 执行多步骤任务时因频繁请求批准而导致的安全警告疲劳问题。该功能通过评估提议的动作是否符合用户请求及上下文,对符合条件的动作进行自动批准或退回人工审查,从而在不授予额外权限的前提下优化工作流。

Smart Approvals 的运作机制依赖于现有的权限控制体系,包括 Custom Permissions、Quick Guardrails 和连接器动作权限。只有当用户设置要求每次询问且无其他强制人工审批要求时,动作才被视为合格。系统使用独立的分类器模型(classifier)结合用户的知识图谱来评估动作的风险,例如判断发送内容是否超出组织范围或涉及汇报链中的高层领导。所有自动批准均为单次有效,仅适用于被审查的确切动作和参数,不会赋予持续权限。

在审计与调查方面,AWS CloudTrail 记录了与 Smart Approvals 相关的权限更新事件,并标记了请求来源。配合 Amazon CloudWatch Logs 中的聊天日志和 Agent 元数据日志,管理员可以追踪从批准到执行的完整链路。需要注意的是,CloudTrail 记录并不证明动作已执行,仅作为审计线索。建议企业先通过 Connector Action Permissions 配置必须人工审批的高风险动作,并在试点团队中验证自动审批逻辑的有效性后再逐步推广。

推荐理由

明确自动审批仅针对单次动作且不可复用,防止将权限控制误判为全权代理。

来源:AWS Machine Learning Blog · aws.amazon.com