跳到正文
原文
AWS Machine Learning Blog· Shawn Bice·· 1 小时前精选AI 评分70

AWS 发布 Trust in Depth 框架与 AgentCore 策略引擎,用自动化推理实现可验证的 Agent 自主性

Trust in Depth: Giving agents more autonomy without losing control

AI 导读

AWS 推出 Trust in Depth 框架并配套发布 Amazon Bedrock AgentCore 和 Guardrails 功能,旨在解决企业赋予 AI Agent 更高自主权时的信任难题。该方案通过 Scope、Know、Bound、Observe 四个阶段,结合自动化推理(Automated Reasoning)技术,在无需人工干预的情况下确保 Agent 行为符合预设规则。

核心机制在于将部分无法精确表述的规则交由人类判断,而对可形式化的规则进行数学证明。例如,Amazon Bedrock AgentCore 中的策略(Policies)允许管理员用自然语言定义工具和数据访问权限,系统会在生效前自动检查是否存在逻辑漏洞或过度授权。同时,AgentCore Gateway 作为外部强制层,在 Agent 执行每一步操作时进行确定性边界控制,即使 Agent 自身被操纵或出现错误,也无法绕过这些限制。此外,Strands Box 等开源沙箱工具进一步从环境层面隔离 Agent 的操作范围。

事实层面,AWS 已在 IAM、S3 Block Public Access 等系统中运行自动化推理超过十年,此次将其扩展至 Agent 领域。推断层面,这种“证明优先”的架构可能降低企业在金融交易等高价值场景下对 Agent 的依赖门槛,减少因人工审核导致的效率瓶颈。猜测层面,若其他云厂商跟进类似技术路线,行业或将进入以“可验证性”为核心竞争力的新竞争维度。

推荐理由

AWS 将形式化验证引入 Agent 治理,用自动化推理替代人工审批,能直接改变企业构建高自主 Agent 的安全架构路径。

来源:AWS Machine Learning Blog · aws.amazon.com