从 Demo 到生产：AWS AgentCore 与 Envoy AI Gateway 构建 Agent Harness 的两种路径

文章提出 Agent = Model + Harness 的核心观点，强调将 Demo 转化为生产级应用的关键在于围绕模型搭建包含记忆、工具访问、护栏和可观测性的基础设施层。作者通过构建同一个财务助手 FinBot，对比了托管方案（Harness-as-a-Service）与自主管理方案（Self-managed）在架构落地上的具体差异。

在统一模型访问方面，AWS AgentCore 通过配置对象直接支持跨供应商切换，将密钥保存在 Token Vault 中；而自主管理方案使用 Envoy AI Gateway 作为兼容 OpenAI 的统一 Endpoint，利用 EKS Pod Identity 或 IRSA 将 IAM Role 挂载到网关，确保集群内不存放静态密钥。成本控制上，AgentCore 提供单次调用级别的硬上限（如 maxIterations），可直接终止失控循环；Envoy Gateway 则基于租户维度进行每日 Token 预算扣减，耗尽后返回 HTTP 429 拒绝请求。

可观测性层面，两者均输出符合 OpenTelemetry 语义的指标，但实现机制不同。AgentCore 自动将 Trace、日志和指标发送至 CloudWatch，开发者无需编写埋点代码；自主管理方案需自行部署 Collector，并在应用侧引入 OpenLIT 等库来捕获 Prompt 和工具调用链路。事实是两种方案都能实现生产级能力，推断是选择取决于团队对运维复杂度的容忍度及云厂商绑定偏好，猜测是随着 HaaS 成熟，初期开发效率优势可能逐渐缩小与自主管理的差距。