Amazon SageMaker AI 推出 aws-ai-ml 技能以增强编码 Agent 的推理优化能力
New agent skill: Amazon SageMaker optimized generative AI inference for your coding agent
Amazon SageMaker AI 通过 AWS Agent Toolkit 发布了名为 aws-ai-ml 的新技能(skill),旨在将支持 Model Context Protocol (MCP) 的编码 Agent(如 Kiro、Claude Code、Codex)转化为 SageMaker 推理优化专家。该技能允许用户通过自然语言描述意图,由 Agent 自动生成可执行的 SageMaker Python SDK v3 代码,用于对现有端点进行基准测试、推荐最佳部署实例配置以及对比不同运行结果的性能数据。
该技能的核心机制在于填补了工程师在模型部署时面临的“意图与基础设施”之间的鸿沟。它不仅能根据 S3 中的微调模型或 Hugging Face Hub 上的开源模型(如 Qwen3、Llama)自动评估候选实例,还能在涉及真实流量的操作前要求用户确认以确保安全。例如,在对比 Qwen3-8B 与 Qwen3-1.7B 的基准测试结果时,Agent 能基于实际负载数据输出吞吐量、延迟及并发数的具体百分比变化,而非仅提供估算值。此外,该技能支持在本地环境或 Amazon SageMaker Studio JupyterLab 中安装,且无需额外的 IAM 配置即可运行。
这一更新标志着云厂商正在通过标准化协议(MCP)降低大模型工程化的门槛,将原本需要深厚架构知识的推理优化工作流(Benchmarking、Instance Selection)封装为 Agent 可执行的原子任务。事实层面,该技能目前仅针对 SageMaker 生态内的推理优化场景;推断层面,这预示着未来更多云原生服务可能通过类似 Skill 的形式向通用 Agent 开放,从而改变开发者从模型训练到生产部署的交互模式。猜测层面,随着支持的 Agent 增多,此类技能可能会成为连接通用智能体与特定云资源的标准接口。
来源:AWS Machine Learning Blog · aws.amazon.com