Amazon Bedrock 推出 OpenAI GPT-6 全球跨区推理以突破区域容量限制
Accessing OpenAI GPT models on Amazon Bedrock with global cross-Region inference in Thailand, Malaysia, Singapore, Indonesia, and Taiwan
Amazon Bedrock 在泰国、马来西亚、新加坡、印度尼西亚和台湾五个亚太源区域上线了针对 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 的全球跨区推理功能。该功能允许开发者通过 bedrock-runtime 端点调用这些模型,当本地区域容量不足时,请求会被自动路由到支持的商业 AWS 区域进行处理,从而解决单区域推理的限流问题。
技术实现上,用户只需将全局跨区推理配置文件 ID(如 global.openai.gpt-6-sol)作为 model 参数传入 API,无需激活目标区域。计费、配额追踪和监控均保留在源区域,且 CloudTrail 日志会记录实际处理请求的区域(inferenceRegion)。对于安全配置,IAM 策略必须包含 Region-agnostic 的基础模型 ARN 并设置 aws:RequestedRegion 为 unspecified,同时企业级 SCP 策略需显式放行此类配置文件以避免因区域白名单而阻断请求。
这一机制改变了现有架构对单一区域容量的依赖,使得开发团队可以在不迁移基础设施的情况下获得更稳定的推理服务。然而,这也引入了新的合规考量:数据保留和滥用检测发生在目标区域而非源区域,若组织有严格的数据驻留要求,需提前评估风险。此外,配额管理基于源区域的每分钟令牌数(TPM),且输出令牌消耗 10 倍于输入令牌的配额,需在生产前预留足够的缓冲空间。
通过跨区路由解决区域容量瓶颈,但需调整 IAM 策略与数据驻留合规判断。
来源:AWS Machine Learning Blog · aws.amazon.com