AI资讯

AWS 在 Amazon Bedrock 上为泰国、马来西亚、新加坡、印尼、台湾开放 OpenAI GPT-6 全球跨区域推理

来源AWS Machine Learning查看原文

速览

  • GPT-6 Sol 与 Luna 覆盖五个亚太来源区域,Astra 仅限新加坡
  • 调用方式是传全球跨区域推理配置文件 ID 替代模型 ID
  • 支持 Converse API、OpenAI 兼容 API 与 Codex CLI 三条接入路径
  • 计费、配额、CloudTrail、CloudWatch 均留在来源区域
  • 输出 token 按 10 倍消耗配额,需按此比例规划 TPM
  • SCP 区域白名单会拦截跨区域推理,需用 InferenceProfileArn 设例外
  • 滥用检测流量在目标区域保留最多 30 天,数据驻留需提前评估
  • CloudTrail 的 inferenceRegion 字段可查每次请求的实际处理区域

AWS 在 Amazon Bedrock 上推出面向 OpenAI GPT-6 系列的全球跨区域推理(global cross-Region inference)能力,覆盖泰国、马来西亚、新加坡、印度尼西亚和台湾五个亚太来源区域。GPT-6 Sol 与 GPT-6 Luna 可从全部五个来源区域调用,GPT-6 Astra 仅从亚太(新加坡)ap-southeast-1 调用。调用方式是在 bedrock-runtime 端点上把模型 ID 换成全球跨区域推理配置文件 ID(如 global.openai.gpt-6-sol),支持 Converse API、OpenAI Responses API、OpenAI Chat Completions API 以及 ChatGPT 桌面应用和 Codex CLI。计费、配额统计、CloudTrail 与 CloudWatch 均保留在来源区域,实际处理区域可通过 CloudTrail 的 additionalEventData.inferenceRegion 查看。文章同时给出 IAM 策略、SCP 例外配置、配额与监控的完整操作说明。

关键事实

  • GPT-6 Sol 与 GPT-6 Luna 可从亚太(新加坡)ap-southeast-1、亚太(雅加达)ap-southeast-3、亚太(马来西亚)ap-southeast-5、亚太(泰国)ap-southeast-7、亚太(台北)ap-east-2 五个来源区域通过全球跨区域推理调用
  • GPT-6 Astra 仅支持从亚太(新加坡)ap-southeast-1 通过全球跨区域推理调用
  • 新加坡 ap-southeast-1 为默认启用区域,雅加达、马来西亚、泰国、台北为需先激活的 opt-in 区域
  • 三个模型均接受文本与图像输入、客户端工具调用和提示缓存,区别在推理强度:GPT-6 Sol 与 GPT-6 Luna 支持 none、low、medium、high、xhigh、max,GPT-6 Astra 支持除 none 外的相同档位
  • 配额按来源区域的 tokens per minute(TPM)计算,输入与缓存写入 token 按 1:1 计,每个输出 token 消耗 10 个 token 配额;2000 输入 token + 1000 输出 token 的请求消耗 12000 token 配额
  • 全球跨区域推理请求的 aws:RequestedRegion 为 unspecified,因此带区域白名单的 SCP 会直接拒绝调用,需通过 bedrock:InferenceProfileArn 条件键设置例外

本站视角

这件事对三类人有直接价值。第一类是东南亚和台湾本地的开发团队与用 API 的中小企业:过去要在 Bedrock 上用 OpenAI 前沿模型,往往受限于本地区域容量和模型可用性,现在 GPT-6 Sol 与 Luna 可以从五个来源区域直接调用,且计费、配额、日志都留在本地区域,接入成本明显下降。第二类是国内做 Agent 和出海产品的团队:如果产品面向东南亚或台湾用户,这套跨区域推理配置提供了一条不需要自建多区域路由的合规路径,但必须注意输出 token 按 10 倍消耗配额这一计费特性,按 1:1 估算 TPM 会在生产环境迅速撞墙。第三类是企业的云平台与安全团队:SCP 区域白名单与跨区域推理的冲突是真实存在的踩坑点,文章给出的 InferenceProfileArn 例外方案比放宽白名单更可取,值得直接纳入内部策略模板。 我们的判断是,这是一次实打实的能力扩展而非营销包装,但它的价值高度依赖区域覆盖的完整性。GPT-6 Astra 只从新加坡一个来源区域开放,说明高端模型的部署范围仍然有限,所谓「全球」在 Astra 上并不成立。需要观察的是:目标区域列表不透明,AWS 只以「模型部署所在的受支持商业区域」概括,这对需要明确数据流向的金融、医疗类客户是不够的,只能靠 CloudTrail 事后核查,事前无法枚举。另外,滥用检测流量在目标区域保留最多 30 天这一点,文章放在数据保留小节里一笔带过,但对有数据驻留要求的组织来说,这恰恰是最需要提前决策的部分,文章也承认需要走合规流程。最后,本文出自 AWS 官方博客,作者中包含 OpenAI 的产品人员,内容本质是官方接入指南,对延迟、跨区域调用的实际性能开销、以及目标区域选择策略没有任何数据,这些才是决定是否上生产的关键,建议读者在自己的负载上实测后再做判断。

背景与影响

Amazon Bedrock 此前已支持跨区域推理,用于在单一区域容量不足时把请求路由到其他区域,缓解限流问题。此次新增的是面向 OpenAI GPT-6 系列的全球跨区域推理配置文件,把 OpenAI 前沿模型接入 Bedrock 的区域范围从单一区域扩展到多个亚太来源区域。对东南亚和台湾的团队来说,这意味着不必自建到其他区域的调用链路,直接在本地来源区域发起请求即可获得更广的 Bedrock 容量池。需要注意的是,全球配置文件的目标区域被 AWS 描述为「模型部署所在的受支持商业区域」,并未逐一列举,GetInferenceProfile 也只返回与区域无关的 ARN 和来源区域模型 ARN,不返回目标区域列表,因此实际处理位置只能通过 CloudTrail 的 additionalEventData.inferenceRegion 逐请求确认。这意味着对数据驻留敏感的组织需要把跨区域路由纳入合规评估,文章也明确建议有数据驻留要求的组织尽早与风险与合规团队沟通。此外,SCP 区域白名单与跨区域推理的冲突是企业账户首次调用失败的常见原因,文章给出的做法是用 bedrock:InferenceProfileArn 条件键做定向例外,而不是把 unspecified 加进白名单——后者会把同样的例外开放给所有其他服务。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明