运作方式
Gateway 位在你的程式 与上游模型供应商之间。不论你用哪种 SDK 格式,每个请求都会经过相同的四个阶段。
请求经过的路径#
验证#
授权模型#
请求的模型必须在该项目的 allowed list 上。若不在,会在送到任何供应商前以 403 拒绝——模型存取权是设在项目、不是设在密钥。见 模型查询。
路由到供应商#
Gateway 会从该模型设定的供应商池 挑一个,遇到供应商错误或逾时就切换到另一个,因此同一个模型 ID 能跨供应商保持稳定。见 供应商路由与备援。
计量与计费#
Gateway 改变什么、又不改变什么#
Gateway 转译验证与路由,但把你的 request 与 response body 维持在 SDK 本来就预期的形状。
因为 wire format 原样通过,把既有的 OpenAI、Anthropic 或 Gemini 整合搬过来,通常只是改 base URL 与密钥。
四个阶段再往下看#
下一步
这页有帮助吗?