运作方式

本页内容

Gateway 位在你的程式 与上游模型供应商之间。不论你用哪种 SDK 格式,每个请求都会经过相同的四个阶段。

请求经过的路径#

一个请求经过 Gateway
  1. 你的程式
    `atp-…` 密钥OpenAI、Anthropic 或 Gemini 格式
  2. 验证
    密钥检查缺失、停用或过期回 401
  3. 授权模型
    项目 allowed list模型不在清单上回 403
  4. 路由到供应商
    自动备援遇到供应商错误或逾时就切换
  5. 计量与计费
    点数余额耗尽回 402
  6. 上游供应商
    看不到你的 ATP 密钥
1

验证#

项目(project) API 密钥会先被验证,并在转送上游前移除——供应商永远看不到你的 ATP 密钥。缺失、被停用或过期的密钥会以 401 拒绝。见 验证方式。

2

授权模型#

请求的模型必须在该项目的 allowed list 上。若不在,会在送到任何供应商前以 403 拒绝——模型存取权是设在项目、不是设在密钥。见 模型查询。

3

路由到供应商#

Gateway 会从该模型设定的供应商池 挑一个,遇到供应商错误或逾时就切换到另一个,因此同一个模型 ID 能跨供应商保持稳定。见 供应商路由与备援。

4

计量与计费#

Input 与 output tokens 会被计量,并以点数从该项目余额扣款。余额耗尽时请求会以 402 拒绝。见 点数如何运作。

Gateway 改变什么、又不改变什么#

Gateway 转译验证与路由,但把你的 request 与 response body 维持在 SDK 本来就预期的形状。

帮你处理维持不变
密钥验证与供应商验证Request body schema(依 SDK 格式)
模型存取检查Response body schema
供应商挑选与自动备援(fallback)串流事件序列
计量与点数扣款模型行为与输出

因为 wire format 原样通过,把既有的 OpenAI、Anthropic 或 Gemini 整合搬过来,通常只是改 base URL 与密钥。

四个阶段再往下看#

下一步

这页有帮助吗?