OpenAI SDK

本頁內容

設定 client
串流，以及與 OpenAI 的差異
下一步

直接用官方 OpenAI SDK，不改任何東西。把 base URL 設成 Gateway、帶一把專案（project） API 金鑰，並呼叫 GET /v1/models 回傳的任一模型。

設定 client#

設定	值
Base URL	`https://api.atptoken.ai/v1`
驗證	`Authorization: Bearer atp-…`（SDK 預設）
模型	GET /v1/models 的任一 id

from openai import OpenAI

client = OpenAI(base_url="https://api.atptoken.ai/v1", api_key="atp-...")
r = client.chat.completions.create(
    model="<model from GET /v1/models>",
    messages=[{"role": "user", "content": "hi"}],
)
print(r.choices[0].message.content)

串流，以及與 OpenAI 的差異#

設 stream=True 即可 SSE 串流——見 OpenAI SSE。request 與 response body 就是 OpenAI 的原樣；跟直接呼叫 OpenAI 的唯一差別是 base URL、atp- 金鑰，以及未在你專案啟用的模型會回 403。完整端點規格：/v1/chat/completions。

下一步

上一頁代理技能下一頁Anthropic SDK

這頁有幫助嗎？