Anthropic SDK

本頁內容

設定客戶端
送出第一個請求
串流與 system prompt
下一步

直接用官方 Anthropic SDK，不改任何東西。把 base URL 設成 Gateway（不用加 /v1——SDK 會自己補上 /v1/messages）、帶一把專案（project） API 金鑰，並呼叫 GET /v1/models 回傳的任一模型。

設定客戶端#

設定	值
Base URL	`https://api.atptoken.ai`
驗證	`Authorization: Bearer atp-…`（SDK 預設）
模型	GET /v1/models 的任一 id

送出第一個請求#

from anthropic import Anthropic

client = Anthropic(base_url="https://api.atptoken.ai", api_key="atp-...")
msg = client.messages.create(
    model="<model from GET /v1/models>",
    max_tokens=256,
    messages=[{"role": "user", "content": "hi"}],
)
print(msg.content[0].text)

串流與 system prompt#

設 stream=True 即可 SSE 串流——見 Anthropic SSE。最上層 system 欄位可以是字串，也可以是文字區塊陣列。

下一步

上一頁OpenAI SDK 下一頁Google GenAI SDK

這頁有幫助嗎？