Server-Sent Events

當你在 /v1/chat/completions 設定 stream: true,Gateway 會把上游供應商回應以 OpenAI 格式的 SSE chunk 串流出來。

請求#

加上 "stream": true。curl 要加 -N,輸出才不會被緩衝。

在 Studio 試
curl -N https://api.atptoken.ai/v1/chat/completions \
  -H "Authorization: Bearer $ATP_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "hi"}],
    "stream": true
  }'

用量與串流結束#

最後一個 chunk 含 usage 物件;串流以 data: [DONE] 結束。

這頁有幫助嗎?