Server-Sent Events
當你在 /v1/chat/completions 設定 stream: true,Gateway 會把上游供應商回應以 OpenAI 格式的 SSE chunk 串流出來。
請求#
加上 "stream": true。curl 要加 -N,輸出才不會被緩衝。
curl -N https://api.atptoken.ai/v1/chat/completions \
-H "Authorization: Bearer $ATP_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"messages": [{"role": "user", "content": "hi"}],
"stream": true
}'用量與串流結束#
最後一個 chunk 含 usage 物件;串流以 data: [DONE] 結束。
這頁有幫助嗎?