LLM 成本管理,是對公司在語言模型上的花費做計價、歸屬與設上限;LLM 成本優化,則是在品質不降的前提下,壓低每個有用輸出的花費。這篇整理四層做法並各給一個具體動作,附上 10 個成本優化槓桿表、依任務挑模型的建議,以及 30 天導入計畫。
文中模型單價都是模型頁上的 ATP 牌價,截至 2026 年 10 月。原廠計價資訊都連到原廠自己的頁面。
第一層:token 經濟
做法:在爭論月總額之前,先把佔大部分流量的三種請求型態,算出每 1,000 次的成本。
一則客服回覆在 claude-sonnet-4-6(每 100 萬 token $3 / $15)上用 1,284 個輸入與 412 個輸出 token,成本是 1,284 × 3 ÷ 1,000,000 + 412 × 15 ÷ 1,000,000 = $0.010032,每 1,000 次 $10.03。每月 30 萬則就是 $3,009.60。每種型態都有這個數字後,下面每個槓桿都能換算成金額。完整算法與五個模型並排比較,見 LLM token 成本怎麼算。
第二層:以點數作為結算單位
做法:用點數編列單月預算,沿階層往下分配,讓財務對同一種單位對帳,工程仍保有模型層級的細節。
在 ATP Token 上,1 點 = 0.01 美元。一個月 $3,000 就是 30 萬點,也就是三次 1,000 美元的 Scale 儲值。點數沿組織 → 工作區 → 專案流動,每一層都顯示 Available、Received、Allocated、Consumed。隨用隨付的點數不會過期,儲值不可退款,所以依當月需要儲值,不必一次備足一年。
第三層:用專案與金鑰確立歸屬
做法:每個服務、每個環境各一個專案,各自一把金鑰。
六個服務、分測試與正式環境,就是 12 個專案、12 把金鑰。一把金鑰只屬於一個專案,並沿用該專案的可用模型與點數餘額,所以用量頁「依金鑰」的拆分,直接就是「依負責人」的花費。外包人員離開時,撤銷他那個專案的金鑰會立即生效,其他 11 個服務照常運作。做法說明見一個專案一把金鑰。
第四層:上限與每週覆核
做法:每個專案都給固定分配額,每週看一次用量。
專案只能花它被分配到的點數。分配 5,000 點的測試專案,上限就是 $50:餘額用完時呼叫回傳 402,花超過分配額的專案會被標示 In debt,直到補足點數。整個週末跑不停的測試排程,損失大約就是 $50。
覆核方面,ATP 的請求紀錄保留 7 天的逐筆資料(模型、狀態、輸入與輸出 token、請求 ID),每週看一次,就能在細節還在時抓到異常。月底對帳用帳務事件,這份 90 天帳本才是計費依據。
10 個 LLM 成本優化槓桿
效果不是引用原廠定價頁,就是用上面的客服回覆例子實算(claude-sonnet-4-6 上輸入 1,284 / 輸出 412,$0.010032)。
槓桿 1 到 4 與 9 適用任何供應商。槓桿 5 與 6 是原廠各自規則的計價方案,要逐家估算。槓桿 7、8、10 是在 ATP 主控台設定的控制。
依任務挑選模型
槓桿 1 通常省最多,但要先做評測。把每個工作負載的 50 到 100 則真實提示,丟給兩到三個候選模型,比完品質再轉移流量。
不同模型的 token 數也不一樣。Anthropic 指出 Claude 4.7 以後的 tokenizer,同樣文字大約多產生 30% 的 token,所以要用自己的提示比成本,單看價目表不準。
Agent:衡量每次完成任務的成本
寫程式或做研究的 agent,一項工作會發出很多次請求,每一步都可能重送完整上下文。Anthropic 表示 Claude Code 平均每位開發者每個活躍日約 $13,每月約 $150 到 $250;在 plan mode 下,agent teams 的 token 用量約是一般工作階段的 7 倍(Claude Code 成本)。
每次請求成本持平,每項任務成本卻可能一路上升,所以兩個都要追。Agent 放在自己的專案、用自己的分配額,迴圈失控時先撞到自己的上限,正式環境不受影響。Coding agent 的做法見 coding agent 成本控制清單。
30 天導入計畫
- 第 1 週:列出所有使用中的金鑰與原廠帳號,以及背後的服務。為前三大請求型態算出每 1,000 次成本。
- 第 2 週:建立組織、工作區,每個服務、每個環境各一個專案。把花費最高的三個服務換成專案金鑰;OpenAI、Anthropic、Gemini SDK 只要換 base URL 與金鑰。
- 第 3 週:為每個專案分配每月點數、設定可用模型,並把 agent 移到獨立專案。對最貴的工作負載套用槓桿 1 到 4。
- 第 4 週:用帳務事件結算當月,逐專案比對 Consumed 與 Allocated,據此設定下個月的分配額。
指標看板
在 ATP Token 上怎麼設定
- 建立 Team 組織,再到資源頁建立工作區與專案。
- 為每個專案選擇可用模型並分配點數。Team 組織裡的金鑰花的是組織分配的點數,不動用個人錢包。
- 每個專案建立一把
atp-金鑰。金鑰只顯示一次;API 金鑰頁列出所有工作區的金鑰,任何一把都能隨時撤銷。 - 每週依模型與金鑰看用量頁,有異常時在 7 天內用請求紀錄追查。


