Agent tax 是多步 AI agent 為完成一項工作,因重送上下文、呼叫工具與重試而產生的額外 token 成本。這份指南寫給帳單爬升快於純聊天的工程與財務。
先給答案:單價可跌、agent 帳單仍升,因為單位從「一次 completion」變成「一項完成的任務」。量測每次 agent 任務成本,設步數與預算天花板,保留逐請求紀錄。見上線後帳單為何炸、讀懂 AI 帳單。
定義
單輪聊天付一塊輸入與輸出;agent 可能每輪重讀逐字稿、吞工具結果、重試、複製上下文給子 agent。多出來的 token 即 agent tax——架構稅,不是供應商加價。
單價跌、帳單升
缺的變數是工作形態。沒有上限與歸屬,形態變成不透明月底總額(五個缺口)。
昂貴回合解剖
| 階段 | 浪費 |
|---|---|
| Plan | 每步巨大系統提示 |
| Act | 無上限工具迴圈 |
| Observe | 整檔貼上 |
| Retry | 無 max steps |
| Handoff | 歷史重複 |
每次請求 vs 每次任務
依情境與規模
Coding agent 與生產拆專案(Claude Code)。小團隊先一條 agent 面;中型拆實驗/生產;企業對齊 BU 分配(組織、治理清單)。
降稅六招
限制步數、縮小上下文、拆分模型、約束重試(錯誤)、專案 cap(預算上限)、每週看費用。
更現代的做法
ATP Token 作為治理與帳務整合層:專案金鑰、白名單、點數上限、請求紀錄;相容 OpenAI / Anthropic / Gemini。
常見問題
什麼是 AI 的 agent tax?
Agent tax 是多步 agent 因重送上下文、工具呼叫與重試,超出單次模型回覆的額外 token 支出。
為什麼 AI agent 比一般聊天更貴?
Agent 可能為同一目標發起多次呼叫,每次帶歷史與工具結果,任務級 token 會倍增。
怎麼量測 agent tax?
依任務彙總整條鏈路的 token 與點數,再與單輪基準比;用完成任務成本做共同語言。
如何降低 agent token 成本?
限制步數、摘要上下文、子任務用小模型、專案上限,並每週查請求紀錄。
Agent tax 等於模型加價嗎?
不是。加價是費率差;agent tax 是架構讓同一費率消耗更多 token。
