LLM 成本管理,是对公司在语言模型上的花费做计价、归属与设上限;LLM 成本优化,则是在质量不降的前提下,压低每个有用输出的花费。本文梳理四层做法并各给一个具体动作,附上 10 个成本优化杠杆表、按任务选模型的建议,以及 30 天落地计划。
文中模型单价均为模型页上的 ATP 标价,截至 2026 年 10 月。厂商计价信息都链接到厂商自己的页面。
第一层:token 经济
做法:在讨论月度总额之前,先把占大部分流量的三种请求形态,算出每 1,000 次的成本。
一条客服回复在 claude-sonnet-4-6(每 100 万 token $3 / $15)上使用 1,284 个输入与 412 个输出 token,成本是 1,284 × 3 ÷ 1,000,000 + 412 × 15 ÷ 1,000,000 = $0.010032,每 1,000 次 $10.03。每月 30 万条就是 $3,009.60。每种形态都有这个数字后,下面每个杠杆都能换算成金额。完整算法与五个模型并排对比,见 LLM token 成本怎么算。
第二层:以点数作为结算单位
做法:用点数编制单月预算,沿层级向下分配,让财务用同一种单位对账,工程仍保留模型级别的细节。
在 ATP Token 上,1 点 = 0.01 美元。一个月 $3,000 就是 30 万点,也就是三次 1,000 美元的 Scale 充值。点数沿组织 → 工作区 → 项目流动,每一层都显示 Available、Received、Allocated、Consumed。按量付费的点数不会过期,充值不可退款,所以按当月需要充值,不必一次备足一年。
第三层:用项目与密钥明确归属
做法:每个服务、每个环境各一个项目,各自一把密钥。
六个服务、分测试与生产环境,就是 12 个项目、12 把密钥。一把密钥只属于一个项目,并继承该项目的可用模型与点数余额,所以用量页「按密钥」的拆分,直接就是「按负责人」的花费。外包人员离职时,吊销他所在项目的密钥会立即生效,其他 11 个服务照常运行。做法说明见一个项目一把密钥。
第四层:上限与每周复盘
做法:每个项目都给固定分配额,每周看一次用量。
项目只能花它被分配到的点数。分配 5,000 点的测试项目,上限就是 $50:余额用完时调用返回 402,花超分配额的项目会被标记 In debt,直到补足点数。整个周末跑个不停的测试任务,损失大约就是 $50。
复盘方面,ATP 的请求日志保留 7 天的逐笔数据(模型、状态、输入与输出 token、请求 ID),每周看一次,就能在细节还在时发现异常。月底对账用账务事件,这份 90 天账本才是计费依据。
10 个 LLM 成本优化杠杆
效果要么引用厂商定价页,要么用上面的客服回复例子实算(claude-sonnet-4-6 上输入 1,284 / 输出 412,$0.010032)。
杠杆 1 到 4 与 9 适用于任何供应商。杠杆 5 与 6 是厂商各自规则的计价方案,要逐家估算。杠杆 7、8、10 是在 ATP 控制台配置的控制项。
按任务选择模型
杠杆 1 通常省得最多,但要先做评测。把每个工作负载的 50 到 100 条真实提示,交给两到三个候选模型,比完质量再迁移流量。
不同模型的 token 数也不同。Anthropic 指出 Claude 4.7 及以后的 tokenizer,同样文本大约多产生 30% 的 token,所以要用自己的提示比较成本,只看价目表并不准确。
Agent:衡量每次完成任务的成本
编程或研究类 agent,一项任务会发出很多次请求,每一步都可能重发完整上下文。Anthropic 表示 Claude Code 平均每位开发者每个活跃日约 $13,每月约 $150 到 $250;在 plan mode 下,agent teams 的 token 用量约为普通会话的 7 倍(Claude Code 成本)。
每次请求成本持平,每项任务成本却可能一路上涨,所以两者都要跟踪。Agent 放在独立项目、使用独立分配额,循环失控时先触到自己的上限,生产环境不受影响。编程 agent 的做法见 coding agent 成本控制清单。
30 天落地计划
- 第 1 周:列出所有在用的密钥与厂商账号,以及背后的服务。为前三大请求形态算出每 1,000 次成本。
- 第 2 周:创建组织、工作区,每个服务、每个环境各一个项目。把花费最高的三个服务切换到项目密钥;OpenAI、Anthropic、Gemini SDK 只需更换 base URL 与密钥。
- 第 3 周:为每个项目分配每月点数、设置可用模型,并把 agent 迁到独立项目。对最贵的工作负载应用杠杆 1 到 4。
- 第 4 周:用账务事件结算当月,逐项目对比 Consumed 与 Allocated,据此设定下个月的分配额。
指标看板
在 ATP Token 上怎么设置
- 创建 Team 组织,再到资源页创建工作区与项目。
- 为每个项目选择可用模型并分配点数。Team 组织里的密钥消耗的是组织分配的点数,不动用个人钱包。
- 每个项目创建一把
atp-密钥。密钥只显示一次;API 密钥页列出所有工作区的密钥,任何一把都能随时吊销。 - 每周按模型与密钥查看用量页,有异常时在 7 天内用请求日志追查。


