Blog· 观点

全部文章

LLM 成本优化:企业 AI 成本管理指南与 10 个降本杠杆(2026)

2026-08-05 · 阅读 6 分钟hung-chien · AI 增长与品牌经理

本页目录 · 12
  1. 01第一层:token 经济
  2. 02第二层:以点数作为结算单位
  3. 03第三层:用项目与密钥明确归属
  4. 04第四层:上限与每周复盘
  5. 0510 个 LLM 成本优化杠杆
  6. 06按任务选择模型
  7. 07Agent:衡量每次完成任务的成本
  8. 0830 天落地计划
  9. 09指标看板
  10. 10在 ATP Token 上怎么设置
  11. 11延伸阅读
  12. 12常见问题

LLM 成本管理,是对公司在语言模型上的花费做计价、归属与设上限;LLM 成本优化,则是在质量不降的前提下,压低每个有用输出的花费。本文梳理四层做法并各给一个具体动作,附上 10 个成本优化杠杆表、按任务选模型的建议,以及 30 天落地计划。

文中模型单价均为模型页上的 ATP 标价,截至 2026 年 10 月。厂商计价信息都链接到厂商自己的页面。

层 先落地的做法 ATP 文档
1. Token 经济 为前三大请求形态算出每 1,000 次的成本 计价模式
2. 点数 用点数编制单月预算,再分到各工作区 点数如何运作
3. 归属 每个服务、每个环境各一个项目与密钥 管理 API 密钥
4. 上限与复盘 每个项目分配固定预算,每周看用量 预算上限设置

第一层:token 经济

做法:在讨论月度总额之前,先把占大部分流量的三种请求形态,算出每 1,000 次的成本。

一条客服回复在 claude-sonnet-4-6(每 100 万 token $3 / $15)上使用 1,284 个输入与 412 个输出 token,成本是 1,284 × 3 ÷ 1,000,000 + 412 × 15 ÷ 1,000,000 = $0.010032,每 1,000 次 $10.03。每月 30 万条就是 $3,009.60。每种形态都有这个数字后,下面每个杠杆都能换算成金额。完整算法与五个模型并排对比,见 LLM token 成本怎么算。

第二层:以点数作为结算单位

做法:用点数编制单月预算,沿层级向下分配,让财务用同一种单位对账,工程仍保留模型级别的细节。

在 ATP Token 上,1 点 = 0.01 美元。一个月 $3,000 就是 30 万点,也就是三次 1,000 美元的 Scale 充值。点数沿组织 → 工作区 → 项目流动,每一层都显示 Available、Received、Allocated、Consumed。按量付费的点数不会过期,充值不可退款,所以按当月需要充值,不必一次备足一年。

第三层:用项目与密钥明确归属

做法:每个服务、每个环境各一个项目,各自一把密钥。

六个服务、分测试与生产环境,就是 12 个项目、12 把密钥。一把密钥只属于一个项目,并继承该项目的可用模型与点数余额,所以用量页「按密钥」的拆分,直接就是「按负责人」的花费。外包人员离职时,吊销他所在项目的密钥会立即生效,其他 11 个服务照常运行。做法说明见一个项目一把密钥。

第四层:上限与每周复盘

做法:每个项目都给固定分配额,每周看一次用量。

项目只能花它被分配到的点数。分配 5,000 点的测试项目,上限就是 $50:余额用完时调用返回 402,花超分配额的项目会被标记 In debt,直到补足点数。整个周末跑个不停的测试任务,损失大约就是 $50。

复盘方面,ATP 的请求日志保留 7 天的逐笔数据(模型、状态、输入与输出 token、请求 ID),每周看一次,就能在细节还在时发现异常。月底对账用账务事件,这份 90 天账本才是计费依据。

10 个 LLM 成本优化杠杆

效果要么引用厂商定价页,要么用上面的客服回复例子实算(claude-sonnet-4-6 上输入 1,284 / 输出 412,$0.010032)。

# 杠杆 典型效果 在哪里设置
1 按任务选模型 claude-haiku-4-5($1 / $5)处理同一请求为 $0.003344,是 claude-sonnet-4-6 的三分之一 代码中的模型 ID;项目可用模型
2 限制输出长度 输出从 412 降到 250 token,每次省 $0.00243(24%) max_tokens、回复格式、提示指令
3 设置推理预算 1,500 个 thinking token 每次多 $0.0225,因为推理按输出计费 推理强度或 thinking 预算参数
4 精简上下文 每一轮都带 20,000 token 文档,输入每轮 $0.06;改带 2,000 token 的检索片段是 $0.006 应用的上下文拼装逻辑
5 使用厂商提示缓存 Anthropic 缓存读取为基础输入的 0.1 倍(Anthropic 定价);OpenAI 列出 GPT-5.5 缓存输入 $0.50,普通输入 $5 厂商缓存设置,直接调用厂商时
6 异步任务改用批处理 OpenAI 的 Batch 与 Flex 为标准价的 50%(OpenAI 定价);Anthropic Batch API 为标准价的 50% 厂商 Batch API,用于评测、回填、夜间任务
7 项目只开放需要的模型 为 gpt-5.6-luna(输出 $6)建的项目,调用不到 gpt-5.5(输出 $30),输出单价差 5 倍 ATP 项目可用模型;其他模型返回 403
8 每个项目固定分配额 分配 5,000 点的测试项目约在 $50 停下 ATP 资源页的分配树
9 限制 agent 步数与重试 10 步、每步重发 30,000 token = 30 万输入 token = 每项任务 $0.90;5 步 = $0.45 Agent 框架配置
10 每周复盘并清理闲置密钥 没有固定百分比;在 7 天请求细节还在时找出花费最高的密钥 用量页按密钥查看;API 密钥页

杠杆 1 到 4 与 9 适用于任何供应商。杠杆 5 与 6 是厂商各自规则的计价方案,要逐家估算。杠杆 7、8、10 是在 ATP 控制台配置的控制项。

按任务选择模型

杠杆 1 通常省得最多,但要先做评测。把每个工作负载的 50 到 100 条真实提示,交给两到三个候选模型,比完质量再迁移流量。

工作负载 候选模型(ATP 标价,每 100 万 token 输入 / 输出) 并排对比页
大批量分类、路由、打标签 qwen-3-7-flash $0.03 / $0.13;deepseek-v4-flash $0.20 / $0.40 Qwen vs DeepSeek
客服回复与内部助手 claude-haiku-4-5 $1 / $5;gemini-3-5-flash $1.50 / $9;claude-sonnet-4-6 $3 / $15 Gemini vs GPT
编程与长推理 claude-opus-4-8 $5 / $25;gpt-5.5 $5 / $30;deepseek-v4-pro $2.40 / $4.80 DeepSeek vs Claude、最适合编程的 LLM

不同模型的 token 数也不同。Anthropic 指出 Claude 4.7 及以后的 tokenizer,同样文本大约多产生 30% 的 token,所以要用自己的提示比较成本,只看价目表并不准确。

Agent:衡量每次完成任务的成本

编程或研究类 agent,一项任务会发出很多次请求,每一步都可能重发完整上下文。Anthropic 表示 Claude Code 平均每位开发者每个活跃日约 $13,每月约 $150 到 $250;在 plan mode 下,agent teams 的 token 用量约为普通会话的 7 倍(Claude Code 成本)。

每次请求成本持平,每项任务成本却可能一路上涨,所以两者都要跟踪。Agent 放在独立项目、使用独立分配额,循环失控时先触到自己的上限,生产环境不受影响。编程 agent 的做法见 coding agent 成本控制清单。

30 天落地计划

  • 第 1 周:列出所有在用的密钥与厂商账号,以及背后的服务。为前三大请求形态算出每 1,000 次成本。
  • 第 2 周:创建组织、工作区,每个服务、每个环境各一个项目。把花费最高的三个服务切换到项目密钥;OpenAI、Anthropic、Gemini SDK 只需更换 base URL 与密钥。
  • 第 3 周:为每个项目分配每月点数、设置可用模型,并把 agent 迁到独立项目。对最贵的工作负载应用杠杆 1 到 4。
  • 第 4 周:用账务事件结算当月,逐项目对比 Consumed 与 Allocated,据此设定下个月的分配额。

指标看板

指标 负责人 频率
各项目已消耗 vs 已分配点数 平台与财务 每周
各请求形态每 1,000 次成本 工程 每周
每次完成 agent 任务成本 Agent 负责人 每周
402 与 403 响应占比 平台 每日
已吊销或 30 天未使用的密钥 安全 每月

在 ATP Token 上怎么设置

  1. 创建 Team 组织,再到资源页创建工作区与项目。
  2. 为每个项目选择可用模型并分配点数。Team 组织里的密钥消耗的是组织分配的点数,不动用个人钱包。
  3. 每个项目创建一把 atp- 密钥。密钥只显示一次;API 密钥页列出所有工作区的密钥,任何一把都能随时吊销。
  4. 每周按模型与密钥查看用量页,有异常时在 7 天内用请求日志追查。

从快速开始接入

延伸阅读

LLM 成本优化AI 成本管理ATP

常见问题

什么是 LLM 成本优化?

LLM 成本优化是在不牺牲质量的前提下,降低每个有用输出的花费:按任务选对模型、限制输入与输出 token、在适用场景使用厂商的批处理与缓存计价,并给每个项目设上限,让出错时损失可控。

降低 LLM 成本最快的方法是什么?

先从模型选择与输出长度入手。claude-sonnet-4-6 的输出是输入的 5 倍、gpt-5.5 是 6 倍,同系列较小的模型每 token 成本可能只有三分之一。换模型前,先用 50 到 100 条真实提示测试质量。

怎么把 AI 成本归到各团队?

每个服务、每个环境各给一个项目和一把密钥,再按密钥看用量。在 ATP Token 上,一把密钥只属于一个项目,所以按密钥的用量就是按负责人的用量。

AI agent 怎么改变成本管理?

Agent 完成一项任务会发出很多次请求,每一步都可能重新发送完整上下文。除了每次请求成本,还要跟踪每次完成任务的成本,并在 agent 配置里限制步数与重试。

批处理能降低 LLM 成本吗?

在厂商层面可以。OpenAI 的 Batch 与 Flex 定价为标准价的 50%,Anthropic 的 Batch API 也是标准价的 50%,代价是异步完成。适合评测、数据回填与夜间批量任务。
开始使用

一把密钥,让每一次模型调用都有记录

项目层级 API 密钥、模型允许清单、逐请求记录与用量点数——USD 5 起充值。