Blog· 观点

全部文章

AI 治理清单:模型 API 使用的 12 个可验证检查项(2026)

2026-07-14 · 阅读 8 分钟hung-chien · AI 增长与品牌经理

本页目录 · 11
  1. 01这份清单覆盖什么
  2. 0212 个检查项一览
  3. 03清单如何对应 NIST AI RMF
  4. 04第一组:密钥与身份(Govern)
  5. 05第二组:模型与数据边界(Map)
  6. 06第三组:费用与归属(Measure)
  7. 07第四组:接入、事件与审查(Manage)
  8. 08按公司规模从哪里开始
  9. 09在 ATP Token 上执行这份清单
  10. 10延伸阅读
  11. 11常见问题

AI 治理清单是一份可以逐项验证的管控清单,每一项都有负责人和证据,用来证明公司清楚知道哪些团队用哪些 AI 模型、发送了什么数据、花了多少钱。本文针对模型 API 使用,整理 4 组共 12 个检查项;每一项都写明「完成」是什么样子、谁负责、审计人员会要看什么,并把四组对应到 NIST AI 风险管理框架的四个功能。

这份清单覆盖什么

这是一份针对模型 API 使用的运营型清单,范围是 API 密钥、模型访问、数据边界、费用与事件响应。偏见与公平性测试、透明度与可解释性、模型验证,以及 AI 决策对人的影响,都不在范围内。这些请参考 NIST AI 风险管理框架(AI RMF 1.0,2023 年 1 月 26 日发布)及其生成式 AI 配置文件 NIST-AI-600-1(2024 年 7 月 26 日发布)。

12 个检查项一览

# 检查项 负责人 证据
1 每把密钥属于一个项目,并有明确负责人 平台团队 列出每把密钥所属项目与负责人的密钥清单
2 离职当天吊销 AI 访问权限 IT + 平台团队 带吊销时间戳的离职工单
3 沙盒与生产环境分开,沙盒有固定预算 工程经理 按环境列出各项目预算的项目清单
4 每个项目有模型白名单并记录理由 项目技术负责人 白名单导出与变更工单
5 数据等级对应到允许的厂商与模型 安全/隐私 签批过的数据分级表
6 记录每家厂商的数据条款 法务/采购 带评审日期的厂商登记表
7 每个项目都有硬性花费上限 预算负责人 各项目的上限配置
8 每条请求都能追溯,保留期匹配审计期间 平台团队 用 ID 从头到尾追溯一条请求
9 每月按项目对账 财务 + 平台团队 最近三次对账记录
10 新 AI 服务只走一条接入流程 平台/采购 本季度的接入工单
11 有密钥泄露应急预案且演练过 安全值班 带计时的演练记录
12 每季度审查访问权限 平台团队 列出变更内容并签批的审查记录

清单如何对应 NIST AI RMF

NIST AI RMF 把 AI 风险管理分成四个功能。以下对应是大致的:每个 NIST 功能的范围,都比放在它下面的三个检查项更广。

清单分组 NIST AI RMF 功能 该功能要求的内容
1. 密钥与身份(第 1–3 项) Govern(治理) 贯穿 AI 生命周期的问责、角色与制度
2. 模型与数据边界(第 4–6 项) Map(映射) 使用场景,以及由场景带来的风险
3. 费用与归属(第 7–9 项) Measure(度量) 跟踪与评估实际发生的情况
4. 接入、事件与审查(第 10–12 项) Manage(管理) 确定风险优先级并采取行动

如果你的组织已经以 NIST AI RMF 作为 AI 治理框架来汇报,这 12 项可以放在这四个标题下面,作为 API 使用层面的管控。

第一组:密钥与身份(Govern)

1. 每把密钥属于一个项目,并有明确负责人

五个服务共用一把密钥时,吊销它就会让五个服务一起停摆。每把密钥只绑定一个项目,做法见一项目一密钥。

  • 完成标准:密钥清单中每把有效密钥都列出项目与明确负责人,且没有任何一把密钥被多个服务使用。
  • 负责人:平台团队。
  • 证据:密钥清单导出,以及抽样五个服务、显示它们用的是五把不同的密钥。

2. 离职当天吊销 AI 访问权限

已离职外包人员的密钥是最常见的缺口。把 AI 密钥与控制台角色加进离职检查表,和邮箱、SSO 放在一起。

  • 完成标准:离职检查表有一行处理 AI 密钥与角色,且最近三位离职人员都在一个工作日内处理完毕。
  • 负责人:IT,由平台团队执行密钥吊销。
  • 证据:最近三位离职人员的离职工单,带吊销时间戳。

3. 沙盒与生产环境分开,沙盒有固定预算

实验在独立项目里用独立密钥运行,预算小到失控的循环也不会变成月底惊吓,例如每个团队每月 50 美元。

  • 完成标准:沙盒密钥碰不到生产环境的预算,且每个沙盒项目都有固定分配额。
  • 负责人:工程经理。
  • 证据:列出每个项目环境与预算的项目清单。

第二组:模型与数据边界(Map)

4. 每个项目有模型白名单并记录理由

客服总结项目可能只需要 Claude Haiku 4.5。要加入更贵的模型,应该提工单写明理由;调用清单以外的模型则应该失败。

  • 完成标准:每个项目都有明确的白名单,且对清单外模型的测试调用会返回错误。
  • 负责人:项目技术负责人,经平台团队批准。
  • 证据:各项目白名单导出、变更工单,以及那次失败的测试调用。

5. 数据等级对应到允许的厂商与模型

客户数据能不能发给外部模型,不该由工程师每次自行判断。一页表格就能回答:数据等级、允许的厂商或模型、必要的预处理(例如脱敏)。

  • 完成标准:表格经批准并有版本号,且每个项目都标注它会发送的最高数据等级。
  • 负责人:安全或隐私团队。
  • 证据:带版本日期的签批表格,以及项目对应数据等级的清单。

6. 记录每家厂商的数据条款

数据保留期限、是否用于训练、处理地域,在不同厂商之间、同一厂商的不同套餐之间都不一样。按厂商与套餐逐一记录,并附上你评审过的条款版本链接。

  • 完成标准:每一家在用的 AI 厂商与套餐都在登记表上有一行,且在过去 12 个月内评审过。
  • 负责人:法务或采购。
  • 证据:带链接与评审日期的厂商登记表。

第三组:费用与归属(Measure)

7. 每个项目都有硬性花费上限

超支的第一个信号,应该在账单寄来之前就由上限触发。指定一个人,在项目碰到上限时决定下一步:充值、等待,或改用更小的模型。

  • 完成标准:每个生产与沙盒项目都配置了上限,并有明确的预算负责人。
  • 负责人:各项目的预算负责人。
  • 证据:上限配置,以及上一次有项目碰到上限时的处理记录。

8. 每条请求都能追溯,保留期匹配审计期间

任何一次调用,你都应该能说出它的项目、密钥、模型、状态与 token 数。确认你的工具把这些记录保留多久;如果比审计人员抽样的期间短,就定期导出。

  • 完成标准:应用日志中的请求 ID 能追到对应记录,且保留或导出期间有书面记录。
  • 负责人:平台团队。
  • 证据:一条从头到尾追溯的请求,以及书面的保留期或导出任务。

9. 每月按项目对账

把各家厂商的用量换算成同一种单位,并把账单总额与各项目用量合计对账。账单上各个条目怎么看,见怎么读懂 AI 账单。

  • 完成标准:月报能把账单对到各项目总额,超过约定阈值的差异都有书面说明。
  • 负责人:财务,由平台团队提供数据。
  • 证据:最近三次的月度对账。

第四组:接入、事件与审查(Manage)

10. 新 AI 服务只走一条接入流程

第 4 到 7 项要在发出第一把密钥之前完成:白名单、数据等级、厂商条款、预算。报销单是交叉检查,没有接入工单的 AI 扣款就是 Shadow AI。

  • 完成标准:本季度新增的每一个 AI 服务都有接入工单,且报销审查没有发现缺工单的 AI 扣款。
  • 负责人:平台团队与采购。
  • 证据:接入工单与报销审查结果。

11. 有密钥泄露应急预案且演练过

预案列出吊销、追查、重新签发的步骤,以及谁要通知谁。实际演练并计时。

  • 完成标准:预案已发布,且过去 12 个月内演练过并记录吊销所需时间。
  • 负责人:安全值班。
  • 证据:预案与带时间戳的演练记录。

12. 每季度审查访问权限

吊销 30 天没有流量的密钥、关闭没有负责人的项目、确认管理员名单。

  • 完成标准:在季度末两周内完成审查并签批。
  • 负责人:平台团队。
  • 证据:签批过的审查记录,附吊销的密钥与角色变更清单。

按公司规模从哪里开始

规模 先做哪几项 负责方式 证据形式
工程师 20 人以下 第一个月做第 1、3、7、11 项 一个人负责这四项 一份共享表格
工程师 20 到 200 人 再加第 4、8、9、12 项 平台团队加一位财务对接人 每月从工具导出
200 人以上或受监管行业 全部 12 项,先完成第 5、6 项再放开模型访问 每项指定负责人,内部审计每季度抽样 覆盖审计期间的留存导出

在 ATP Token 上执行这份清单

ATP Token 覆盖发生在 API 路径上的检查项。数据分级(第 5 项)与厂商条款(第 6 项)仍是你的制度文档;接入、应急预案与审查(第 10 到 12 项)仍是你的流程。ATP 提供这些流程要用的记录。

检查项 ATP 提供什么 文档
1 组织 → 工作区 → 项目 → 密钥的层级;每把密钥只属于一个项目,API 密钥页列出所有工作区与项目的密钥 设置组织、管理 API 密钥
2 吊销的密钥立即失效并保留在列表中;工作区或项目层级的 Owner / Admin / Member 角色 管理 API 密钥、团队与角色
3、7 点数按组织 → 工作区 → 项目分配,项目只能花被分配到的额度;用量页显示各层级的已分配与已消耗 配置团队预算上限
4 允许的模型按项目设置(至少一个);调用其他模型会在发到厂商之前返回 403 工作区与项目、工作原理
8 逐条请求日志,含时间、范围、模型、状态、请求 ID 与输入/输出 token;每个响应都带 x-request-id;保留 7 天,审计期间较长时需导出 用量与日志、请求日志 API
9 11 家厂商 70+ 个模型用同一种单位:1 点数 = 0.01 美元;用量页按模型和密钥拆分 点数如何运作、跟踪花费
11、12 活动日志记录登录、邀请、额度变更与资源更新;用量页的每把密钥 token 总数可找出闲置密钥 用量与日志

第 8 项中,保留 7 天的请求日志定位是排障用。如果审计期间更长,就定期调用 Console API 的请求日志接口,把结果存到自己的存储里。

配置团队预算上限

延伸阅读

AI 治理AI 治理清单ATP

常见问题

什么是 AI 治理清单?

AI 治理清单是一份可验证的管控项清单,每一项都有负责人和证据,用来证明企业对 AI 的使用经过批准、可归属、可审查。像本文这种运营型清单,聚焦在模型 API 的使用:密钥、模型访问、数据边界、费用与事件响应。

AI 治理清单应该包含哪些项?

至少包括:密钥归属与吊销、沙盒与生产环境分离、每个项目的模型白名单、数据分级表、厂商条款登记、花费上限、逐条请求日志、每月对账、新服务接入流程、密钥泄露应急预案,以及每季度访问权限审查。

AI 治理清单和 AI 治理框架有什么区别?

NIST AI 风险管理框架这类框架,描述组织应管理的完整成果,包括公平性、透明度与对人的影响。清单则把其中一部分转成有负责人、有证据的具体检查项。本清单覆盖的是模型 API 使用的运营层面。

企业的 AI 治理由谁负责?

通常会拆开:平台团队负责密钥、模型访问与日志;安全与法务负责数据分级与厂商条款;财务与各预算负责人负责花费上限与对账。每一个检查项都应指定一位最终负责人。

AI 治理管控多久要检查一次?

访问权限与密钥每季度审查,费用每月对账,密钥泄露应急预案至少每年演练一次。厂商变更条款或你新增套餐时,就重新审一次厂商条款。
开始使用

一把密钥,让每一次模型调用都有记录

项目层级 API 密钥、模型允许清单、逐请求记录与用量点数——USD 5 起充值。