AI 治理清单是一份可以逐项验证的管控清单,每一项都有负责人和证据,用来证明公司清楚知道哪些团队用哪些 AI 模型、发送了什么数据、花了多少钱。本文针对模型 API 使用,整理 4 组共 12 个检查项;每一项都写明「完成」是什么样子、谁负责、审计人员会要看什么,并把四组对应到 NIST AI 风险管理框架的四个功能。
这份清单覆盖什么
这是一份针对模型 API 使用的运营型清单,范围是 API 密钥、模型访问、数据边界、费用与事件响应。偏见与公平性测试、透明度与可解释性、模型验证,以及 AI 决策对人的影响,都不在范围内。这些请参考 NIST AI 风险管理框架(AI RMF 1.0,2023 年 1 月 26 日发布)及其生成式 AI 配置文件 NIST-AI-600-1(2024 年 7 月 26 日发布)。
12 个检查项一览
清单如何对应 NIST AI RMF
NIST AI RMF 把 AI 风险管理分成四个功能。以下对应是大致的:每个 NIST 功能的范围,都比放在它下面的三个检查项更广。
如果你的组织已经以 NIST AI RMF 作为 AI 治理框架来汇报,这 12 项可以放在这四个标题下面,作为 API 使用层面的管控。
第一组:密钥与身份(Govern)
1. 每把密钥属于一个项目,并有明确负责人
五个服务共用一把密钥时,吊销它就会让五个服务一起停摆。每把密钥只绑定一个项目,做法见一项目一密钥。
- 完成标准:密钥清单中每把有效密钥都列出项目与明确负责人,且没有任何一把密钥被多个服务使用。
- 负责人:平台团队。
- 证据:密钥清单导出,以及抽样五个服务、显示它们用的是五把不同的密钥。
2. 离职当天吊销 AI 访问权限
已离职外包人员的密钥是最常见的缺口。把 AI 密钥与控制台角色加进离职检查表,和邮箱、SSO 放在一起。
- 完成标准:离职检查表有一行处理 AI 密钥与角色,且最近三位离职人员都在一个工作日内处理完毕。
- 负责人:IT,由平台团队执行密钥吊销。
- 证据:最近三位离职人员的离职工单,带吊销时间戳。
3. 沙盒与生产环境分开,沙盒有固定预算
实验在独立项目里用独立密钥运行,预算小到失控的循环也不会变成月底惊吓,例如每个团队每月 50 美元。
- 完成标准:沙盒密钥碰不到生产环境的预算,且每个沙盒项目都有固定分配额。
- 负责人:工程经理。
- 证据:列出每个项目环境与预算的项目清单。
第二组:模型与数据边界(Map)
4. 每个项目有模型白名单并记录理由
客服总结项目可能只需要 Claude Haiku 4.5。要加入更贵的模型,应该提工单写明理由;调用清单以外的模型则应该失败。
- 完成标准:每个项目都有明确的白名单,且对清单外模型的测试调用会返回错误。
- 负责人:项目技术负责人,经平台团队批准。
- 证据:各项目白名单导出、变更工单,以及那次失败的测试调用。
5. 数据等级对应到允许的厂商与模型
客户数据能不能发给外部模型,不该由工程师每次自行判断。一页表格就能回答:数据等级、允许的厂商或模型、必要的预处理(例如脱敏)。
- 完成标准:表格经批准并有版本号,且每个项目都标注它会发送的最高数据等级。
- 负责人:安全或隐私团队。
- 证据:带版本日期的签批表格,以及项目对应数据等级的清单。
6. 记录每家厂商的数据条款
数据保留期限、是否用于训练、处理地域,在不同厂商之间、同一厂商的不同套餐之间都不一样。按厂商与套餐逐一记录,并附上你评审过的条款版本链接。
- 完成标准:每一家在用的 AI 厂商与套餐都在登记表上有一行,且在过去 12 个月内评审过。
- 负责人:法务或采购。
- 证据:带链接与评审日期的厂商登记表。
第三组:费用与归属(Measure)
7. 每个项目都有硬性花费上限
超支的第一个信号,应该在账单寄来之前就由上限触发。指定一个人,在项目碰到上限时决定下一步:充值、等待,或改用更小的模型。
- 完成标准:每个生产与沙盒项目都配置了上限,并有明确的预算负责人。
- 负责人:各项目的预算负责人。
- 证据:上限配置,以及上一次有项目碰到上限时的处理记录。
8. 每条请求都能追溯,保留期匹配审计期间
任何一次调用,你都应该能说出它的项目、密钥、模型、状态与 token 数。确认你的工具把这些记录保留多久;如果比审计人员抽样的期间短,就定期导出。
- 完成标准:应用日志中的请求 ID 能追到对应记录,且保留或导出期间有书面记录。
- 负责人:平台团队。
- 证据:一条从头到尾追溯的请求,以及书面的保留期或导出任务。
9. 每月按项目对账
把各家厂商的用量换算成同一种单位,并把账单总额与各项目用量合计对账。账单上各个条目怎么看,见怎么读懂 AI 账单。
- 完成标准:月报能把账单对到各项目总额,超过约定阈值的差异都有书面说明。
- 负责人:财务,由平台团队提供数据。
- 证据:最近三次的月度对账。
第四组:接入、事件与审查(Manage)
10. 新 AI 服务只走一条接入流程
第 4 到 7 项要在发出第一把密钥之前完成:白名单、数据等级、厂商条款、预算。报销单是交叉检查,没有接入工单的 AI 扣款就是 Shadow AI。
- 完成标准:本季度新增的每一个 AI 服务都有接入工单,且报销审查没有发现缺工单的 AI 扣款。
- 负责人:平台团队与采购。
- 证据:接入工单与报销审查结果。
11. 有密钥泄露应急预案且演练过
预案列出吊销、追查、重新签发的步骤,以及谁要通知谁。实际演练并计时。
- 完成标准:预案已发布,且过去 12 个月内演练过并记录吊销所需时间。
- 负责人:安全值班。
- 证据:预案与带时间戳的演练记录。
12. 每季度审查访问权限
吊销 30 天没有流量的密钥、关闭没有负责人的项目、确认管理员名单。
- 完成标准:在季度末两周内完成审查并签批。
- 负责人:平台团队。
- 证据:签批过的审查记录,附吊销的密钥与角色变更清单。
按公司规模从哪里开始
在 ATP Token 上执行这份清单
ATP Token 覆盖发生在 API 路径上的检查项。数据分级(第 5 项)与厂商条款(第 6 项)仍是你的制度文档;接入、应急预案与审查(第 10 到 12 项)仍是你的流程。ATP 提供这些流程要用的记录。
第 8 项中,保留 7 天的请求日志定位是排障用。如果审计期间更长,就定期调用 Console API 的请求日志接口,把结果存到自己的存储里。

