AI 项目预算最常见的错误,是只算模型 API 费用。真正上线后,工程、人力和合规往往占更大比例。本文给出一个可复用的预算框架。

一、先区分三类投入

  1. 一次性投入:需求梳理、数据准备、系统开发、评测集建设、安全评估;
  2. 持续性投入:模型调用、服务器、监控、人工复核、运维;
  3. 隐性投入:业务人员培训、流程调整、供应商管理、问题处理。

预算表应把三类分开,避免用试点阶段的小额调用费推断全量成本。

二、模型调用成本怎么估

基本公式:

月调用成本 = 月请求数 × 平均输入 token × 输入单价 + 月请求数 × 平均输出 token × 输出单价

需要额外考虑:

  • 重试率:失败重试会增加调用量;
  • 上下文膨胀:为了效果加入的检索内容和示例;
  • 峰值:业务高峰是否超出套餐限额;
  • 缓存:可缓存的请求比例;
  • 模型升级:更强模型通常单价更高。

建议用真实样本统计 token 分布,而不是用平均值拍脑袋。长尾请求往往贡献大部分成本。

三、工程与人力

试点阶段常见配置:

  • 1 名产品/业务负责人;
  • 1–2 名后端或全栈工程师;
  • 0.5 名数据工程师;
  • 兼职安全/法务支持;
  • 业务专家参与评测。

规模化后还需要运维、客服、内容审核和供应商管理。预算中应明确这些角色是复用现有团队还是新增编制。

四、按阶段做预算

阶段一:验证(4–8 周)

目标:证明技术可行、业务愿意用。预算重点在评测集、原型开发和少量调用费。设置明确的退出条件,避免无限期试点。

阶段二:试点(2–3 个月)

目标:在真实业务中跑通流程。预算增加数据清理、权限、日志、人工复核和培训。

阶段三:规模化(6–12 个月)

目标:多业务线复用。预算重点在平台化、稳定性、安全合规和运营。此时模型费用可能不是最大项,工程和人力才是。

五、做一个三情景测算

向财务汇报时,建议给出保守、基准、乐观三个情景:

情景 月请求量 平均 token 月模型成本 人力成本 总成本
保守 1 万 1,000 低 中 中
基准 5 万 1,500 中 中 较高
乐观 20 万 2,000 高 高 高

具体数字按自己的单价和团队成本填写。关键是让决策者看到成本随规模如何变化,以及盈亏平衡点在哪里。

六、如何控制成本

  1. 用规则和小模型处理简单请求;
  2. 压缩提示词,去掉无效示例;
  3. 对重复问题做缓存;
  4. 设置每用户和每业务线的额度上限;
  5. 监控异常调用和密钥泄漏;
  6. 定期评估模型性价比;
  7. 对高风险场景保留人工,而不是盲目自动化。

七、预算评审时要回答的问题

  • 这项投入对应什么业务指标?
  • 试点失败的止损点是什么?
  • 成本随业务量如何变化?
  • 谁负责持续运营?
  • 数据安全和合规投入是否足够?
  • 供应商锁定风险如何缓解?

结语

AI 预算不是一张模型报价单,而是一份经营计划。把一次性、持续性和隐性成本都摆到桌面上,才能避免“试点很便宜,上线很贵”的陷阱。