AI 简明手册
AI 成本工程 · 三大跳档陷阱价格跳档与回溯计价

价格跳档与回溯计价

定义

有些模型按输入长度、输出长度或功能档位分段计价,跨过边界后可能只对增量涨价,也可能整次请求采用新档。工程上必须读取当前计费规则,并用真实长度分布测算跳档风险。

说明

先区分两种口径:边际计价只给超出部分使用高档价格;回溯或整单计价会让整个请求落入新档。两者对边界附近请求的成本影响完全不同。

不要从算力原理反推厂商一定采用哪种价格规则。计费是产品政策,必须以当前官方价目、账单字段和实测请求为准。

应对方式包括拆分任务、限制输出、异步补充次要字段、切换模型或接受波动。决策依据是输入输出分布与答错代价,而不是某个固定阈值。

边界与误区

  • 什么是回溯计价: 触发高档后,整次请求的相关用量都按新档计算,而不是只给超出部分涨价;是否如此要看具体 Provider 规则。

  • 怎么判断该接受波动还是重切任务: 用真实流量画出长度分布与单次成本;大量请求集中在边界附近时,才值得调整任务粒度或模型。