AI 简明手册
AI 成本工程 · 定价即架构模型报价表怎么读

模型报价表怎么读

目标

读模型报价表先分清输入、输出、缓存、推理用量和长度分档,再按任务风险建立内部模型梯队。T0/T1/T2 是团队自己的路由标签,不是厂商统一等级。

操作步骤

  1. 先统一计费单位和维度

    把不同 Provider 的价格换算到同一币种与 Token 单位,并分别记录输入、输出、缓存读写、推理用量、批处理和长上下文分档。缺一项就不能直接比较总成本。

  2. 再按任务风险建立内部梯队

    可以把高能力高成本模型标为 T0、日常主力标为 T1、稳定简单任务标为 T2,但归类要来自本地评测。答错代价、延迟和可回退性比模型名更重要。

  3. 最后检查缓存与价格跳档

    缓存折扣和分档规则差异很大,不能假定固定比例。对真实输入输出分布做成本回放,并在上线前核对当前官方报价与生效日期。

完成检查

  • 三大梯队应该怎么分工: T0 管难题,比如复杂推理和代码生成;T1 管日常,如对话、RAG 问答、摘要;T2 管走量,如数据清洗、意图分类和高频监控。大部分请求应落在 T1,简单高频任务用 T2,只有在答错代价大时才动用 T0。

  • 为什么缓存规则会影响架构: 能否复用前缀取决于 Provider 的缓存机制和请求是否稳定。理解最小长度、有效期和计费口径,才能判断是否值得为缓存调整上下文与工具布局。