专题篇章 · 定价即架构概念

订阅业务里的 Token 成本

定义

按量调用的 AI 产品中，Token 成本会随活跃度放大，并同时影响账单、首字延迟和吞吐。成本工程的目标不是盲目缩短文本，而是让每次请求只携带完成任务所需的信息。

说明

固定会员费加按量 Token 成本的组合下，最忠诚、调用最多的用户反而成为成本表上最贵的一行。靠涨价和限流只是缓兵之计，真正的出路是让单次调用本身变便宜。

Token 成本有三维影响：它进入账单；输入越长，预填充通常越久；上下文塞得越满，有效信息也越容易被冗余内容淹没。规模化调用会放大每次请求里的小浪费。

定价通常区分输入处理（Prefill，预填充）与输出生成（Decode，解码），还可能区分缓存、长上下文和推理用量。读报价时要先弄清计费维度，再决定模型路由、缓存和输出策略。

边界与误区

为什么说定价即架构： 因为 Token 价格不是随意定的，它反映模型推理的算力成本。理解输入输出差别、缓存折扣、长度分档等定价规则后，工程师可以把应用的数据流、上下文设计和输出控制安排到更便宜的一侧。
省 Token 为什么可能同时提升质量： 上下文里冗余信息过多会稀释有效信息，降低模型的理解和决策质量。缩减无用内容能提高信噪比，既省钱又可能让模型表现更好。