Prompt 格式也要实测
定义
格式字符、重复键名和冗余字段都会占 Token,但哪种格式更省取决于 tokenizer、数据形状和输出约束。优化前先实测;程序消费还要把解析可靠性放在节省少量 Token 之前。
说明
标题、列表、引号、缩进和代码围栏都会进入分词,但占比随内容变化。对人看的 Prompt 可保留必要结构;面向机器消费的高频载荷应使用目标 tokenizer 比较样本,而不是相信固定百分比。
长扁平表格可能适合 CSV,嵌套对象常用 JSON,配置可用 YAML;但 YAML 的隐式类型和缩进也会增加错误风险。先满足 schema、转义和流式需求,再选择更紧凑的表示。
输出 Token 会增加返回时间和用量,但输入输出单价关系因模型而异。机器消费的结果可以去掉无意义排版,同时保留 schema 和解析可靠性;是否值得压缩应由账单与延迟实测决定。
边界与误区
为什么 JSON 数组在长列表里特别费 Token: 因为每个对象的字段名都会重复出现,而且引号、括号和缩进也分别计费,列表越长,重复键名累积越多。
什么时候用 YAML,什么时候用 CSV: 复杂嵌套对象更适合 YAML,因为它用缩进代替闭合符号;扁平表格数据更适合 CSV,因为键名只写一次,能显著减少重复。
后台输出为什么要求 Minified JSON: 后台任务不需要人类阅读,去掉换行、缩进和代码块标记可以减少输出 Token,既省钱又加快生成速度。