提高上下文的信息密度

说明

Lost in the Middle 研究显示，在其多文档问答设置中，相关信息位于长输入不同位置会影响表现。它提示团队测试位置效应，但不能直接推出所有 Prompt 都应把关键信息放在首尾。

硬编码大量 Few-Shot 案例会让每次请求携带同一长前缀。可以根据当前问题检索少量相关示例，但必须评测检索失败和错误示例带来的影响。

长文档进入推理前可做抽取、去重或摘要压缩，并保留原文引用供核验。任何压缩都会有信息损失，应在真实任务上比较成本、召回和答案质量。

边界与误区

• 关键信息应该固定放在开头或结尾吗： 不应作为通用规则。对长文档检索或问答，应在目标模型和真实输入分布上测试位置变化。

• 动态 Few-Shot 和硬编码案例有什么区别： 硬编码每次都带全部案例，成本高且干扰多；动态方法按当前问题检索最相关案例，上下文更短、更精准。

• 长文档压缩会损失重要信息吗： 会有风险。抽取、去重和摘要保留什么取决于任务，不能保证自动留下所有实体或数字；应保留原文引用并用召回与答案评测验证。