AI 简明手册
AI 产品工程 · Prompt Harness不用的东西别给 AI 看

不用的东西别给 AI 看

定义

工具描述不必全部常驻 System Prompt。系统可以先提供足以选择工具的摘要,再在需要时加载完整 schema 与说明;这种分层发现机制适合工具很多、每轮只用少数工具的场景。

说明

全量加载会占用大量上下文,工具越多模型越难聚焦。按需加载通过首轮只给名字列表、调用时注入详细描述、调用后恢复简略状态来减少无关信息。

按需加载能减少无关工具描述占用的上下文;只有在索引信息足以区分工具时,才可能减少误选。若摘要含糊,模型也可能因为看不到完整定义而选错。

按需加载不只是节省 token,也能提高模型选择和调用工具的准确率。对工具较少的小型产品,收益较小;工具数量多时尤其值得引入。

边界与误区

  • 按需加载的三步走是什么: 第一步首轮只给工具名和一句话说明;第二步用到时再动态注入完整描述和参数格式;第三步用完就收回,下一轮不再带完整描述。

  • 如何避免 AI 因为看不到完整工具描述而乱选工具: 首轮的工具名和一句话说明应足够辨识功能边界。必要时应保留小的提示,比如该工具适合哪类任务,以降低选择错误。

  • 按需加载能节省多少 token: 节省比例取决于工具数量和实际使用频率。当工具很多但每轮只用少数几个时,按需加载能把工具描述开销压缩到接近实际用到的规模。