AI 简明手册
Agent 工程:从能跑到可控 · 让模型正确使用工具什么时候该让 Agent 先停下来想

什么时候该让 Agent 先停下来想

定义

Think Tool 是一个无外部副作用的工具,让 Agent 在工具链中显式暂停并整理信息。Anthropic 在 Claude 3.7 Sonnet 的 τ-bench 实验中报告:优化提示后的航空场景相对基线提升 54%;零售场景从 0.783 提升到 0.812,即约 3.7% 的相对提升、2.9 个百分点的绝对提升。结果只适用于该实验设置。

先搭一个心智模型

Think Tool 是一张只用来整理线索的草稿纸:它不访问外部系统,也不改变状态,只把分散证据重新摆好,帮助模型在下一次有副作用的动作前停一下。

说明

Agent 在长工具链中犯错的原因有三类:信息在工具链中丢失;策略密集型决策只看最近的规则;串行依赖决策时早期上下文已被淹没。Think Tool 通过在行动之间插入思考环节解决这些问题。

Think Tool 与 Extended Thinking 的区别在于时机:Extended Thinking 在生成回复前一次性深度思考,适合复杂推理;Think Tool 允许 Agent 在执行中随时暂停,适合需要中途整理信息、重新评估策略的长链场景。

实现方式可以很简单:工具接收一段待整理的文字,不改变外部状态。它更适合长工具链、规则密集或步骤互相依赖的任务;简单调用不一定受益,还会增加 Token 和延迟。

跟着一个例子走

两个查询结果互相矛盾

订单工具显示“已发货”,物流工具却显示“尚未揽收”,直接退款可能造成错误。

  1. 先收集事实

    把两个工具的原始结果和时间戳放到草稿中,不急着调用退款。

  2. 明确缺口

    模型写下“状态来源不同,需要确认哪一个是结算依据”。

  3. 再选择动作

    根据规则调用权威状态接口或转人工,而不是用更长的自然语言掩盖冲突。

回到概念

Think Tool 的价值来自插入一个无副作用的决策边界;简单任务不需要为了形式多走一步。

边界与误区

  • 为什么不直接在 System Prompt 里要求模型“先想清楚”: Agent 在工具调用模式下,思考和调用工具是不同输出格式。把思考包装成工具调用,能让 Agent 在工具链中自然插入思考,而不是依赖模型自觉遵循提示词。

  • 为什么航空场景的提升更明显: 官方实验把差异归因于航空任务更依赖复杂政策与多步规则;这不是所有业务都会复现的固定比例,应使用自己的任务集验证。

来源与核验

  1. [anthropic-think] Anthropic:The think tool

核验日期:2026-08-31