AI 简明手册5 道工程护栏
目标
运行护栏为单次 Agent 执行设定可测量的停止条件，包括总步骤、墙钟时间、Token 或费用、单次工具输出和上下文占用；触发后要保留进度并说明如何继续。
操作步骤
先定义预算和触发条件
按任务风险设置最大步骤、总时长、Token 或费用预算、单次工具输出上限和上下文水位。阈值要来自真实工作负载与失败代价，不应复制一组通用数字。
触发时安全停机并保存状态
命中任一上限后停止新增动作，记录已完成步骤、未完成项、最后一次工具结果和恢复入口。高风险任务不能为“完成”而自动放宽权限或预算。
用运行数据回调阈值
定期查看哪些护栏最常触发、是否存在重复调用和误杀，再调整工作流或拆分任务。护栏用于限制损失，不替代根因修复。
完成检查
哪道护栏最重要： 视应用场景而定。对高度不可控的 Agent 来说，迭代上限和超时控制通常最关键；对长文本任务，上下文急救更关键。稳定产品一般需要五道护栏同时存在。
护栏会限制 Agent 能力吗： 会有一定限制，例如步数上限可能使复杂任务被中途截断。但护栏的核心是在稳定和灵活之间建立可预期的边界，合理设置后整体收益通常高于放任运行。