AI 简明手册
AI 产品工程 · 权限与安全AI 该有多大的自由

AI 该有多大的自由

定义

Agent 权限不是“全自动”与“每步确认”二选一。常见策略可归为自动执行、执行前确认和按规则动态判断三类,并可按工具、参数和环境分别配置。

说明

自动执行适合影响可控、可恢复且已有明确授权的动作;执行前确认适合不可逆、高代价或对外产生影响的动作;动态策略则根据工具、参数、目标资源和当前上下文决定是否升级确认。

同一工具也可能因参数不同而落入不同权限。例如读取公开文件与读取凭据目录不是同一风险,发送草稿与真正对外发布也不是同一后果。权限判断应靠可审计规则,不能只看工具名称。

用户熟悉度可以影响默认交互,但不能替代客观风险边界。即使用户长期使用,支付、删除和公开发布等动作仍应遵守既定策略。

本词条关注权限模式怎样表达;弹窗频率和风险分级的交互设计见相关词条。

边界与误区

  • 怎样判断一个操作应当由用户确认: 看它是否改变外部状态、是否可逆、影响范围多大,以及是否已有针对该动作的明确授权。

  • 用户熟悉度会怎样影响权限设置: 它可以影响默认提示和解释强度,但不应覆盖安全策略与组织权限。

  • “AI 自由度高”和“AI 更智能”是一回事吗: 不是。自由度只是允许少问多做,不代表判断更可靠。