AI 简明手册
Agent 与 Harness 基础 · Agent 工程长期记忆:向量检索

长期记忆:向量检索

定义

长期记忆通过把用户偏好、项目配置和历史记录先转换成向量,再在需要时按语义相似度检索出来,注入当前对话。

说明

实现链路是:先把记忆内容用 Embedding 模型编码成向量,存入向量数据库;当用户提出新问题时,用同一模型编码问题向量,再在数据库中检索与问题语义最接近的记忆。检索结果会被加入当前上下文,作为模型回答的背景信息。

两个关键参数是 topK 和 minScore。topK 控制每次最多召回多少条记忆,避免上下文被过多无关内容占用;minScore 控制最低相似度阈值,过滤掉不够相关的记录。除此之外,还需设计哪些内容值得入库,以及如何更新和淘汰过期记忆。

边界与误区

  • 长期记忆怎样进入当前上下文: 系统先从外部存储检索相关记录,再把有限片段注入当前请求;能取回多少仍受上下文窗口和检索质量限制。

  • 为什么需要 minScore: 向量检索总会返回最相似的结果,即使相似度很低。minScore 用于排除不够相关的记录,避免把无关历史注入当前对话,干扰模型判断。