Chris Latimer 在采访里说了一句话,挺狠:"RAG 已经在靠生命维持了,agent memory 会彻底干掉它。"
说这话的人,是 Vectorize.io 的 CEO。他手上那个叫 Hindsight 的开源记忆库,刚用 4.8 万颗星坐上了 GitHub 记忆类项目的第一梯队。这个项目赌的,就是这句话。
先纠正一件事:它不是"刚冒出来的"
很多人这两天看到 Hindsight 冲上 Trending,以为又是个一夜爆火的玩具。把仓库历史翻出来你会发现不对——它去年 10 月 30 号就开源了,到今天快满一年。
一年时间,48560 颗星、6000 个 fork、版本号走到 v0.10.3。它不是黑马,是熬了一年终于被看见的老兵。这个区别挺重要,因为它意味着这套东西不是 PPT,是真的有人在生产里跑它。
它到底在赌什么
大模型天生没状态,这早就是共识。市面上处理这事的套路,八成都绕不开两个字:RAG——把历史记下来,用的时候搜几段塞回提示词。
Hindsight 对这套路子的判断是:你只是在"翻旧账",不是在"长记性"。
所以它把记忆按人脑的组织方式分了层。最底下一层记两件事:世界长什么样(这个 API 有限流),以及我干过什么(我上次调它超时了)。往上一层,后台会把散落的事实揉成一条条带证据的结论,每条结论都锚着原文出处——新证据来了是在"修补"它,而不是草草盖掉它。最顶层,是一份已经想好的看法,比如"这个用户偏好什么"。读它是一次数据库查询,不跑检索、不调模型,agent 一开机就带着一页沉淀好的认知开工。
打个比方:别的记忆工具给你一堆便签,Hindsight 给你一个会自己归档、还会不断修订结论的助理。
一个最能说明问题的数字
同一个 20B 的开源模型,把全部上下文硬塞给它,它在长程记忆基准上只有 39 分。换 Hindsight 这套记忆结构,同一个模型、同一份开销,直接 83.6 分。底座再换强一点,能摸到 91 分往上。
模型一个字没换,差别全在"记忆怎么组织"。这才是它真正想证明的东西——记忆从来不是附属功能,是 agent 会不会学习的底层。
在 LongMemEval 这个长程对话记忆基准上,它报 94.6%,把 SuperMemory(85.9%)、Zep(71.2%)、GPT-4o(60.2%)全比了下去。
但高分背后,有个账没人替你算
上面那张对比表看着漂亮,可你如果只盯着 Hindsight 自己挂出来的图,会错过一个要命的事实。
竞品 Zep 专门发了一篇回应,标题叫《Zep vs Hindsight:一个中立视角》。里面拆得很细:Hindsight 那个 91.4% 的高分,是在 8192 token 的检索预算下测出来的;而 Zep 打到 90.2% 只用了大约 4408 token——几乎只有对方一半。
翻译成人话:Hindsight 登顶的代价,是每次调用把将近两倍的记忆 token 塞进你的上下文。单次调用看是几厘钱的事,放进每天几十万次调用的生产环境,就是真金白银的成本,外加实打实的延迟。
而且两边数字还打架。Hindsight 的官方图里 Zep 只有 71.2%,Zep 自己说 90.2%——测法不同、口径不同,谁也别说谁绝对干净。
记住这句:benchmark 第一名,很多时候是"在某个特定预算设定下"的第一名。
还有三个得留心的点
第一,这是个重家伙。后端得 PostgreSQL + pgvector,企业场景还有 Oracle 23ai,不是 pip 装一下就能跑的轻量玩具。官方文档自己都写,你要是拿 n8n 搭个简单工作流,用它属于杀鸡用牛刀。
第二,贡献者太集中。翻提交记录,光 nicoloboschi 一个人就是 1927 次提交,后面几位加起来都追不上。对追新的人是暂时的,对想长期依赖的人是风险——主力哪天跑去别处,这坑就没人填了。
第三,热度有三成是这一周灌进来的。这类"突然爆发"的回忆类项目,最大的考验从来不是涨星,而是热度退掉之后,文档、社区、稳定性能不能接得住。
我的判断
Hindsight 值不值得上,取决于你搭的是哪种 agent。
如果你在做会长期跟同一个用户打交道的 agent——客服、销售、个人助手、长线的 coding agent——它这套"记住 + 归纳 + 修正结论"的机制,确实比裸 RAG 强一个量级,一条 docker 命令加两行 wrapper 的门槛也够低,值得试。
如果你只是给一个一次性工具塞点上下文,别上这个。它的复杂度是给"要长记性的 agent"准备的,不是给问一答一准备的。
回到 Latimer 那句狠话。RAG 死不死我不知道,但有一点他说对了:记忆这东西,过去三年一直被当成"往外捞几段历史"的边角料。现在终于有人认真把它当成 agent 的地基来造,光这个方向,就配得上那 4.8 万星。
开源地址: https://github.com/vectorize-io/hindsight
相关链接:
暂无评论。