DEV Community · Show DEV9/4 16:5159

Decispher Memory检索路径移除LLM调用

We took the LLM out of Decispher Memory's retrieval path

阅读原文
Decispher Memory是一种偏好记忆系统,用于存储个人、项目或公司的偏好,如“使用pnpm”等。其读取路径在注入记忆时无生成式调用:当编码代理启动提示时,钩子嵌入一次提示,并行运行四个检索信号(稠密、词汇、标签、符号),基于排名位置融合,后续排序、时间门控和选择均为确定性,且按键路径无法再调用模型。可选地,工具调用内的更丰富表面可进行重排。这确保了每提示的上下文和模型工作量随语料库增长保持有界。在LongMemEval-s基准上测量:上下文缩减中位数38倍,平均提供3,181个令牌(草垛123,973个),知识更新问题准确率90%,总体准确率84%。作者承认总体准确率不是胜利,并指出这是令牌效率结果而非检索质量结果,因为与原始记录相比,准确率持平但令牌减少36%。