MemoryBox 2.0(v2.0.4)长期记忆引擎形态选型指南:从 LongMemEval 463/500 内部测试边界看部署取舍
很多团队在实际用 Claude Code、Cursor、Codex 或自有智能体时会遇到同一类麻烦:上周排查数据库超时改过的参数约定,这周换个终端或切到新模型再问,系统就接不上上下文了。如果直接把历史记录交给依赖特定 1536 维或 3072 维向量嵌入接口的云服务,将来一旦更换
Author: 大连富德威尔技术团队 | Dalian Fidwell Technology Co., Ltd.
为什么要单独把“记忆层”从大模型和编码工具里拆出来
很多团队在实际用 Claude Code、Cursor、Codex 或自有智能体时会遇到同一类麻烦:上周排查数据库超时改过的参数约定,这周换个终端或切到新模型再问,系统就接不上上下文了。如果直接把历史记录交给依赖特定 1536 维或 3072 维向量嵌入接口的云服务,将来一旦更换模型,原有记忆库就得重算索引,内网源码与业务决策也不得不出网。
MemoryBox 2.0(v2.0.4)采用的做法是把索引与大模型解耦:压缩后发行包约 3.1 MB,配置明确为 `embedded_models=false`,核心库用原生 Rust 编写,不携带任何模型权重。内部测量显示,桌面与服务器环境下冷启动建库耗时 3.64 ms,重新打开已有记忆库耗时 0.32 ms;8+2 多通道联合检索 P99 为 29.35 ms(具体表现会受宿主硬件和数据规模影响)。提问时,MemoryBox 先找回带日期、来源和原始语境的片段,再交给宿主工具当前连接的大模型作答——哪怕你下个月把后端从 Claude 换成 GPT 或本地开源模型,原有记忆文件无需重建。
先分清 92.6% 与 97.23% 两组测试口径
评估记忆系统时,最容易混淆“检索找到证据”和“大模型最终答对”。根据 MemoryBox v2.0.4 在公开 LongMemEval 500 题数据集上的内部自动化测试记录(未经第三方独立验证):
**端到端综合得分 `463 / 500`(92.6%)**:按官方评分规则运行(时间题允许 ±1 天),由外接大模型读取检索出的上下文后给出最终答案。由于答题环节依赖外部模型能力,换用不同模型或提示词时分数会有波动,该指标仅用于同版本参考,不承诺统一运行准确率。
**纯离线证据检索 `457 / 470`(97.23%,Any@30)**:剔除 30 道应拒答题后,在不调用外部模型、不联网的离线状态下,正确对话原文进入前 30 条候选结果的占比为 97.23%。其中“知识更新”“单会话事实”等类别命中率较高,而“隐含偏好”在没有宿主提供扩展同义词时为 23/30。这组数字只回答“证据有没有被找回来”,不等于最终回答完全准确。
三种交付形态与实机硬件边界
MemoryBox 2.0 底层数据格式通用,个人积累的记录日后可以迁入团队服务器,但选型时需要看清运行时载体和已验证平台:
| 交付形态 | 实测程序体积与资源 | 已实机验证环境 | 适用团队与典型接口 |
| :--- | :--- | :--- | :--- |
| **256GB NVMe 便携盘版** | 压缩包约 3.1 MB;离线可视化界面约 57.7 KB | Windows 11 x86_64、Linux x86_64 | 个人架构师与工程师随身迁移 Claude Code、Cursor、Codex 等 6 类工具上下文 |
| **ARM64 边端设备版** | 全静态服务端 3.55 MiB;空闲内存 2.25–2.98 MB | ARM64 RK3588 Linux(服务就绪 6.6–17.4 ms) | 工控网关、AI PC、门店边缘盒子;RK3576 等其他架构按项目单独评估 |
| **Linux x86_64 企业版** | 服务端 4.56 MiB;桌面稳态内存约 16.2 MB | 企业 Linux x86_64 服务器或虚拟机 | 多部门共用:接入公司/部门/项目/岗位/个人五级权限,越权请求直接返回 `HTTP 403` |
连接方式上,v2.0.4 提供标准 MCP(stdio 与 HTTP 共 7 个接口)及 REST v2 接口,同时附带 Claude Code、Codex、Cursor、Trae、OpenCode、OpenClaw 的配置模板;企业版在内存中使用完加解密密钥后即时擦除,权限收窄无需重启服务即可生效。目前 **macOS 原生版仍处于适配验证阶段**,暂不作为现行交付承诺;Mac 开发者可暂时通过局域网内的 Linux 节点或便携服务端接入。
选型红线:哪些项目不建议采购
把适用边界提前讲清楚,能省去不少无效试错:
1. **只有单次短对话需求的应用**:如果只是把单轮文档丢给云端模型总结、无需跨工具长期留痕,直接使用大模型长上下文即可,不必多部署一层本地记忆服务。
2. **依赖内置本地小模型做离线问答**:MemoryBox 自身不含推理模型;若主机既不能接外部大模型 API、也没有本地推理算力,检索出来的原文片段无法自动生成回答。
3. **现阶段必须纯 macOS 单机原生离线运行**:由于 macOS 原生编译与运行锁适配尚未完结,当前优先推荐 Win11 x86_64、Linux x86_64 或 RK3588 设备作为宿主机。
下一步验证与对接建议
对于已确定需留存私有代码规范、排障工单与项目决定的研发团队,建议准备一小批真实的脱敏历史会话或规范文档进行实机演示(包含跨工具保存、带时间戳找回与 `HTTP 403` 越权拦截验证)。
技术与试点咨询:大连富德威尔科技有限公司 | 电话 `0411-81981709` | 邮箱 `fidwellservice@fidwell.cn` | 官网 `fidwell.cn`(辽宁省大连市中山区人民路 7 号东亚银行大厦 1303)