EM²Mem 是 EMNLP2026 收录的全新多模态记忆框架,它最大的变化就是不再把视频、文字、画面拆成零散片段单独存储,而是以 “事件锚点” 作为核心,把同一个事件对应的字幕、关键帧、时间信息、事实关系打包成一个记忆单元,实现把零散信息串联成完整经历,解决大模型长视频问答里记忆混乱、信息对不上、推理慢的老问题。以前很多多模态记忆方案,是把截图、字幕、摘要分开存,检索的时候只能单独捞出一条条碎片,模型还要临时自己匹配画面和文字,很容易出现时间顺序错乱、证据找不到来源的情况,上下文窗口不够的时候出错概率更高。EM²Mem 换了思路,在写入记忆的时候就提前做好跨模态对齐,围绕发生的事件绑定全部相关证据,检索直接取出完整事件,不用模型现场拼接,既提升答案准确率,又降低推理耗时。
EM²Mem 核心架构
- 事件锚点:作为记忆的索引主键,所有和这件事有关的多模态素材都挂靠在同一个锚点下面
- 记忆单元:每个单元包含关键帧、转录文本、时间戳、事实关系、证据溯源信息
- 双图索引:分为情景图、语义图,情景图记录事件先后顺序、人物地点;语义图记录事件之间的关联逻辑
- 检索输出:直接返回完整事件证据包,是可直接用来生成回答的结构化内容,不是零散碎片
EM²Mem 实测效果数据
| 测试维度 | 指标表现 |
|---|---|
| 长视频问答准确率 | 3 个基准任务上分别提升 2.0、2.4、3.7 个点 |
| 事件级证据召回 | Top5 证据召回提升 7.0 个点 |
| 单次查询延迟 | 降低 4.67 倍 |
| 推理 token 消耗 | 减少 63.66% |
EM²Mem 和传统记忆方案的差别
- 传统方案:按模态划分存储,图片归图片、文字归文字,检索碎片,模型现场对齐,速度慢、容易错位
- EM²Mem 方案:按事件划分存储,同一个事件打包全部素材,写入阶段完成对齐,检索直接拿完整事件,溯源清晰、推理更快
EM²Mem 适用场景
- 长视频问答:连续录制视频、纪录片、监控视频内容问答
- 个性化 AI 智能体:记住用户一段连续交互经历,理解完整事件脉络
- 多模态长期记忆:跨图文视频的连续事件记录,方便追溯证据来源
整体来看,EM²Mem 主打事件化记忆,模仿人记住一段经历的方式,不是单独记住一句话一张图,而是记住 “发生了一件什么事”,是 EMNLP2026 里面向大模型长期记忆方向很有代表性的工作。
【相关 FAQ】
问题 1:EMNLP2026 里的 EM²Mem 是什么,怎么帮 AI 记住经历?
回答 1:EMNLP2026 的 EM²Mem 是事件中心多模态记忆框架,依靠事件锚点把视频帧、字幕、时间信息打包成事件记忆单元,把零散素材串联成完整经历,让 AI 检索时直接拿到完整事件,不用临时拼接碎片信息。
问题 2:EM²Mem 对比旧的多模态记忆方法优势在哪?
回答 2:EM²Mem 在写入记忆时就完成跨模态对齐,事件证据召回更高、问答准确率提升,同时大幅降低推理延迟和 token 消耗,解决旧方案素材分离、时序错乱、溯源困难的问题。
问题 3:EM²Mem 能不能直接用在日常对话 AI 里?
回答 3:EM²Mem 论文主要验证场景是长视频问答,底层事件记忆思路可以迁移到个性化对话智能体,用来记录连贯交互经历,但目前还属于学术研究方案,没有直接商用落地版本。
【参考资料】
[2026-09-02](EM²Mem: Event-Centric Multimodal Memory for Large Language Models)Bayesian Sapien
[2026-09-01](EM²Mem 论文,EMNLP2026 Findings 收录)arXiv
[2026-08-30](EMNLP2026 会议信息与论文收录说明)ACL Anthology
[2026-08-20](EMNLP2026 接收通知与时间线)EMNLP 官网
【免责声明】
本文内容基于 EMNLP2026 公开论文解读,属于学术研究内容,模型效果来自论文实验环境,不代表产品落地效果,技术解读仅供学习参考,不构成技术选型建议。
