R.01 · 长期记忆 · 2023
MemGPT:让大语言模型成为操作系统
MemGPT: Towards LLMs as Operating Systems
Charles Packer, Sarah Wooders, Kevin Lin, Vivian Fang, Shishir G. Patil, Ion Stoica, Joseph E. Gonzalez · arXiv preprint
摘要
借鉴操作系统的分层内存,提出“虚拟上下文管理”:在不同记忆层级之间调度信息,从而在有限的上下文窗口内提供扩展的上下文。在文档分析与多轮会话两类场景中进行了评估。
评注将记忆视为系统层资源而非模型的内在属性,是“记忆可外置于模型”这一思路较早的系统化表述之一。