LLMs的记忆能力分析及其分类

LLMs的记忆能力分析及其分类

大语言模型（LLMs）的记忆能力是其智能表现的重要基础。本文将从感官记忆、在线记忆、语义记忆、情景记忆和程序性记忆五个方面，分析LLMs的记忆能力及其在实际应用中的实现方法。

LLMs的记忆能力分类

总结

• 感官记忆：短暂存储感官信息，为认知系统提供访问渠道，通过缓冲输入/输出系统和仿生感官记忆技术实现。
• 在线记忆：临时存储活跃信息，用于认知处理，通过深度学习网络中的注意力层和上下文窗口实现。
• 语义记忆：存储一般规则、事实和关于世界的知识，用于解决认知问题任务，通过知识图谱、深层神经网络和基于检索的增强生成技术实现。
• 情景记忆：显式存储特定事件及其相关的时空、社会等背景信息，支持代理反思和自我改进，通过上下文学习和主动提示实现。
• 程序性记忆：存储执行具体任务的步骤信息，支持代理高效完成复杂活动，通过符号方法、知识图谱和基于检索的增强生成实现。