跳到正文
原文
ByteByteGo· ByteByteGo·· 18 天前AI 评分40

LLM 是否有金鱼般的记忆?

Do LLMs Have the Memory of a Goldfish?

AI 导读

LLM 本身无持久记忆,其“回忆”能力依赖外部应用将历史对话、摘要或用户偏好重新注入上下文窗口。随着对话增长,重复传输文本导致成本与延迟增加,且受限于模型上下文长度,旧信息需被移除或存储于向量数据库等外部系统。

来源:ByteByteGo · blog.bytebytego.com