skip to content
技術筆記

【技術解析】LLM 的記憶術：神經科學如何幫 AI 記住一切、卻不遺忘

LLM 每次新對話都是白紙—— context window 無法解決這個問題。一篇 ICLR 2026 論文提出以神經科學為基礎的記憶架構，讓 AI 互動隨時間變得更便宜而非更貴。

· 10 min read 更新於 4月2日 View more blogs with the tag llm View more blogs with the tag memory View more blogs with the tag neuroscience View more blogs with the tag ai architecture

這篇文章在說什麼

如果你問 GPT-5：「上次我們討論過什麼？」它會禮貌地告訴你它沒有記憶。這不是 bug，是架構限制：LLM 的訓練方式是靜態的，沒有辦法在部署後持續累積經驗。大多數人想到的解決方案是「擴大 context window」，但這篇論文劈頭就說：這條路走不通。

研究顯示，就算 retrieval 系統完美無缺，單純延長 context 會讓 LLM 推理能力下降高達 85%。更糟的是，context 變長等於每次查詢成本變高——這意味著 AI 互動會隨著時間越來越貴，而不是越來越聰明。

這篇論文（入選 ICLR 2026 MemAgents Workshop）的核心命題是：LLM 需要一套受神經科學啟發的持久記憶框架，而不是更大的 context window。作者從認知神經科學和臨床心理學借用了四套理論，拼出一個具體的架構設計藍圖。

為什麼重要

Context window 是工作記憶，不是長期記憶。 這個類比很關鍵：人類的工作記憶容量有限，會隨負載增加而退化——LLM 的 context window 也是如此。研究者 Liu et al. 發現 LLM 服從「U 型表現曲線」，善用 context 的開頭和結尾，但 middle portion 幾乎完全遺失。

把 context window 擴大到一百萬 token，問題依然存在——只是把 U 型曲線拉長而已。真正需要的不是更大的 context，而是一套持久、有結構、可选择性检索的長期記憶系統。

技術細節

核心問題：context 不是記憶

作者引用了多條證據：

  • Context 長度 alone 會讓效能下降 85%（Du et al., 2025），即使 retrieval 完全精確也無法避免
  • Long-context vs RAG 沒有通用答案（Li et al., 2025），取決於模型大小、任務類型、chunk 特性
  • 經濟成本：處理 1M token 的費用從 $0.30（Gemini 2.5 Flash）到 $5.00（Claude Opus 4.6），純靠 context 擴展的成本會失控

三原則架構

論文提出三個核心設計原則，全部來自神經科學：

原則一：記憶有情緒（Valence），不只是內容

傳統的 RAG 系統把每段文本當成等價的節點。但人類的記憶不是這樣運作的——Damasio 的「軀體標記假說」證明情緒信號在意識推理之前就已經影響決策。作者把這個概念延伸到 LLM：每段記憶不只儲存「內容」，還要儲存一個「情緒-關聯摘要」（valence vector），讓系統能快速判断一段記憶是否與當前任務相關，而不需要完整遍歷所有內容。

這產生了一個有趣的副產品：emergent belief hierarchy（突現信念層次）。受到 Beck 臨床心理模型的啟發，作者認為「核心信念」（我是誰）和「情境信念」（我現在在做什麼）是同一個知識圖譜中不同權重的節點，而不是兩個不同的儲存空間。高權重的 self-referencing 節點會在幾乎每個互動中被啟動，自然形成「身份」的連續性——而不需要任何 explicit 的「永久記憶」宣告。

原則二：檢索預設 System 1，System 2 按需升級

這裡的 framework 非常聰明。大多數 RAG 系統做的是「精確匹配檢索」——相當於每次都強迫 LLM 进入慢速的「系統二」推理。但人類的記憶檢索日常其實是「系統一」在主導：自動擴散激活、被動 priming，只有在常規方法失敗時才進入深思熟慮模式。

作者將此對應到 LLM 架構：預設使用快速的被動 priming（相當於向量相似度搜索），只有當置信度低時才觸發昂貴的完整推理。同時引入「graded epistemic states」——系統不只輸出答案，還輸出自己對答案的信心層級，直接從結構層面解決幻覺問題，而不是在輸出層被動檢測。

原則三：編碼是主動的、當下的、依賴回饋的

Thalamus（丘腦）在人類大腦中扮演「閘門」角色，決定哪些資訊進入長期記憶。作者將此對應到一個「thalamic gateway」機制：資訊不是被動寫入記憶，而是需要經過一個主動的「興趣驅動濃縮」過程。只有當系統對某段資訊產生「好奇心」（prediction error signal，多巴胺神經元的核心機制）時，才會將其濃縮成「gist」寫入長期記憶。

這個設計的關鍵好處：系統不會無差別地儲存所有對話。只有有意義的、產生認知價值的資訊才會進入長期記憶，減少雜訊堆積。

七項功能特性

論文規格化了七項「任何實現都必須滿足」的功能特性，確保這套 framework 不只是紙上談兵：

  1. 持久性（Persistence）：記憶跨 session 存活
  2. 可檢索性（Retrievability）：記憶可被有效召回
  3. 情緒標記（Valence）：每段記憶有情緒維度
  4. 身份連續性（Identity）：核心自我信念持續穩定
  5. 層次組織（Hierarchy）：核心、情境、當下三層結構
  6. 資源效率（Efficiency）：互動成本隨時間下降而非上升
  7. 可解釋性（Interpretability）：記憶結構可被檢視和審計

最後一點最值得注意：隨著時間推移，系統會收斂到 System 1 處理模式——相當於臨床專家的「直覺」。這是因為反覆接觸的經驗會被濃縮成高權重的自動記憶，不需要每次都走 System 2 的昂貴推理路徑。專家的直覺 = 免費的專家系統。

我的觀點

這篇論文最讓我欣賞的是它敢於說「context window 不是答案」——在大家都在拼 context 長度的時候，這個逆向觀點需要真正的技術勇氣。

但我也有保留意見：這套 framework 的理論基礎非常紮實，遺憾的是作者選擇只做概念性貢獻（conceptual paper），沒有提供實際的開源實現。認知神經科學的類比很有說服力，可從「丘腦閘門」到實際的向量檢索系統，中間還有巨大的工程鴻溝。記憶的「情緒-關聯摘要」（valence vector）具體怎麼計算、怎麼訓練、怎麼與現有 LLM 架構整合，這些核心問題在論文中沒有答案。

另一個我認為被低估的問題是隱私。如果 AI 系統要持久記憶每次互動的「情緒-關聯摘要」，這些資料放在哪裡、誰能訪問、如何刪除？在 GDPR 和各種資料保護法規的框架下，這是一個必須回答的工程問題，而不是可以留到，以後再說的學術細節。

話雖如此，這篇論文的核心洞察——「LLM 需要的是記憶系統，不是更大的 context」——是正確的方向。隨著 AI 系統從「工具」走向「長期夥伴」，如何讓 AI 記得你是誰、記得你們聊過什麼、記得你的偏好和禁忌，這些需求只會越來越迫切。Context window 是止痛藥；持久記憶架構才是治療。

參考連結

Share
已複製！