The sleep framework: A new way for LLMs to retain knowledge in continual learning
- Source URL: https://research.google/blog/the-sleep-framework-a-new-way-for-llms-to-retain-knowledge-in-continual-learning/
- Published: 2026-10-27
- Authors: Ali Behrouz、Vahab Mirrokni;Google Research
- Retrieval:
web_extract讀取 Google Research canonical page;Pythonurllib.request直接 HTTP GET 取得 HTTP 200、168,918 bytes;HTML SHA-2567dcfcf24c3def05fbfb4e5313a2af38386faa1f37cf8f1b6d8523d5ecd79a2ac。 - Source class: platform first-party research communication;研究結果與產品化可行性仍受限於來源文章與論文邊界。
Faithful summary
Google Research 提出一個用於 continual learning 的「sleep framework」:模型在 active/wake phase 接收輸入並把新資訊放進短期記憶,在 sleep phase 暫停新輸入,利用預先配置的 Mixture-of-Experts(MoE)記憶區塊與自生成練習樣本進行離線記憶鞏固與自我改進。來源主張,這種週期性流程可把脆弱的短期 context 轉成較穩定的參數記憶,並降低 catastrophic forgetting 與固定 knowledge cutoff 的限制。
文章把 sleep 階段拆成兩部分:
- Memory consolidation:以 parameter expansion、continuum memory hierarchy、knowledge seeding(GKD+RL-based imitation learning)與 synaptic pruning,將高頻、暫時性的記憶向較低頻的參數模組蒸餾,再重置暫存參數。
- Dreaming for self-improvement:隨機啟用非標準 experts,生成合成「dream」樣本,再以 gradient-based selection 篩選高價值樣本並進行 RL/supervised refinement。
來源進一步報告:在 continual translation 的多階段評估中,sleep framework 維持接近零的效能下降;在 BABILong 長上下文 benchmark 上,方法可擴展至 10M tokens;在 SQuAD/continued pre-training 的 factual knowledge incorporation 評估中報告 48.9% 與 46.2%;在 AIME 24/25、HMMT 25 等數學推理評估中,sleep-enhanced base model 報告 79.2%、69.0%、46.1%。這些數字均為 Google Research 文章對研究結果的來源陳述,未由本輪獨立重跑或逐表核對。
Evidence boundary
- 本輪直接讀取 Google Research 部落格頁面;連結的 arXiv 論文、benchmark 原始資料、完整實驗表與模型程式碼未直接讀取。
supported:頁面標題、日期、作者、active/sleep 兩階段框架與文中明示的技術元件。partially-supported:記憶鞏固、dreaming 與 continual learning 的方法描述;僅由官方研究文章支持,未完成論文級核對。unresolved:10M tokens、48.9%/46.2%、79.2%/69.0%/46.1% 等 benchmark 數字的可重現性、baseline 設定與跨任務泛化。- 不支持「已解決 catastrophic forgetting」、「已可部署為自主持續學習產品」或「不需人工定義訓練規則」等超出來源的結論。
Sources
本文重要 claim 皆回指上述來源;本 raw record 不保存完整 HTML、完整論文或模型資產。