Complementary Learning Systems (CLS)

Die Complementary Learning Systems-Theorie (McClelland, McNaughton & O’Reilly, 1995) postuliert, dass das Gehirn zwei sich ergänzende Lernsysteme besitzt: ein schnelles (Hippocampus) und ein langsames (Neokortex). Diese Arbeitsteilung löst einen fundamentalen Konflikt im maschinellen und biologischen Lernen.

Details

Das Grundproblem: Katastrophales Vergessen

  • Ein einzelnes neuronales Netz kann nicht gleichzeitig schnell neue Einzelerfahrungen lernen UND langsam stabile Generalisierungen bilden
  • Schnelles Lernen überschreibt ältere Gewichte (katastrophales Interferieren)
  • Lösung: zwei separate Systeme mit unterschiedlichen Lernraten

Die zwei Systeme

SystemStrukturLernrateFunktion
SchnellHippocampus (HPC)Hoch (one-shot)Enkodiert episodische Einzelerfahrungen
LangsamNeokortexNiedrig (viele Wiederholungen)Extrahiert statistische Regularitäten

Zusammenspiel (Konsolidierung)

  • HPC kodiert neue Erfahrung schnell
  • Im Schlaf: HPC “replays” Erfahrungen → Neokortex integriert schrittweise neue Information in bestehende Strukturen (Systemkonsolidierung)
  • Nach vollständiger Konsolidierung: Erinnerung hippocampusunabhängig im Neokortex

Relevanz für KI

  • Tiefe neuronale Netze leiden unter katastrophalem Vergessen (Catastrophic Forgetting) — genau das Problem, das CLS löst
  • Modern AI: Experience Replay (DQN) = künstliche HPC-Replay; Continual Learning-Forschung
  • Three-Layer Agent Memory (Agent Memory – Three-Layer Architecture (Relational, Vector, Graph)): Graph-Layer ≈ kortikale Konsolidierung; Vektor-Layer ≈ HPC-Index

CLS und Transformer

  • Hopfield Networks (Modern): mathematisch Transformer-Attention → kann man Transformers als Implementierung von CLS interpretieren?
  • Debatte: Transformers zeigen In-Context Learning (schnell, episodisch) + Pretraining-Wissen (langsam, statistisch) → dual-system analog?

See also

Tags: neuroscience memory neuroai
Superlink: 050 🧠Neuroscience

Verbindungen

Created: 06/05/26