AGI ist ein Lernproblem, kein Speicherproblem.

Eine Transkript, das die Frage neu formuliert

Kürzlich begann eine Transkript einer vierstündigen Investorenkonferenz die Runde zu machen, angeblich mit dem Gründer von DeepSeek, Liang Wenfeng. Darin nennt er das, was der heutige KI fehlt. Es ist weder Kreativität noch logisches Denken. Laut der Transkript liegt das eigentliche Defizit darin, dass KI nicht auf die gleiche Weise wie Menschen lernen kann, und ein Modell sollte erst dann als nächste Generation gelten, wenn sich das ändert.

Der von ihm angeblich dargelegte Fahrplan beginnt mit dem logischen Denken durch Gedankenkette, geht über zu Agenten, dann zum kontinuierlichen Lernen, anschließend zu einem „Singularitätspunkt“ und schließlich zur verkörperten Intelligenz.

Hinter dieser Idee steht ein eigenständiger Argumentationsansatz, der aus einer anderen Richtung stammt.

Intelligenz ist kein Vorrat

Jede neue Veröffentlichung eines Sprachmodells löst dieselbe Diskussion aus: Benchmark-Werte, Denkfähigkeit, Kontextlänge, Anzahl der Parameter und wie viel intelligenter es im Vergleich zu seinem Vorgänger erscheint. Intelligenz wird fast ausschließlich danach gemessen, was ein Modell bereits weiß. Das könnte der falsche Maßstab sein.

Menschen sind nicht intelligent wegen der Menge an Informationen, die ihr Gehirn speichert. Wäre die Speicherkapazität der Maßstab, würde ein medizinisches Lehrbuch einen Arzt übertreffen.

Betrachten wir eine Person, die nach einem Gebiet gefragt wird, von dem sie nichts weiß. Eine Antwort taucht nicht auf. Zuerst wird ihnen bewusst, dass ihr Wissen unzureichend ist. Dann suchen sie, vergleichen Quellen, lesen, hinterfragen das Gehörte, entwickeln allmählich ein Verständnis und finden schließlich eine Antwort. Wochen später, ohne weitere Auseinandersetzung damit, sind viele Details bereits in Vergessenheit geraten. Wenn dieses Wissen erneut benötigt wird, muss der Prozess von vorn beginnen. Die Intelligenz verschwindet nicht zusammen mit den vergessenen Fakten, denn die Lernfähigkeit bleibt erhalten.

Eine Person ist keine AGI, und selbst die allgemeine menschliche Intelligenz vergisst ständig. Fähigkeiten, die lange Zeit nicht genutzt werden, verblassen und müssen durch erneutes Training zum Thema wiedererlangt werden. Das ist kein Mangel an Intelligenz – so funktioniert das Lernen in jedem beobachteten intelligenten System, einschließlich uns selbst.

Wie sich Sprachmodelle unterscheiden

Die heutigen Modelle funktionieren anders. Zunächst findet ein umfangreicher Vortrainingsschritt statt, gefolgt von sorgfältig geplanten Feinabstimmungsphasen; danach bleiben die Parameter im Wesentlichen unverändert, bis der nächste Trainingszyklus beginnt. Wenn in der Welt etwas Neues geschieht, hat das Modell keine Möglichkeit, dies zu untersuchen. Ingenieure, Forscher und Datenpipelines treffen diese Entscheidung, während das Modell untätig bleibt. Tatsächlich wird Intelligenz als ein Speicherproblem behandelt, obwohl es sich eigentlich um ein Lernproblem handelt.

Katastrophales Vergessen

Maschinelles Lernen stößt auf ein hartnäckiges Problem namens katastrophales Vergessen. Wenn ein Modell mit frischen Daten feinjustiert wird, verliert es häufig einen Teil seines früheren Wissens, denn die Parameter, die alte Fähigkeiten unterstützen, werden geändert, um neue zu übernehmen. Die Ursache ist bereits in der Konstruktion integriert. Ein Transformer bewahrt sein Wissen in denselben festen Gewichtsmatrizen auf, die er zur Logikbildung verwendet; daher beeinflusst eine Veränderung diese auch. Jahre der Forschung wurden darauf verwendet, diesen Effekt zu verringern, doch es bleibt unklar, ob das wiederholte Überschreiben derselben gemeinsamen Repräsentation überhaupt eine sinnvolle Strategie ist.

Nicht nur der Eingebung eines Gründers

Die Besorgnis beschränkt sich nicht auf einen einzelnen Gründer. Demis Hassabis, der DeepMind leitet, äußerte sich in diesem Jahr öffentlich in ähnlicher Weise. Er nannte Konsistenz, langfristige Zuverlässigkeit und menschenähnliche Anpassungsfähigkeit – zusammen mit kontinuierlichem Lernen – als Faktoren, die weiterhin Fortschritte behindern, und machte keine Mängel bei der Rechenleistung dafür verantwortlich. Seine Ansicht steht im Gegensatz zu der von Anthropic, wo Dario Amodei von einer Art Land voller brillanter Forscher sprach, die in einem Rechenzentrum leben und größtenteils durch Erweiterung der aktuellen Skalierungsmethoden erreicht werden könnten.

Sowohl Ansichten können gleichzeitig richtig sein. Die Skalierung bringt weiterhin Vorteile, und kontinuierliches Lernen bleibt das einzige Problem, das noch nicht vollständig gelöst wurde. Gemeinsam zeigen sie, dass diese Idee keine Randerscheinung ist. Sie berührt eine echte Spaltlinie in der Art und Weise, wie die größten Forschungslabore die noch ausstehenden Aufgaben beschreiben.

Aus dem Gehirn lernen

Das menschliche Gehirn scheint sich nicht jedes Mal umschreiben zu müssen, wenn es eine neue Tatsache aufnimmt. Es verfügt über mehrere miteinander verbundene Systeme: ein Arbeitsgedächtnis für sofortiges Denken, langfristige Erinnerungen, die im Laufe der Jahre entstehen, Fähigkeiten, die durch Wiederholung automatisch werden, sowie Erinnerungen, die verblassen, wenn sie nicht mehr nützlich sind. Lernen ist keine einzige Handlung – es handelt sich um ein Ökosystem aus Prozessen.

Eine nützliche Analogie besagt, dass das Gehirn etwas wie RAM und etwas wie ROM enthält – also getrennte Systeme. Das Arbeitsgedächtnis übernimmt die Rolle des RAM: schnell, kurzlebig und ständig überschrieben. Langfristiges Wissen spielt die Rolle des ROM: langsamer zu speichern, aber danach stabil. Damit eine künstliche Allgemeinintelligenz der menschlichen Intelligenz ähnelt, muss diese Trennung vermutlich von Anfang an berücksichtigt werden und darf nicht einer einzigen riesigen Gewichtsgruppe überlassen werden, die beide Aufgaben erledigt. Das Gehirn muss nicht das einzige Vorbild sein, doch die Trennung von Vernunft und Gedächtnis löst auch praktische ingenieurtechnische Probleme.

Ein Modell, das seine eigenen Lücken erkennt

Stellen Sie sich ein Schlussfolgerungsmodell vor, das ständig bemerkt, wo es schwach ist. Anstatt monatelang auf einen Trainingslauf zu warten, erkennt es seine Unsicherheiten, sammelt zuverlässige Informationen, überprüft sie, erstellt eine kleine Menge an neuem Trainingsdaten und schlägt eine geringfügige Änderung an sich selbst vor. Anschließend prüft es, ob diese Änderung tatsächlich hilft, ohne die aktuellen Fähigkeiten zu beeinträchtigen, und akzeptiert oder lehnt sie dann ab. Jede akzeptierte Änderung bleibt klein genug, um im Falle neuer Erkenntnisse, die einen Fehler aufzeigen, rückgängig gemacht zu werden.

Eine mechanische Version könnte so aussehen:

1. Das Modell erstellt selbstständig eine kleine Datensammlung, indem es ein Thema im Internet recherchiert oder darüber nachdenkt, wo es bereits ins Stolpern gerät.

Dadurch wird eine Kopie davon anhand dieser kleinen Datensammlung feinabgestimmt. Es handelt sich dabei um eine leichte Anpassung der Gewichte und nicht um ein vollständiges Neutraining. Diese Anpassung kostet vermutlich etwas an früherer Leistung, wodurch ein gewisses Vergessen unvermeidlich ist; das Ziel besteht darin, diesen Aufwand so gering zu halten, dass die Gesamtleistung nicht abnimmt.

Die angepasste Kopie wird mit dem unveränderten Original an Fällen verglichen, die bei der Aktualisierung nie berücksichtigt wurden.

Falls sich die Kopie tatsächlich verbessert, wird sie beibehalten und ein weiterer kleiner Schritt unternommen, wobei die Lernrate wie beim Training den Fortschritt steuert. Falls nicht, wird sie verworfen und der Zyklus beginnt erneut.

Die offensichtliche Gefahr

Die Gefahr besteht darin, dass Schlechtes eingegeben wird und Schlechtes herauskommt. Das Trainieren mit selbst erzeugten Daten kann dazu führen, dass ein Modell seine eigenen Fehler verstärkt, und kleine Fehler können sich über viele Schritte hinweg ansammeln, obwohl jeder für sich harmlos erscheint. Eine teilweise Schutzmaßnahme besteht darin, dem Modell zu erlauben, seinen selbst erstellten Datensatz vor dem Training zu überprüfen, seine eigenen Beispiele mithilfe eines kurzen Anreizes einzuschätzen und nur die guten zu behalten, anstatt alles zu verwenden, was es erzeugt hat. Das reicht jedoch nicht als Lösung aus. Es formuliert lediglich das Problem der Selbstbewertung, von dem die ganze Idee abhängt, in einer kleineren und offeneren Form.

Was ist neu und was nicht

Die Behauptung, dass kontinuierliches Lernen das fehlende Element ist, ist keineswegs neu. Liang äußerte sie bereits vor Tagen, Hassabis hat öffentlich ähnliche Ansichten geäußert und Forscher untersuchen das Problem des katastrophalen Vergessens seit Jahren. Was öffentlichlich Mangelware ist, ist eine konkrete Umsetzungsweise. Liangs Roadmap endet mit einem Satz, der besagt, dass ein kontinuierlich lernendes Modell seine eigene nächste Version erstellen kann – wobei nur das Ziel genannt wird und der Mechanismus unklar bleibt.

Der obige Ansatz mit einem kleinen Datensatz, einer begrenzten Feinabstimmung, Validierung gegenüber dem ursprünglichen, unveränderten Modell sowie der Entscheidung zwischen Beibehalten und Wegwerfen ist ein Versuch, diese Lücke zu schließen. Er mag nicht korrekt sein und könnte auf Implementierungsseite sogar nicht originell sein, da in irgendeinem Labor vermutlich bereits jemand eine ähnliche Variante ausprobiert. Er ist jedoch konkret genug, um auf spezifische, überprüfbare Weise falsch zu sein – und eine Idee, die als falsch nachgewiesen werden kann, ist besser als eine zu vage Formulierung, die nicht getestet werden kann.

Das Ergebnis wäre kein Modell, das ständig seine Identität neu schreibt. Es wäre ein Modell, das sich allmählich durch Tausende von überprüften Korrekturen weiterentwickelt.

Folgende schwierige Fragen

Der Ansatz wirft sofort schwierige Fragen auf:

• Wie überprüft das System, ob sein eigenes Lernen richtig ist?
• Wie vermeidet es, seine eigenen Fehlvorstellungen zu verstärken?
• Ist Vergessen ein binäres Ereignis, bei dem eine Tatsache entweder vorhanden oder nicht mehr da ist, oder handelt es sich um einen Gradienten, der mit jeder unverwandten Aktualisierung etwas weiter abnimmt?
• Wie viel Wissen sollte dauerhaft werden und wie viel sollte extern bleiben?
• Wann soll Information in das Gedächtnis aufgenommen werden und wann soll sie nur bei Bedarf aus zuverlässigen Quellen abgerufen werden?

Das sind schwierigere Fragen als die ursprüngliche Vorschlag, und es gibt hier keine fertigen Antworten. Genau das sind die Fragen, die es wert sind, erforscht zu werden.

Die Bausteine existieren bereits

Es gibt bereits zahlreiche Bausteine, darunter Abrufsysteme, Methoden des kontinuierlichen Lernens, die Erzeugung synthetischer Daten, autonome Agenten, parametereffizientes Feintunen sowie immer leistungsstärkere Reasoning-Modelle. Was fehlt, scheint keine weitere Skalengesetz zu sein, sondern ein Framework, das es diesen Bausteinen ermöglicht, innerhalb eines Systems zusammenzuarbeiten, das während seines gesamten Lebenszyklus weiter lernt.

Möglicherweise wird eine AGI nicht dadurch entstehen, dass ein einzelnes Modell eine unvorstellbare Größe erreicht, sondern erst dann, wenn KI aufhört, statisch zu sein. Intelligenz könnte weniger davon abhängen, Parameter zu sammeln, sondern vielmehr davon, Systeme zu entwickeln, die gut beurteilen können, wann sie an sich selbst zweifeln, nach neuen Informationen suchen, ihre Überzeugungen überarbeiten und zugeben, dass sie sich nicht sicher sind.

Ob dies der Weg zur AGI ist, ist unbekannt, und die Geschichte könnte diese Intuition durchaus als falsch erweisen. Eine Idee verdient jedoch weiterhin ernsthafte Betrachtung: Die intelligentesten Systeme, die die Menschen kennen – das menschliche Gehirn selbst – sind bemerkenswert nicht deshalb, weil sie niemals vergessen. Sie sind bemerkenswert, weil sie niemals aufhören zu lernen.