Die KI-Branche braucht ständig neue Horizonte, um Investorengelder und Aufmerksamkeit zu rechtfertigen. Nachdem "AGI" (Artificial General Intelligence) durch ständige Wiederholung abgenutzt scheint, gibt es einen neuen Lieblings-Buzzword: RSI – Recursive Self-Improvement. Die Idee ist faszinierend und beängstigend zugleich: Eine KI, die sich in einem geschlossenen Loop kontinuierlich selbst verbessert, bis der Mensch nicht mehr nötig – oder gar hinderlich – ist. Doch ein genauerer Blick zeigt: RSI ist aktuell mehr Marketing als Realität.
Der neue Goldstandard der KI-Forschung
Grundsätzlich beschreibt RSI ein System, das seinen eigenen Upgrade-Zyklus autonom verwaltet. Sobald die Maschine diesen Prozess besser beherrscht als der Mensch, wird die Rechenleistung zur einzigen Begrenzung. Es ist die klassische Vorstellung einer technologischen Singularität – und sie wird derzeit eifrig als Roadmap-Ziel missbraucht.
Richard Socher, ein bekannter KI-Forscher, hat mit "Recursive Superintelligence" gleich ein ganzes Startup nach dem Konzept benannt. Das Ziel: Ideation, Implementierung und Validierung von Forschung komplett zu automatisieren. Auch Andrej Karpathy jagt dieser Vision mit seinem Projekt "Auto-Research" nach. Er nutzt Agent Swarms, um LLMs an simplen Aufgaben zu trainieren. Bisher beschränkt sich das auf minimale Verbesserungen an GPT-2-skalierten Modellen, aber die Richtung ist klar. Mit seinem Wechsel zu Anthropic bekommt Karpathy zudem die Ressourcen für großskalige Experimente.
Ähnliche Ansätze verfolgt Sara Hooker (Adaption) mit "AutoScientist" oder Doris Xin (Disarray), deren Agent kürzlich 28 Medaillen bei einem Kaggle-Wettbewerb abräumte. Xins Fazit ist erstaunlich pragmatisch: Mit unendlicher Rechenleistung und Zeit seien wir schon da. Es handele sich weniger um Kreativität als um handfestes Engineering ("meat-and-potatoes engineering").
Die harte Realität: Fehlende Selbststeuerung
Doch die Euphorie trügt. Die KI-Branche ist von echten rekursiven Systemen meilenweit entfernt, wie selbst Google-Chef Sundar Pichai kürzlich einräumte. Die Fortschritte sind inkrementell, nicht exponentiell.
Ein perfektes Beispiel liefert Anthropic selbst: Claude Code schreibt angeblich "nahezu 100 %" des Codes seines eigenen Teams. Einige Anthropic-Ingenieure glauben, dass das Modell bald einen L4-Engineer ersetzen könnte. Doch der Teufel steckt im Detail. Bei den Schwächen von Claude genannt werden unter anderem "Selbstmanagement bei mehrwöchigen, ambigen Aufgaben", "Verständnis für Organisationsprioritäten", "Geschmack" und "Verifikation".
Das ist exakt das Problem. Diese Schwächen sind die Kernkompetenzen, die für echtes RSI zwingend nötig sind. Code zu schreiben, ist nicht dasselbe, wie die Richtung der Forschung autonom vorzugeben.
Adequacy, Parity, Supremacy – wo stehen wir wirklich?
Helen Toner, Direktorin des Center for Security and Emerging Technology (CSET) und ehemaliges OpenAI-Board-Mitglied, warnt vor einer zu losen Definition. KI aktuell für Forschung zu nutzen, ist für sie noch kein RSI. "Echtes RSI bedeutet, dass keine Menschen mehr benötigt werden."
Hilfreich ist hier eine kürzlich von METR-Forscherin Ayeja Cotra vorgeschlagene Taxonomie für die Übernahme der KI-Forschung:
- Adequacy: Das System kann nach dem Entfernen aller Menschen noch Forschung betreiben – auch wenn diese schlechter ist.
- Parity: Das KI-System ist genauso gut wie ein rein menschliches System.
- Supremacy: Die KI übertrifft jedes Mensch-KI-Team.
Cotra glaubt, dass wir nah an der "Adequacy" sind – ein Meilenstein, der in den nächsten Jahren fallen könnte. Bei Erreichen der "Parity" erwartet sie eine massive Beschleunigung, die innerhalb eines weiteren Jahres zur "Supremacy" führen könnte.
Die Illusion der Scaling Laws
Die größte Gefahr im aktuellen RSI-Hype ist der Glaube, dass sich rekursive Verbesserungen genauso verhalten wie das Training großer Modelle – also als vorhersehbare Scaling Laws. Toner vergleicht es mit der Geschichte der Informatik: Wir sind von Maschinensprache über Assembler zu höheren Programmiersprachen gewechselt. Der Mensch rückte weiter von den Eingeweiden des Computers weg, dirigierte aber immer noch das Geschehen. Echte Autonomie bedeutet, den Menschen ganz aus der Kontrolle zu nehmen. Das erfordert gigantische Sprünge im Engineering und im Alignment.
Zudem gibt es keine unendliche Rechenleistung. Die schlichte Tradeoff-Entscheidung zwischen menschlicher Arbeit und maschineller Intelligenz bleibt bestehen.
Fazit
RSI ist das neue AGI: Ein Begriff, der mehr verspricht, als die Technologie aktuell halten kann. Ja, wir automatisieren die KI-Forschung in rasantem Tempo – von Agent Swarms bis zu Auto-Research-Tools. Aber das ist Assistenz, keine Autonomie. Die KI-Industrie verkauft uns inkrementelle Verbesserungen als bevorstehende Intelligenzexplosion. Bis Systeme in der Lage sind, Prioritäten zu setzen, Geschmack zu entwickeln und ihre eigenen Schwächen zu verifizieren, bleibt der Mensch im Loop – und RSI bleibt ein Buzzword auf der Roadmap.
Quelle: TechCrunch