Der als „das letzte von Menschen geschaffene AI-System“ bezeichnete RSI macht gerade die Runde im Internet – was genau ist das?

Detaillierte Analyse: Der von AI selbst entwickelte RSI – ein Weg zur „Göttlichkeit“ oder eine neue Geschichte des Kapitals?

Hallo zusammen, ich bin euer Finanzjournalist und Wirtschaftswissenschaftler.

In der AI-Szene ist wieder viel los. Gerade noch schwärmte der Chef von OpenAI davon, dass GPT-6 kurz davor steht, die Schwelle zur „allgemeinen Künstlichen Intelligenz“ (AGI) zu erreichen, da tauchte bereits ein neues Schlagwort auf, das den Großteil der Aufmerksamkeit auf sich zieht – RSI (Recursive Self Improvement, rekursive Selbstverbesserung).

Einfach ausgedrückt: AI arbeitet nicht mehr nur nach menschlichen Anweisungen, sondern beginnt, selbst Code zu schreiben, Experimente durchzuführen und seine eigene „Software“ zu verbessern. Anschließend überträgt es diese Verbesserungen an die nächste Generation stärkerer Modelle. Das ist wie ein Schüler, der nicht nur seine eigenen Aufgaben löst, sondern auch die Prüfungen erstellt, seine Fehler korrigiert und seine Lernmethoden optimiert – und das alles immer schneller, bis selbst Menschen nicht mehr verstehen können, was er tut.

Die zentrale Aussage dieses Artikels ist sehr scharfsinnig: Die technischen Fortschritte bei RSI sind real, aber die darum entstandenen „Apokalypsenängste“ und „Sicherheits Narrative“ sind im Grunde genommen sorgfältig konzipierte Geschäftsstrategien. Einerseits rufen die AI-Giganten „Vorsicht, das ist zu gefährlich, wir müssen langsamer werden!“, andererseits verkaufen sie wie verrückt Chips, bauen Rechenzentren und sammeln Kapital für Finanzierungen.

Im Folgenden werde ich diesen langen Artikel in fünf Dimensionen zerlegen und euch die dahinterstehende Logik in einfachen Worten erklären.

---

1. Technische Wahrheit: Hat AI wirklich begonnen, sich selbst zu entwickeln?

Zunächst müssen wir „Science-Fiction“ und „Realität“ voneinander trennen. Das Konzept RSI ist eigentlich nicht neu – bereits 1965 schlug der Mathematiker I.J. Good die Idee der „Intelligenzexplosion“ vor: Wenn Maschinen Maschinen herstellen können und die neuen Maschinen intelligenter sind als die alten, wird das Niveau der Intelligenz exponentiell steigen.

Aber der aktuelle RSI unterscheidet sich von früheren Versprechungen, denn er verfügt über konkrete Umsetzungsstufen. Laut neuesten Forschungen von Universitäten wie der Shanghai Jiao Tong University und der Tsinghua University wird RSI in fünf Stufen eingeteilt (L1 bis L5):

• L1-L2 (Anfänger): AI führt nur die von Menschen vorgegebenen Verbesserungen durch oder findet selbst kleine Optimierungsansätze. Das ist wie ein Praktikant, der genau das tut, was der Chef ihm sagt.
• L3-L4 (Mittelstufe): AI entwickelt zunehmend Autonomie. Es kann selbst entscheiden, welche Erfahrungen es sammeln möchte und sogar Umweltfeedback in dauerhafte Änderungen umwandeln. Das ist wie ein erfahrener Arbeiter, der Probleme im Prozess erkennt und diese aktiv optimiert.
• L5 (Spitzenstufe): Das ist die beängstigendste Phase. AI verbessert nicht nur Aufgaben, sondern auch die Mechanismen der Selbstverbesserung – es kann die zugrundeliegenden Logiken ändern, die bestimmen, wie nachfolgende Lösungen gesucht und Ergebnisse bewertet werden.

Die aktuelle Realität ist: OpenAI und Anthropic haben tatsächlich einen bedeutenden Schritt gemacht:

• OpenAI hat „automatisierte Forschungspraktikanten“ entwickelt. Ihre Daten zeigen, dass ein AI-Agent inzwischen 3,1 Arbeitstage Leistung erbringt, wo zuvor ein Mensch nur einen Arbeitstag benötigte. Das bedeutet, dass die Entwicklungseffizienz von AI bereits die von menschlichen Forschern übertrifft.
• Anthropic geht noch einen Schritt weiter: Sie ließen ein schwächeres Modell (Sonnet 5) ein stärkeres Modell (Opus 4.8) bei der Sicherheitsüberprüfung helfen. In nur 60 Stunden testete das schwächere Modell mehr als 50 verschiedene Lösungen und brachte die Sicherheitsleistung des stärkeren Modells auf ein Niveau, das dem der offiziellen Version nahekommt.

Fazit: AI entwickelt sich tatsächlich selbst, aber es ist noch nicht so weit gekommen, dass es außer Kontrolle gerät. Derzeit werden hauptsächlich Softwaresysteme optimiert (z. B. durch Codeanpassungen und Anpassungen der Aufgabenausführung), nicht jedoch die grundlegenden physikalischen Gesetze umgeschrieben. Doch das ist bereits ein großer Fortschritt, der darauf hindeutet, dass die Entwicklungsgeschwindigkeit sich zunehmend von menschlicher Kontrolle löst.

---

2. Sicherheitsparadoxon: Warum werden „Bremse“ und „Gaspedal“ mit derselben Hand betätigt?

Der spannendste Teil des Artikels ist die Enthüllung der Widersprüche in den Aussagen der AI-Giganten. Der CEO von Anthropic, Dario Amodei, sowie die Wissenschaftler von OpenAI betonen die Gefahren von AI und warnen davor, dass AI Netzwerkangriffe verüben oder sogar Zivilisationen zerstören könnte. Daher fordern sie, die Entwicklung zu verlangsamen, um Zeit für Sicherheitsforschung zu schaffen.

Aber was passiert auf der anderen Seite?

• Nvidia-CEO Jensen Huang kontert: Kein Schwarz-Weiß-Denken – Sicherheit und Innovation stehen nicht im Widerspruch.
• Noch ironischer: Die Unternehmen, die von den Gefahren warnen, sind genau diejenigen, die am meisten Geld verdienen und am schnellsten expandieren.

Hier gibt es einen großen logischen Kreislauf:

1. Panikmache: „AI ist zu gefährlich und könnte außer Kontrolle geraten.“

2. Lösungsvorschläge: „Wir brauchen noch leistungsfähigere AI, um solche gefährlichen AI-Systeme zu überwachen und zu verteidigen.“

3. Ressourcenbedarf: „Um solche leistungsfähigen Sicherheitssysteme zu entwickeln, benötigen wir mehr Chips, mehr Energie und größere Rechenzentren.“

4. Businessresultate: Milliarden an Finanzierungen, Cluster mit zehntausenden GPUs und umfangreiche Infrastrukturprojekte werden als „notwendige Infrastruktur für die menschliche Sicherheit“ verpackt.

Einfach ausgedrückt: Das ist wie jemand, der Bremsbeläge verkauft und gleichzeitig behauptet, die Bremsen seien schlecht und man würde sonst sofort sterben – und der einen noch teureren, energieintensiveren Bremsystems kaufen soll.

Wer profitiert davon? Die Spitzenunternehmen mit großen Sicherheitsteams, geschlossenen Rechenzentren und ausreichenden Auditressourcen. Denn die Kosten für Sicherheitsüberprüfungen sind extrem hoch; kleine Unternehmen und Open-Source-Communities können sich das nicht leisten. Diese „Sicherheits Narrative“ dient in Wirklichkeit dazu, Konkurrenten auszuschalten und die Monopolstellung der Giganten zu festigen.

---

3. Interessenkonflikte: Der „Kampf um die Verteilung der Rechenleistung“ hinter der Apokalypsen-Theorie

Wenn AI wirklich so gefährlich ist, warum hören die Entwickler dann nicht einfach auf? Weil eine Pause die Verlust der zukünftigen Kontrolle bedeuten würde. Der Artikel zeigt, dass die Regeln dafür, wie die Risiken von AI bewertet werden, welche Fähigkeiten eingeschränkt werden sollen und wer berechtigt ist, die nächsten Modelle zu entwickeln, in den Händen einiger führender Labore liegen. Diese Labore sind sowohl Treiber der Technologie als auch Definierer der Sicherheitsstandards.

• Für die Giganten (OpenAI, Anthropic usw.): Sie müssen die „hohen Risiken“ weiterhin betonen, um die Rechtmäßigkeit ihrer enormen Investitionen zu unterstreichen und Regulierungen zu verhindern.
• Für die Hardwarehersteller (Nvidia usw.): Warum widerspricht Jensen Huang der Apokalypsen-Theorie? Wenn die Theorie wahr wäre und Regierungen Genehmigungen für Rechenleistung oder Verbote für Rechenzentren erlassen würden, könnten Nvidias GPUs nicht mehr verkauft werden. Egal, was am Ende gefunden wird – solange jemand weitergräbt, gibt es einen Markt für die Werkzeuge. Jede Stimme, die den Kauf von Chips oder den Bau von Rechenzentren verhindert, schadet der Hardwareindustrie.

Hinter diesem Wortgefecht geht es also nicht darum, ob die Menschheit zerstört wird, sondern darum, wie die Rechenleistung, das Kapital und die Industrieninteressen in der nächsten Runde verteilt werden.

• Die „Götter-Entwickler“ (AI-Unternehmen): Einerseits warnen sie davor, dass die KI außer Kontrolle geraten könnte (um Compliance und Monopolstellung zu gewährleisten), andererseits fordern sie mehr Ressourcen, um weiterhin zu entwickeln (aus kommerziellen Gründen).
• Die „Werkzeugverkäufer“ (Hardwareunternehmen): Sie hoffen, dass die KI weiterhin entwickelt wird, denn Entwicklung benötigt mehr „Werkzeuge“ (Rechenleistung).

Das ist ein typisches Beispiel für die kapitalistische Logik, bei der man immer versucht, aus allem Vorteile zu ziehen.

---

4. Technische Hürden: Wie weit ist es noch bis zur „Intelligenzexplosion“?

Obwohl die Geschichte beängstigend klingt, müssen wir die technischen Hindernisse realistisch betrachten. Obwohl RSI schnell fortschreitet, gibt es noch einige unüberwindbare Barrieren auf dem Weg zur echten „Superintelligenz“ (ASI):

1. Katastrophales Vergessen vs. konservative Updates: AI muss ständig neue Wissen aufnehmen, darf aber alte Fähigkeiten nicht verlieren. Ein zu radikaler Update könnte dazu führen, dass AI „alles vergisst“; ein zu konservatives Update hingegen würde das Lernen neuer Dinge erschweren. Dieses Gleichgewicht zu finden, ist äußerst schwierig.

2. Mangel an Forschungskompetenz: Wenn AI Code optimieren soll, sind die Kriterien klar (es muss funktionieren). Bei wissenschaftlichen Experimenten muss AI jedoch selbst beurteilen können, ob ein Versuch fehlgeschlagen ist oder weitergeführt werden sollte. Diese Art von Intuition und wissenschaftlichem Geschmack hängt derzeit stark von Menschen ab.

• Beispiel: Wirkliche wissenschaftliche Durchbrüche entstehen oft durch die Formulierung von Fragen, an die noch nie jemand gedacht hat. AI ist derzeit noch nicht in der Lage, solche kreativen Fragen zu stellen; es ist eher gut darin, bestehende Lösungen zu verbessern.

3. Verschiedene Zeitvorhersagen: Experten sind sich unein:

• Optimisten (Thinking Machines): 3–4 Jahre.
• Mittelfeld (Millidge): Etwa 5 Jahre.
• Konservative (O’Neill): 5–10 Jahre.

Diese Unterschiede zeigen, dass der aktuelle technische Weg noch voller Unsicherheiten ist und es keinen klaren „Expressway“ zur ASI gibt.

Fazit: RSI ist der Eingang zur Superintelligenz, aber kein „Aufzug“. Es ermöglicht es AI, schneller zu werden – doch es ist noch lange nicht so weit, dass AI selbst entscheiden kann, wohin es geht oder sogar die Regeln ändern kann.

---

5. Fazit: Wie sollten wir diese RSI-„Sturm“ bewerten?

Zum Schluss fassen wir die wichtigsten Erkenntnisse des Artikels zusammen, um einen klaren Rahmen für die Öffentlichkeit zu schaffen:

1. Die Technologie ist real, aber übertrieben dargestellt: AI verbessert sich tatsächlich durch RSI, und die Entwicklungseffizienz hat stark zugenommen. Doch dass AI selbst eine übermenschliche Superintelligenz erschaffen wird, ist derzeit noch eine ferne Vision und keine unmittelbare Realität.

2. Panik ist Geschäft, Sicherheit ist ein Schutzschild: Die Giganten schüren die Angst vor AI, um mehr Regulierungsbefreiungen zu erhalten und die Notwendigkeit ihrer Investitionen zu unterstreichen. Es handelt sich dabei um eine sorgfältig konzipierte Strategie.

3. Die Interessen sind klar definiert:

• AI-Unternehmen verdienen an der „Intelligenzprämie“ und ihrem Monopolstatus.
• Hardwareunternehmen profitieren von der Ausweitung der Rechenleistung.
• Investoren nutzen die „Erwartungen an die Zukunft“ als Chance zum Geldverdienen.
• Die Öffentlichkeit sollte wachsam sein: Sie sollte sich nicht von der „Apokalypsen-Narrative“ einschüchtern lassen und auch nicht von „Technologiemythen“ täuschen lassen.

Rat für die Öffentlichkeit:

• Keine übermäßige Panik: Die derzeitige Selbstverbesserung von AI dient hauptsächlich der Unterstützung von Menschen und der Optimierung von Prozessen; es ist noch lange nicht so weit, dass AI die Kontrolle übernimmt.
• Konzentriere dich auf die konkreten Fortschritte: Achte mehr auf technische Indikatoren wie die Effizienz der automatisierten Forschung und die Ergebnisse der Modellüberprüfungen.
• Sehe die Geschäftsrealität klar: Wenn ein Unternehmen behauptet, etwas sei zu gefährlich und man müsse sein teureres Schutzsystem kaufen, frage dich: Dient das wirklich der Sicherheit – oder soll man nur dazu gebracht werden, Geld auszugeben?

RSI ist ein wichtiger Meilenstein in der Geschichte der AI-Entwicklung; es markiert den Übergang von AI von einem „Werkzeug“ zu einem „Mitarbeiter“ oder sogar zu einem „autonomen System“. Doch wer die Regeln definiert, wer die Interessen verteilt und wer Angst schürt – diese Fragen sind viel wichtiger als die Technologie selbst.

Schließlich ist es im Spiel des Kapitals oft derselbe Kreis, der sowohl die Alarmglocken läutet als auch die „Bestien“ füttert.