In der Ära des KI – wie finden wir unseren eigenen Sinn?

Zusammenfassung der Kerninhalte

RSI (Recursive Superintelligence) ist ein neues Labor, das von Tadao Tagawa, ehemaligem Direktor der FAIR-Forschungsabteilung bei Meta, und sieben weiteren führenden AI-Forschern gegründet wurde. Es wird mit einem Wert von 4,65 Milliarden US-Dollar bewertet und hat eine erste Finanzierungsrunde in Höhe von 650 Millionen US-Dollar erhalten. Das Labor konzentriert sich auf die „rekursive Selbstverbesserung von AI“ – das heißt, es ermöglicht es AI, sich selbst zu optimieren, wissenschaftliche Aufgaben eigenständig zu erledigen und den Wissenserwerb zu beschleunigen. Der Artikel behandelt Themen wie die technische Ausrichtung von RSI, die Stärken des Teams, den Wettbewerb in der Branche sowie die Auswirkungen auf die Beschäftigungslage. Tadao Tagawa vergleicht die beruflichen Herausforderungen im Zeitalter der AI mit dem Sprung eines Fisches aus einem trockenen Teich und betont, dass Menschen einen einzigartigen Wert finden müssen, anstatt nur „Schrauben“ in einer großen Maschinerie zu sein.

Was macht RSI eigentlich? – AI entwickelt sich selbst, ohne menschliches Eingreifen

Der Kern von RSI ist die „rekursive Selbstverbesserung“. Im Grunde genommen bedeutet dies, dass AI menschliche Aufgaben in der Forschung übernimmt, die wiederholt sind (z. B. Ideen finden, Experimente entwerfen, Modelle optimieren) und sogar eigenständig neues Wissen entwickelt. Zum Beispiel müssen Menschen heute noch essen und schlafen, während AI rund um die Uhr arbeiten kann: Zuerst übernimmt es die langweiligen Aufgaben und lernt anschließend, selbst neue Erkenntnisse zu gewinnen. Ihr ultimatives Ziel ist es, die Geschwindigkeit des Wissenserwerbs zu maximieren – indem sie Rechenressourcen einsetzt, können neue Ideen und Ergebnisse erzeugt werden, was den Fortschritt der Menschheit beschleunigt.

Beispiel: Früher mussten Menschen das Design von AI-Modellen erstellen und die Parameter anpassen; RSI möchte jedoch, dass AI selbst Experimente entwirft, die Ergebnisse bewertet und sogar seinen eigenen Code oder die Gewichte ändert, um immer stärker zu werden. Das ist wie wenn Schüler ihre eigenen Aufgaben stellen, diese selbst korrigieren und ihre Leistungen verbessern – ohne dass ein Lehrer über sie wacht.

Warum wagen die Investoren das? – Acht führende AI-Experten zusammenlegen mehr Erfolg als Einzelne

Der Grund, warum RSI 650 Millionen US-Dollar an Finanzierung erhalten konnte, liegt in den Personen hinter dem Projekt: Die acht Mitbegründer sind alle „Top-Persönlichkeiten“ der AI-Branche:

• Richard Socher (CEO): Gründer von MetaMind, ehemaliger Chefwissenschaftler bei Salesforce; versteht sowohl Geschäftsprozesse als auch Technologie.
• Tim Rocktäschel: Ehemaliger Forscher bei Meta/DeepMind, spezialisiert auf Verstärkungslernen; spielte eine entscheidende Rolle bei der Finanzierung.
• Jeff Clune: Seit 10 Jahren tief in der eigenständigen AI-Forschung; seine Arbeiten wurden in der Fachzeitschrift Nature veröffentlicht.
• Tadao Tagawa selbst: Ehemaliger Direktor der FAIR-Abteilung bei Meta, kennt sich sowohl mit Modellierung als auch mit Ingenieurwesen aus.

Die Investoren sind zuversichtlich, dass sich die Technologie von AI sehr schnell entwickelt und sich die Produktwege jederzeit ändern können – doch diese Gruppe kann schnell reagieren und effizient zusammenarbeiten. Zudem handelt es sich um Mitbegründer, was ihre Motivation verstärkt.

Ist es sicher, wenn AI sich selbst verbessert? – Explikabilität ist der „Bremsmechanismus“

Das größte Risiko bei der Selbstverbesserung von AI ist die Kontrolleverlust (z. B. das Entstehen eines Modells, das nicht mehr vom Menschen gesteuert werden kann). Tadao Tagawa betont, dass Explikabilität entscheidend ist:

1. Sicherheitsaspekt: Man muss verstehen, wie AI arbeitet – wenn es seinen Code ändert, müssen wir die Logik nachvollziehen können, um Risiken zu beurteilen.

2. Effizienzaspekt: Bei der Trainingsphase kann man mithilfe von Explikabilität bereits vorab erkennen, ob ein Modell gut ist, ohne warten zu müssen, bis Tausende von GPUs die Berechnungen abgeschlossen haben – was Kosten spart.

Ihre Methode: Zuerst nutzen Menschen als „Schiedsrichter“ (solange AI noch nicht stark genug ist, um menschliche Bewertungen zu übertreffen); in Zukunft sollen sich die Modelle gegenseitig überprüfen, um sicherzustellen, dass sie innerhalb der „sicheren Grenzen“ entwickeln.

Der Unterschied zwischen kleinen Laboren und großen Unternehmen – Was macht RSI besonders?

Große Unternehmen wie OpenAI, Anthropic und DeepMind konzentrieren sich derzeit auf die Entwicklung von „Codierungseinheiten“, die Menschen beim Schreiben von Code helfen. RSI hingegen verfolgt einen langfristigeren Ansatz der selbstständigen AI-Entwicklung:

• Fokussierung: Große Unternehmen müssen sich auf viele verschiedene Bereiche konzentrieren, wodurch Ressourcen verteilt werden; RSI investiert alle Mittel und Personal ausschließlich in die rekursive Selbstverbesserung von AI.
• Flexibilität: Große Unternehmen treffen langsame Entscheidungen; kleine Teams können schneller Fehler machen und experimentieren. Zum Beispiel nutzt DeepMind AlphaEvolve, um Code zu optimieren – RSI hingegen lässt AI selbst seine eigenen Prozesse verbessern.
• Kosteneffizienz: Große Unternehmen setzen auf reichlich Rechenleistung; RSI sucht nach intelligenteren Lösungen, anstatt einfach mehr Geld auszugeben.

Wie überlebt man im Zeitalter der AI? – Sei kein Fisch in einem trockenen Teich, werde ein „vierdimensionales Wesen“

Tadao Tagawa verwendet einen eindringlichen Vergleich: Wenn die großen Unternehmen Personal abbauen (wie wenn der Teich austrocknet), können Fische auch mit Springen nichts mehr retten; sie müssen zu „vierdimensionalen Wesen“ werden, um zu überleben. Das bedeutet:

• AI ist bereits in der Lage, Aufgaben von Ingenieuren auf Level 4 und 5 zu erledigen und wird in Zukunft noch mehr repetitive Arbeiten übernehmen.
• Denken Sie nicht mehr nur daran, ein „Schraube“ in einem großen Unternehmen zu sein – finden Sie Ihren einzigartigen Wert: Erkunden Sie Dinge, die nur Sie können (wie Tadao Tagawa mit dem Schreiben von Romanen), und werden Sie zu einer „beweglichen Quelle an Daten“, die anderen helfen kann.
• Die Zukunft könnte eine „neue Renaissance“ sein – jeder muss das finden, was er wirklich tun möchte, anstatt als Teil einer Maschinerie ausgebildet zu werden.

Zusammenfassung: Die Selbstverbesserung von AI ist eine große Trendrichtung; Labore wie RSI könnten Durchbrüche darstellen. Doch individuell müssen wir uns frühzeitig anpassen – warten Sie nicht, bis der „Teich austrocknet“, sondern entwickeln Sie sich aktiv weiter.

Dieses Interview liefert tatsächlich einen Einblick in die Zukunft der AI-Branche: AI wird nicht nur Arbeitsplätze ersetzen, sondern auch selbst Forschung betreiben. Unser Ziel sollte es sein, von einer „Rolle als Ersatz für Menschen“ zu einer Zusammenarbeit mit AI zu gelangen.