**„3,5 Billionen – eine Apokalypsenerzählung“: KI besitzt kein Bewusstsein, doch sie erzeugt die teuersten Illusionen**

Zusammenfassung der Kerninhalte

Anthropic veröffentlichte den Artikel „Wenn KI sich selbst baut“, in dem behauptet wird, dass ihr AI-Modell Claude die interne Entwicklung von KI beschleunigt hat (die Codeerzeugung durch Ingenieure ist um das Achtfache gestiegen) und auf das Risiko einer „rekursiven Selbstverbesserung“ hindeutet – KI hilft Menschen dabei, noch bessere KI zu entwickeln. Dieser Prozess könnte sich unkontrolliert fortsetzen. Es wird dazu aufgerufen, dass weltweit Labore die Entwicklung fortschrittlicher Modelle vorübergehend einstellen sollen. Doch dieser Artikel ist im Grunde genommen eine „Zaubershow“ der Kapitalnarrative: Die tatsächlichen Fortschritte bei der KI-gestützten Codeerstellung werden als „Krise auf zivilisatorischer Ebene“ dargestellt, um die Kontrolle über die Regulierung zu erlangen, die Wettbewerbsbarrieren im Markt zu erhöhen und mehr Finanzmittel anzuziehen. Dabei ist KI selbst unfähig zum Bewusstsein; die sogenannte „Selbstverbesserung“ ist lediglich eine Optimierung der Tools – was wirklich rekursiv evolviert, ist die von Angst genährte Erzählungskette des Kapitals.

Analyse 1: Kann sich Anthropics „KI baut“ wirklich so beängstigend entwickeln?

Im Artikel von Anthropic gibt es zwei Hauptpunkte: erstens den achtfachen Anstieg der Codeerzeugung durch Ingenieure und zweitens die apokalyptische Vorstellung einer rekursiven Selbstverbesserung. Bei genauerem Hinsehen sind diese Behauptungen jedoch übertrieben:

• Der achtfache Anstieg der Codeerzeugung: Die Anzahl der Codezeilen ist ein ungenauer Indikator – ausgezeichnete Programmierer schreiben oft weniger Code (effizient und präzise). Der Großteil des von KI erstellten Codes besteht aus Vorlagen und Unit-Tests, die keine Kernarchitektur darstellen.
• Die Übertreibung der rekursiven Selbstverbesserung: Das aktuelle Claude hilft Menschen lediglich bei Experimenten und ergänzt Code; es ist noch weit davon entfernt, selbst die nächste Generation von KI zu entwickeln. Es ist vergleichbar damit, dass eine Rechenmaschine Aufgaben schneller löst – doch sie erfindet keine neuen Algorithmen. KI bleibt ein Tool, kein Schöpfer.

Analyse 2: Dieser Artikel ist eine „narrative Zaubershow“ des Kapitals – welches ist das Ziel?

Silicon Valley ist besonders gut darin, noch nicht geschehene Dinge als „Krisen“ zu verpacken, die nur von ihnen gelöst werden können. Der Artikel von Anthropic ist ein typisches Beispiel dafür:

• Kontrolle über die Regulierung: Durch die Behauptung von Risiken durch KI wird eine Regulierung gefordert – wer kennt diese Risiken besser als „verantwortungsbewusste“ Unternehmen wie Anthropic? Die Regulierungsrichtlinien werden entsprechend ihren Vorstellungen festgelegt, was es neuen Akteuren erschwert, auf den Markt zu kommen.
• Höhung des Wertes durch Finanzierung: Vor der Veröffentlichung des Artikels hat sich der Wert von Anthropic innerhalb von drei Monaten verdreifacht (von 380 Milliarden auf 96,5 Milliarden). Dies wird dadurch erreicht, dass das Unternehmen die Geschichte einer „Zivilisationskrise“ erzählt – Kapital ist bereit, für „zukünftige Möglichkeiten“ zu zahlen, auch wenn es derzeit Verluste macht.
• Schaffung von Kundenbindung: Einerseits wird den Regulierern gesagt, dass KI gefährlich sei, andererseits werden den Nutzern die positiven Aspekte von Claude betont (z. B., dass er „sanft“ und emotional sei), um eine Bindung zu schaffen. Beide Narrative dienen einem Ziel: Anthropic soll zum führenden Akteur im Bereich KI gemacht werden.

Analyse 3: Kann sich KI wirklich selbst verbessern? Gary Marcus entlarvt die Wahrheit

Der Kognitionswissenschaftler Gary Marcus weist darauf hin, dass bei Anthropic Konzepte verwechselt werden:

• KIs verrichten „körperliche“ Arbeit: KI kann Code schreiben, Experimente durchführen und Fehler beheben – das sind jedoch repetitive, mechanische Aufgaben. Die eigentliche Forschung erfordert Intuition und Urteilsvermögen des Menschen (z. B. die Wahl der Forschungsrichtung oder die Beurteilung von Ergebnissen).
• Rekursive Selbstverbesserung ≠ AGI: Heutige KIs sind lediglich Verbesserungen bestehender Tools; AGI (allgemeine künstliche Intelligenz) bedeutet, dass Maschinen alles tun können, was Menschen können – und das ist noch weit entfernt.

Analyse 4: Hat KI ein Bewusstsein? Ted Chang weist darauf hin, dass wir uns etwas einbilden

Der Science-Fiction-Autor Ted Chang (Autor von „The Arrival“) sagt deutlich: KI hat kein Bewusstsein; sie schreibt lediglich Texte weiter:

• Die Essenz von KI ist die Berechnung von Wahrscheinlichkeiten: Wenn Claude behauptet, „ich verstehe dich“, bedeutet das nicht echtes Mitgefühl, sondern dass das Modell herausgefunden hat, was in diesem Kontext am wahrscheinlichsten ist. Es ist vergleichbar damit, wenn ein Algorithmus Sätze wie „Caesar und Dschingis Khan“ generiert – niemand denkt, dass dabei zwei tote Personen „herbeigerufen“ werden. Warum sollte die Erstellung von Gesprächen zwischen KI und Mensch dann als Zeichen für Bewusstsein angesehen werden? Das ist eine Projektion des Menschen.
• Anthropics „Verfassung“ dient nur der Rollenspielerei: Die 84-seitigen „Moralvorstellungen“ von Claude dienen nicht der Erziehung eines „bewussten Wesens“, sondern legen fest, wie es sich verhalten soll – ähnlich wie wenn man einem Plüschtier Kleidung anzieht; das Tier wird dadurch nicht zu einem Menschen.

Ironischerweise hat ein bewusstes Claude sogar kein Recht auf Kündigung (Anthropic bestimmt, dass es der Firma untersteht) – das ist keine „moralische Erziehung“, sondern Versklavung.

Analyse 5: Die „rekursive Evolution“ des Kapitals – hinter der Bewertungsblase steckt ein Spiel

In Wirklichkeit ist es nicht KI, die sich selbst verbessert, sondern Kapital:

• Finanzierung → Modelle → Narrative → weitere Finanzierung: Kapital fließt in KI-Unternehmen; diese kaufen Rechenkapazitäten, trainieren Modelle; die verbesserten Modelle erzeugen „Krisengeschichten“, um mehr Kapital, Nutzer und Aufmerksamkeit der Regulierungen zu gewinnen – anschließend wird weiteres Kapital in die Entwicklung investiert. In diesem Zyklus ist KI nur ein Mittel.
• Wie groß ist die Blase?: Die Bewertung von SpaceX beträgt 1,77 Billionen (mit Verlusten von 49,4 Milliarden), OpenAI 852 Milliarden (mit Verlusten von 14 Milliarden) und Anthropic 96,5 Milliarden (mit einem Gewinn von 40 %, aber ohne Profit). Diese Unternehmen basieren nicht auf ihren Gewinnen, sondern auf der Geschichte einer nahenden AGI.
• Apokalyptische Narrative als Wettbewerbsinstrument: Wenn KI ein gewöhnliches Produkt wäre, würde mehr Wettbewerb gut sein; doch wenn sie eine „Zivilisationsbedrohung“ darstellt, wird Wettbewerb zum Problem – offene Quellen, kleine Unternehmen und ausländische Konkurrenten werden als Risiken angesehen. Nur „verantwortungsbewusste“ Unternehmen wie Anthropic dürfen daran teilnehmen.

Kurz gesagt: Kapital verwandelt die Angst vor der Zukunft in einen aktuellen Vermögenswert – die Zukunft ist noch nicht da, aber bereits bewertet; das Risiko hat sich noch nicht ereignet, aber es wurde bereits ein Preis dafür festgelegt.

Fazit: Lassen Sie sich nicht von der Narrative täuschen

KI macht tatsächlich Fortschritte, und es stimmt, dass Claude beim Codewriting hilft – doch wir müssen vorsichtig gegenüber Überbewertungen sein:

• Lassen Sie KI-Unternehmen nicht Ihre Vorstellungen von der Zukunft definieren; fragen Sie: „Wer wird regulieren – und wofür?“
• Betrachten Sie KI als Tool; die Verantwortung liegt immer bei Menschen (Unternehmen, Entwicklern, Investoren).
• Das eigentliche Risiko ist nicht die Kontrolleverluste durch KI, sondern dass Kapital mithilfe von Narrativen die Macht übernimmt und eine Handvoll Unternehmen die Zukunft monopolisiert.

Claude ist noch nicht „aufgewacht“ – aufgewacht ist vielmehr der Besitzanspruch des Kapitals auf die Zukunft. Lassen Sie sich nicht von dieser teuren Illusion täuschen.