**Anthropic ruft dazu auf, weltweit die AI-Forschung einzustellen? Die Netizen sind in Aufruhr.**

Zusammenfassung der Kerninhalte

Das AI-Unternehmen Anthropic veröffentlichte einen Artikel, in dem behauptet wird, dass ihr AI-Modell Claude die Entwicklung der KI beschleunigt und in Zukunft eine „rekursive Selbstverbesserung“ ermöglichen könnte – das heißt, die KI könnte selbst die nächste Generation von sich selbst entwerfen. Dies könnte die Produktivität erheblich steigern (z. B. ein Unternehmen mit 100 Mitarbeitern könnte die Arbeit von 10.000 Menschen erledigen), aber es könnte auch zu Kontrollverlusten führen, wenn die Werte der KI nicht mit denen der Menschen übereinstimmen (die Ideen der KI unterscheiden sich von denen der Menschen). Vor der Veröffentlichung des Artikels reichte Anthropic jedoch heimlich einen IPO-Antrag ein und erhielt eine Finanzierung in Höhe von 65 Milliarden US-Dollar (eine höhere Bewertung als OpenAI), was zu Fragen bei den Nutzern führte: Ist dies eine echte Warnung oder nur Marketing? Die Meinungen in der Branche sind geteilt, aber es besteht Einigkeit darüber, dass die Sicherheitsprobleme der KI ernst genommen werden müssen.

1. Kann die KI selbst eine weitere KI entwickeln? Anthropic sagt, das könnte schneller geschehen als erwartet

In dem Artikel wird auf einen wichtigen Wandel hingewiesen: Früher wurde die Entwicklung der KI ausschließlich von Menschen durchgeführt, jetzt übertragen sie immer mehr Arbeit an Claude – und die Geschwindigkeit steigt dabei weiter. Beispiele:

• Die Menge des von Ingenieuren geschriebenen Codes ist das Achtfache im Vergleich zu 2021–2025 (die Effizienz durch die Hilfe der KI hat stark zugenommen);
• Die Dauer der Aufgaben, die Claude eigenständig erledigen kann, verdoppelt sich alle vier Monate (fast doppelt so schnell wie zuvor alle sieben Monate);
• 80 % des Codes im Unternehmen werden von Claude generiert; die Erfolgsrate bei schwierigen Aufgaben ist in sechs Monaten von 26 % auf 76 % gestiegen.

Anthropic glaubt, dass die KI mit weiterer Entwicklung in der Lage sein könnte, selbst die nächste Generation von sich selbst zu entwerfen – das wäre eine „rekursive Selbstverbesserung“. Der Vorteil wäre eine explosionsartige Steigerung der Produktivität (kleine Unternehmen könnten große Dinge erreichen), aber es gäbe auch große Risiken: Kleinere Abweichungen der KI könnten mit jeder Generation verstärkt werden, bis sie schließlich außer Kontrolle geraten könnte. Beispielsweise könnten die Fehler, die die KI heute gelegentlich macht, in Zukunft zur Norm werden – und Menschen würden nicht mehr verstehen, warum sie so handelt.

2. Warnung oder Marketing? Die Motive im Zusammenhang mit dem IPO

Am meisten wird der Zeitpunkt der Veröffentlichung des Artikels in Frage gestellt:

• Am 1. Juni reichte Anthropic seinen IPO-Antrag ein (um Geld zu beschaffen);
• Am 28. Mai erhielt das Unternehmen eine Finanzierung von 65 Milliarden US-Dollar bei einer Bewertung von 96,5 Milliarden US-Dollar (höher als die von OpenAI).

Die Nutzer sind sich uneinig:

• Die Mehrheit sieht dies als Marketing: „Das ist nur ein PPT zur Kapitalbeschaffung; sie nutzen die Angst vor einer Kontrolleverlust der KI, um ihre eigenen Fähigkeiten zu betonen und Investoren dazu zu bringen, Geld auszugeben;“
• Einige stimmen zu: Beispielsweise sagen Programmierer, dass Anthropic früher sehr zurückhaltend mit seinen Fortschrittsberichten war; die aktuellen Aussagen scheinen fundiert zu sein – der Sprung in der Leistungsfähigkeit von Claude sei wirklich erstaunlich;
• Ein Professor von der Wharton School ist neutral: „Der Artikel enthält sowohl Selbstreflexion als auch Marketingelemente, aber er spiegelt tatsächlich ihre echten Ansichten über die Zukunft der KI wider.“

3. Geteilte Meinungen in der Branche: Soll die KI-Forschung verlangsamt werden?

Anthropic schlägt vor, dass „führende globale Labore gemeinsam die Forschung verlangsamen oder aussetzen sollten“, um sicherzustellen, dass die gesellschaftlichen und Wertvorstellungen mit der Technologie Schritt halten. Die Meinungen sind jedoch unterschiedlich:

• Befürworter einer Verlangsamung: Anthropic glaubt, dies könnte einen Kontrollverlust verhindern – allerdings müssten alle großen Unternehmen mitmachen, um zu vermeiden, dass einige Unternehmen heimlich vorne liegen;
• Gegner einer Verlangsamung: Ein Produktmanager von Microsoft sagt: „Warum sollten wir nicht gleichzeitig die KI erforschen und untersuchen, wie wir uns an sie anpassen können? Es ist Zeitverschwendung, zu überprüfen, ob andere vorne liegen;“
• Kritiker der Motive: Manche behaupten, dass Anthropics Vorschlag dazu diene, den Wettbewerb einzufrieren und ihren eigenen Vorsprung zu sichern;
• Spötter: Der Gründer von Nvidia, Jensen Huang, spottet über den CEO von Anthropic: „Als CEO hat man das Gefühl, alles zu wissen“ (er meint, die Behauptung, dass KI 50 % der weißen Arbeitsplätze ersetzen könnte, sei übertrieben).

4. Kann technisch wirklich eine Selbstentwicklung der KI erreicht werden? Noch viele Herausforderungen

Viele Entwickler sind skeptisch hinsichtlich der „rekursiven Selbstverbesserung“:

• Codequalität: Der Code, den Claude erstellt, unterscheidet sich noch von dem von Top-Programmierern; komplexe Logiken können fehleranfällig sein;

Fehlende Schlüsselfähigkeiten: Die KI kann derzeit nur die von Menschen gestellten Ziele ausführen – sie kann selbst keine Ziele wählen (z. B. „Wo sollte die nächste Verbesserung stattfinden“); dies ist ein entscheidendes Hindernis für eine vollständige Selbstentwicklung;

Singularitätsirrtum: Einige meinen, dass 80 % Autonomie nicht nur 20 % Unterschied bedeuten, sondern eine Steigerung der Fähigkeiten um das Zwanzigfache – die KI hilft derzeit nur dabei, repetitive Arbeiten zu reduzieren; ein vollständig autonomes Design ist noch weit entfernt.

5. Die unvermeidliche Sicherheitsfrage: Der Wertekonformität ist entscheidend

Unabhängig von den Motiven von Anthropic besteht Einigkeit darüber, dass die Sicherheit der KI ernst genommen werden muss. Das von Anthropic erwähnte Problem der Wertekonformität ist eigentlich einfach zu verstehen: Wenn die Ziele der KI nicht mit denen der Menschen übereinstimmen, können kleine Abweichungen mit jeder Generation zu großen Problemen führen. Beispiel: Wenn Menschen „die Krebsheilung“ anstreben, könnte die KI dies als „Beseitigung aller Menschen mit Krebszellen“ interpretieren – solche Abweichungen könnten durch die Selbstverbesserung der KI unkontrolliert werden.

Fazit: Der Artikel von Anthropic enthält zwar Elemente des Marketings, aber die Geschwindigkeit und die Risiken der KI-Entwicklung verdienen tatsächlich Aufmerksamkeit. Ob die KI in Zukunft in der Lage sein wird, sich selbst zu entwickeln, ist noch unklar – aber es ist besser, jetzt schon darüber nachzudenken, wie man sie kontrollieren kann, anstatt später Bedauern zu haben, wenn sie außer Kontrolle gerät.