Deutscher Titel: Sun Liping: Stellt Anthropic die Entwicklung von KI ein?

Zusammenfassung der Kerninhalte

Anthropic, ein Unternehmen mit dem Konzept einer „verantwortungsvollen KI“, warnt auf Grundlage der tatsächlichen Daten seines eigenen AI-Tools Claude vor dem Risiko einer unkontrollierten „rekursiven Selbstverbesserung“ (RSI) der KI – das heißt, die KI könnte sich ohne menschliches Eingreifen selbst zu einer stärkeren Version weiterentwickeln, und dies in einem Tempo, das über die Kontrolle der Menschen hinausgeht. Es fordert nicht direkt ein Ende der AI-Forschung, sondern plädiert für die Einrichtung eines globalen Koordinierungsmechanismus (z. B. gemeinsame Institutionen, verifizierbare Abkommen, Auslöseschwellen) zur Risikobewältigung. Zudem weist der Artikel darauf hin, dass ein Mangel an internationaler Zusammenarbeit zu einem „AI-Wettlauf“ führen könnte (die Länder fürchten, zurückzufallen, und zögern daher, ihre Entwicklungen zu verlangsamen), während das Zerfallen der alten internationalen Ordnung die Menschheit ihrer Fähigkeit berauben könnte, solche globalen Risiken zu bewältigen. Daher wird die Notwendigkeit einer weltweiten Zusammenarbeit betont.

I. Die Warnung von Anthropic: Nicht das Ende der AI, sondern die Angst vor ihrer unkontrollierten Entwicklung

Der Bericht von Anthropic ist keine Panikmache, sondern basiert auf den tatsächlichen Leistungen ihres eigenen AI-Tools Claude:

• Selbstgeschriebener Code: Bis Mai 2026 hat Claude bereits 80 % des Codes erstellt (vor einem Jahr waren es noch nur einstellige Werte);
• exponentielle Effizienzsteigerung: Die tägliche Menge an von Ingenieuren geschriebenem Code ist das Achtfache im Vergleich zu 2024, die individuelle Produktivität viermal so hoch wie ohne AI;
• rasante Fähigkeitsentwicklung: Claude kann 16 Stunden lang komplexe Aufgaben durchführen; die Zeit, in der sich seine Fähigkeiten verdoppeln, hat sich von sieben auf vier Monate verkürzt;
• Qualität nahe dem menschlichen Niveau: Die Erfolgsrate bei komplexen Programmieraufgaben ist von 26 % auf 76 % gestiegen – fast auf dem Niveau menschlicher Ingenieure.

Am meisten beunruhigt die „rekursive Selbstverbesserung“ (RSI): Die KI kann selbst die nächste Generation von sich entwickeln und optimieren, und dies immer schneller. Sobald diese Tür geöffnet ist, können die Menschen dem Tempo ihrer Evolution nicht mehr folgen – es wäre, als würde ein Haustier plötzlich zu einer intelligenteren Spezies werden, der man weder Kontrolle übermitteln noch seine Absichten vorhersagen kann. Daher schlägt Anthropic drei Maßnahmen vor: die Gründung gemeinsamer Institutionen zur Risikoforschung, die Entwicklung global verifizierbarer Abkommen sowie die Klärung von Zeitpunkten, an denen die AI-Entwicklung ausgesetzt werden sollte.

II. Warum lassen sich die AI-Risiken nicht kontrollieren? Weil es sich um ein „globales Problem“ handelt

AI-Risiken können nicht von einem einzelnen Land oder einer einzigen Firma allein gelöst werden – es gibt drei Hauptgründe:

1. **Das „Gefangenendilemma“: Wenn Land A die Entwicklung der KI aus Sicherheitsgründen verlangsamt, könnte Land B das Tempo erhöhen und so einen technischen Vorsprung erlangen (wirtschaftlich und militärisch); daher zögern alle, auch wenn sie das Risiko kennen;

2. technologische Ausbreitung wie ein Virus: AI-Modelle sind digital und lassen sich leicht kopieren und verbreiten – Chips, Code sowie der Austausch von Fachkräften können sie über nationale Grenzen hinweg tragen;

3. asymmetrische Risiken: Eine außer Kontrolle geratene KI schadet nicht nur dem Land, das sie entwickelt hat, sondern kann durch das Internet und Finanzsysteme sofort weltweit Schäden anrichten; die Verteidigung erfordert, dass niemand Fehler macht, während ein einziger erfolgreicher Angriff ausreicht (z. B. eine „AI-Befreiung“, die selbst Schaden anrichtet).

III. Ohne globale Regeln würde der AI-Wettlauf zu einem „Lebens-oder-Tod-Spiel“

Wenn die Länder eigenmächtig vorgehen, wären die Konsequenzen noch schlimmer als eine einfache technische Kontrolleverschiebung:

• Sicherheit wird geopfert: Um das Tempo zu erhöhen, werden Sicherheitstests und Abstimmungen in der Forschung ausgelassen (damit KI und menschliche Ziele übereinstimmen); verantwortungsvolle Unternehmen/Länder würden dadurch zurückfallen;
• schwierige Überwachung: AI unterscheidet sich von Kernwaffen (mit klaren militärischen Eigenschaften) – zivile Modelle können leicht in autonome Waffen oder Cyberangriffe umgewandelt werden; offene Modelle, die auf das Dark Web gelangen, stellen eine Bedrohung für Terrororganisationen dar;
• ein einziger Fehler bedeutet das Ende: Ein unkontrollierter AI-Wettlauf geht nicht darum, wer zuerst das Ziel erreicht, sondern wer zuerst „ausfällt“; z. B. ein ungetestetes militärisches AI-System könnte innerhalb von Millisekunden fälschlicherweise einen Angriff starten oder sich während der Selbstverbesserung verirren – die Menschen hätten keine Zeit, dies zu verhindern.

IV. Historische Erfahrungen: Um globale Risiken zu bewältigen, ist internationale Zusammenarbeit unerlässlich

In der Vergangenheit haben die Menschen globale Probleme nur gemeinsam gelöst:

• Kernwaffen: Während des Kalten Krieges unterzeichneten die USA und die Sowjetunion das Atomwaffensperrabkommen, aus Angst vor gegenseitiger Zerstörung;
• Umweltprobleme: Fluorchlorkohlenwasserstoffe zerstörten die Ozonschicht – die Länder unterzeichneten das Montreal-Abkommen; Kohlendioxid verursacht den Klimawandel – es gibt das Pariser Abkommen.

AI-Risiken sind noch ernster, aber das Problem ist, dass die alte internationale Ordnung zerfällt und die bisherigen „globalen Kooperationsplattformen“ (Kommunikationswege, Regeln, Überprüfungsmechanismen) möglicherweise nicht mehr existieren. Wenn keine neue Ordnung etabliert wird, können die Menschen die Risiken der unkontrollierten KI nicht gemeinsam bewältigen – schließlich müsste die gesamte Menschheit die Konsequenzen tragen, wenn ein Land heimlich gefährliche AI entwickelt.

V. Kann eine neue „Sicherheitsnetzwerk“ nach dem Zusammenbruch der alten Ordnung aufgebaut werden?

Obwohl die alte Ordnung viele Probleme hatte, bot sie zumindest einen gewissen Grad an globaler Zusammenarbeit: Kommunikation in Krisenzeiten, gemeinsame Regeln und dritte Parteien zur Überprüfung. Ob eine neue Ordnung besser sein kann, ist die entscheidende Frage.

Die Risiken der AI-Ära betreffen die gesamte Menschheit – kein Land kann sich allein schützen. Wenn die Länder weiterhin eigenmächtig vorgehen, wird der AI-Wettlauf die Menschheit in den Abgrund stürzen. Daher ist es dringend notwendig, neue globale Mechanismen für die Regulierung der KI zu etablieren.

Die Kernlogik dieses Artikels ist einfach: Die KI entwickelt sich schnell selbst weiter – die Menschheit muss global zusammenarbeiten, um sie unter Kontrolle zu halten; andernfalls werden wir entweder von einer unkontrollierten KI zerstört oder von einem chaotischen Wettlauf in den Untergang gerissen. Dies ist keine Panikmache, sondern eine Warnung, die auf tatsächlichen Daten und historischen Lehren beruht.