虎嗅

**Anthropic, Dario Amodei – und das „letzte private Unternehmen“**

原文：Anthropic，Dario Amodei，与“最后一家私营公司”

阅读原文

Zusammenfassung der Kerninhalte

Der Gründer von Anthropic, Dario Amodei, ist eine Person voller Widersprüche: Einerseits warnt er lautstark davor, dass Super-AI-Künstliche Intelligenzen Katastrophen wie biologische Waffen oder Massenarbeitslosigkeit auslösen könnten, andererseits führt er sein Unternehmen mit aller Kraft bei der Entwicklung fortschrittlichster AI-Modelle. Er ist überzeugt, dass die KI früher oder später entstehen wird – und statt sie anderen zu überlassen, möchte er lieber selbst das „Steuer“ in die Hand nehmen. Mit Konzepten wie einer „verfassungsmäßigen“ KI und einem Treuhandmodell versucht er, Sicherheit zu gewährleisten, gerät jedoch in die Schwierigkeit, gleichzeitig Spieler und Schiedsrichter zu sein. Er träumt davon, dass die KI Krebs heilen und der ganzen Menschheit zugutekommen könnte – versteckt dabei aber den Ehrgeiz einer amerikanischen Monopolherrschaft. Es gibt sogar Gerüchte, dass er Anthropic zur „letzten privaten Firma der Welt“ machen möchte. Obwohl er diese Behauptungen nicht direkt bestätigt, bleibt sein Kerngedanke unverändert: Nur wenn er die Macht in eigenen Händen hält, ist alles sicher.

I. Der widersprüchliche Dario: Einerseits warnt er vor dem Abgrund, andererseits treibt er das Gaspedal durch

Darios Widersprüche sind nicht gespielt, sondern resultieren aus zwei festen Überzeugungen:

1. Die Angst vor Langsamkeit: Sein Vater starb an Hepatitis C – zu einem Zeitpunkt, als das neue Medikament erst noch sieben Jahre von der Zulassung entfernt war. Dieses Erlebnis ließ ihn glauben, dass „Langsamkeit ein Verbrechen“ ist; Wissenschaft muss schnell voranschreiten, um mehr Menschen zu retten.

2. Das Gefängnis des Industriesystems: Er ist sich der Gefahren der KI bewusst, aber Unternehmen wie OpenAI und Google sind ebenfalls dabei, sie zu entwickeln – andere Länder werden ebenfalls nicht aufhören. Wenn Anthropic aufhört, könnten unzuverlässigere Akteure die Super-KI erstellen. Daher lautet seine Logik: „Wenn alle es machen, dann mache ich es lieber selbst, damit ich sie kontrollieren kann.“

In seinen Artikeln listet er 100 Gefahren der KI auf, lässt die KI jedoch gleichzeitig Code für Anthropic schreiben, um die Entwicklung zu beschleunigen. Für ihn ist dies kein Widerspruch, sondern ein „notwendiges Risiko“ – nur wenn er die Kontrolle übernimmt, kann er Sicherheit gewährleisten.

II. Anthrops „Sicherheitsstrategien“: Nur wenn ich das Steuer halte, fühle ich mich sicher

Dario verließ OpenAI, weil dort die Entscheidungsträger nicht mehr auf seine Bedürfnisse Rücksicht nahmen. Nach der Gründung von Anthropic hat er die Kontrolle tief in das Unternehmen eingebettet:

  • **„Verfassungsmäßige“ KI: Er entwickelte eine Art „Wertebuch“ für die KI-Modelle, damit diese selbst überprüfen können, ob ihre Antworten den festgelegten Prinzipien entsprechen. Diese „Verfassung“ wurde jedoch von Anthropic selbst erstellt – das bedeutet im Grunde, dass ein Unternehmen für die gesamte Menschheit bestimmt, welche Eigenschaften die KI haben soll.
  • Langfristiger Interessen-Treuhandfonds: Er engagierte externe Personen für den Treuhandfonds, der theoretisch verhindern sollte, dass das Unternehmen aus finanziellen Gründen auf Sicherheit verzichtet. Die Macht des Treuhandfonds bleibt jedoch weiterhin bei Anthropic konzentriert – im Kern handelt es sich dabei um eine Selbstüberwachung.
  • Sowohl Spieler als auch Schiedsrichter sein: Anthropic entwickelt die Modelle, bewertet die Risiken, setzt die Standards und gibt Regulierungsbehörden Ratschläge – alles wird von ihm selbst erledigt. Wie glaubt man da an seine „Fairness“, wenn er gleichzeitig Schiedsrichter spielt?

Seine Sicht auf Sicherheit lautet im Grunde: „Nur ich verstehe die KI am besten – daher kann nur ich sie kontrollieren.“

III. Die amerikanische Vorherrschaft in der Zukunft der KI: Der Ehrgeiz einer Monopolherrschaft

Dario behauptet, dass die KI Krebs heilen und arme Länder den Industrialisierungsprozess überspringen könnte – doch dieser „Vorteil für die Menschheit“ setzt voraus, dass die USA zuerst die KI in ihre Hände bekommen:

  • Er fordert, dass die USA und ihre Verbündeten fortschrittliche Chips kontrollieren, um China und andere „strategische Konkurrenten“ daran zu hindern, über die Ressourcen für die Entwicklung leistungsfähiger Modelle zu verfügen.
  • Er beschreibt das ideale Zukunftsszenario als ein „ewiges 1991“: Nach dem Zusammenbruch der Sowjetunion dominierte die USA und nutzte ihre KI, um militärische und wirtschaftliche Vorteile zu erlangen, um diese anschließend mit anderen zu teilen.
  • Als das chinesische Unternehmen DeepSeek mit begrenzten Ressourcen ein konkurrenzfähiges Modell entwickelte, meinte Dario, dies beweise nur die Stärke Chinas – und dass man den Chipexport daher noch mehr einschränken müsse. Dies ist typisch für seine Logik: Je stärker der Gegner, desto mehr sollte blockiert werden.

Sein „Weltfrieden“ bedeutet im Grunde: Zuerst die USA, dann Anthropic.

IV. Die Vision von „der letzten privaten Firma der Welt“: Der ultimative Traum von Macht

Es gibt Gerüchte, dass Dario Anthropics zu „der letzten privaten Firma der Welt“ machen möchte – es sollte nur noch Anthropic und die Regierungen der verschiedenen Länder geben. Er hat diese Behauptungen nicht direkt bestritten, aber seine Handlungen sprechen für sich:

  • Er schließt alle „unzuverlässigen“ Akteure aus: den Markt (aus Angst vor Profitgier), die Öffentlichkeit (weil sie die Technologie nicht versteht), andere Unternehmen (weil sie nicht vorsichtig genug sind) sowie nicht-westliche Regierungen (weil sie autoritär sind). Am Ende bleibt nur noch Anthropic übrig.
  • Als er auf diese Gerüchte reagierte, verwendete er den großen Zielkampf gegen Krebs, um das Kernproblem der Machtkonzentration zu umgehen.

Das erinnert stark an den Pharao aus „The Watcher“: Er glaubt, der Retter der Welt zu sein – doch um „Frieden“ zu schaffen, verursacht er selbst Katastrophen. Dario hält sich ebenfalls für die einzige Person, die die Menschheit retten kann – ohne zu erkennen, dass die Übertragung aller Macht an ein Unternehmen die größte Gefahr darstellt.

Fazit

Dario ist ein aufrichtiger Idealist – aber Aufrichtigkeit bedeutet nicht unbedingt Recht. Er möchte die Welt durch die Kontrolle der KI schützen, doch dabei wird er selbst zum Zentrum der Macht. Genau wie am Ende von „The Watcher“: „Nichts ist vorbei – und alles wird niemals enden.“ Wenn ein Unternehmen glaubt, für die gesamte Menschheit entscheiden zu können, hat es sich möglicherweise bereits in jenen „Abgrund“ verwandelt, vor dem es gewarnt hat.