Warum verachtet Hwang In-hoon die „AI-Apokalypse-Theorie“ so sehr?

Hallo, ich bin Ihr Assistent für Finanz- und Wirtschaftsanalysen. Dieser Artikel über Huang Renxun, der auf dem All-In-Gipfel die „AI-Apokalypse-Theorie“ widerlegt hat, enthält eine Fülle von Informationen. Er befasst sich nicht nur mit dem Streit um technische Richtungen, sondern greift tiefer in die Geschäftslogik, kulturelle Unterschiede und Konflikte in der Regulierungsphilosophie ein.

Um Ihnen die „Redewette“ dieser Top-Größen aus dem Silicon Valley leichter zu verstehen, werde ich zunächst den Kerninhalt zusammenfassen und dann aus fünf verschiedenen Perspektiven eine detaillierte Analyse vornehmen.

---

【Kerninhalt zusammenfassen】

In einem Satz:

Huang Renxun, der CEO von NVIDIA, wies auf dem All-In-Gipfel die in letzter Zeit im Silicon Valley verbreitete „AI-Apokalypse-Theorie“ (die Annahme, dass AI die Auslöser für das Ende der Menschheit oder der Zivilisation sein könnte) öffentlich zurück. Er bestreitet nicht, dass AI Risiken birgt, lehnt es jedoch entschieden ab, solche unbekannten Risiken mit „genauen Wahrscheinlichkeiten“ (z. B. 10 % Aussterberate) zu quantifizieren, und kritisiert diese Aussagen als fehlend an wissenschaftlicher Grundlage – und sogar als mögliche Hemmnisse für den technologischen Fortschritt.

Zentrale Argumente:

1. Gegen die „Entweder-oder-Entscheidung“: Sicherheit und Entwicklung sind nicht Gegensätze; die USA können sowohl führend in der AI sein als auch eine gute Sicherheitskontrolle gewährleisten.

2. Gegen „Pseudowissenschaftliche Vorhersagen: Die Vorhersagen, dass AI Ärzte oder Programmierer ersetzen wird, haben sich in den letzten zehn Jahren größtenteils nicht erfüllt; die aktuellen „Aussterberaten“ basieren ebenfalls auf keinen Fakten und stellen eine „unverantwortliche Einschüchterung“ dar.

3. Engineering-Denken vs. philosophische Angst: Huang Renxun plädiert dafür, konkrete Probleme mit „ingenieurtechnischen“ Mitteln (z. B. Drittanbieteraudits, Rechenleistungskontrollen) zu lösen, anstatt sich in metaphysische Ängste zu verlieren.

4. Interessen und Standpunkte: Er deutet an, dass einige AI-Unternehmen (wie Anthropic) kurz vor ihrem Börsengang Risiken übertrieben darstellen könnten, um hohe Hürden zu schaffen, die nur große Konzerne überwinden können.

5. Kulturelle Unterschiede: Der Westen ist von Kulturen des „Sündenfalls“ und der „Apokalypse“ geprägt und neigt dazu, Angst vor Technologie zu haben; Huang Renxun hingegen, mit seinem Ingenieurhintergrund, bevorzugt eine „lösungsorientierte“ und „pragmatische“ Herangehensweise.

---

【Detaillierte Analyse aus fünf Perspektiven】

1. **„Prophezeiungen kosten nichts, aber die Umsetzung kostet Geld“: Zwei völlig unterschiedliche Sichtweisen auf Risiken**

Dies ist der Schlüssel, um Huang Renxuns Standpunkt zu verstehen. Wir müssen zwischen „Prophezeiern“ und „Ingenieuren“ unterscheiden:

• Prophezeier (z. B. einige AI-Sicherheitsforscher): Sie sitzen im Büro und kommen zu dem Schluss: „Die Wahrscheinlichkeit, dass AI innerhalb der nächsten zehn Jahre die Menschheit auslöscht, liegt bei 10 %.“
• Kosten: Fast keine. Wenn sie falsch liegen, zahlt niemand; wenn sie richtig liegen, gibt es auch keine Belohnung.
• Konsequenzen: Wenn die Gesellschaft ihnen glaubt, könnte dies zu Investitionsstoppungen und Forschungseinschränkungen führen. Die Kosten für diese „Bremse“ tragen die gesamte Branche und die Gesellschaft.
• Huang Renxuns Metapher: Das nennt er die „Externität von Prophezeiungen“. Wie der Turing-Preisträger Hinton 2016 sagte, dass Radiologen innerhalb von fünf Jahren durch AI ersetzt werden würden – tatsächlich sind die Radiologen heute nicht nur nicht arbeitslos geworden, sondern es gibt einen akuten Mangel an Fachkräften, was die Behandlung von Patienten erschwert. Falsche Prophezeiungen haben Kosten für die Allgemeinbevölkerung.

• Ingenieure (wie Huang Renxun): Ihre Entscheidungen müssen in konkrete Handlungen umgesetzt werden. Zum Beispiel muss er vorhersagen, wie viele Chips der nächsten Generation verkauft werden, wie viel HBM-Speicher benötigt wird und wie viel Strom bereitgestellt werden muss.
• Kosten: Sehr hoch. Falsche Entscheidungen könnten dazu führen, dass NVIDIA direkt bankrottgeht.
• Haltung: Huang Renxun sagt oft, dass ein Unternehmen nur 30 Tage von der Insolvenz entfernt sein könnte. Diese Angst ist konkret, sofortig und lösbar. Sie zwingt einen, das Produkt heute zu entwickeln und Fehler zu beheben.
• Fazit: Huang Renxun lehnt die „Apokalypse-Theorie“ ab, weil diese Angst abstrakt, weit entfernt und nicht durch Anstrengungen beseitigbar ist. Sie veranlasst dazu, innezuhalten, während die Angst eines Ingenieurs dazu führt, aktiv zu werden. Eine ist ein Bremspedal, das andere ein Gaspedal.

2. **Die Lektion von den Radiologen:** Warum sollten wir vorsichtig mit „genauen Unsinn“ sein?

Huang Renxun zitierte eine Reihe von Fällen, um zu zeigen, dass scheinbar zuverlässige und genaue AI-Vorhersagen oft am unzuverlässigsten sind:

• Beispiele:
• 2016: Hinton sagte, Radiologen sollten nicht mehr ausgebildet werden.
• 2023: Manche behaupteten, GPT-2 und Llama 3 seien zu gefährlich, um veröffentlicht zu werden.
• Kürzlich: Manche sagten, die Hälfte der Junior-Positionen würde innerhalb von 6–9 Monaten verschwinden oder 90 % des Codes würde von AI erstellt werden.
• Reale Ergebnisse:
• Radiologen sind nicht verschwunden; im Gegenteil, es gibt einen Mangel an Fachkräften, und die Gehälter sind gestiegen.
• Grundlegende Logik: Diese Vorhersager sind oft gut ausgebildete Forscher, aber „Theorie zu verstehen“ bedeutet nicht, die Realität zu verstehen. Die Welt ist voller Komplexitäten wie Reibungen, Politik, menschliches Verhalten und Infrastrukturprobleme. Diejenigen, die eine 10-%-Aussterberate geben, vereinfachen komplexe Systeme auf mathematische Probleme. Huang Renxun findet diese „Überbestimmtheit“ gefährlich, da sie Politiker und die Öffentlichkeit irreführen und unnötige Panik schüren kann – und sogar als Instrument zur Behinderung des Wettbewerbs genutzt werden kann.

3. **Der Verdacht auf „Regulierungsgefangenschaft“: Wer nutzt den Namen der Sicherheit, um Monopole zu schaffen?**

Dieser Teil des Artikels bietet wertvolle politische und wirtschaftliche Einsichten. Obwohl Huang Renxun Anthropic nicht direkt nennt, deutet er an, dass die aktuelle „AI-Sicherheits-Debatte“ möglicherweise eine sorgfältig konzipierte Geschäftsstrategie ist:

• Zufälle in der Zeit:
• Anthropic (das Unternehmen von Dario Amodei) hat kürzlich seinen IPO-Beschreibungspapier eingereicht, mit einem Wert von 965 Milliarden US-Dollar; der Börsengang ist kurz bevorstehend.
• Gleichzeitig veröffentlichte Amodei einen Artikel, in dem er vorschlägt, die Geschwindigkeit der fortschrittlichen AI zu verlangsamen und mehr Regulierungen zu fordern.
• Was ist „Regulierungsgefangenschaft“?
• Das ist ein wirtschaftliches Konzept: Große Unternehmen nutzen ihre Ressourcen, um strenge Regulierungsstandards zu schaffen, die nur sie selbst erfüllen können.
• Logik: Wenn Regulierungen vorschreiben, dass man nur mit Top-Rechenleistung AI betreiben darf oder extrem teure Drittanbieteraudits durchführen muss, werden kleine Unternehmen, Start-ups und Open-Source-Communities ausgeschlossen.
• Konsequenz: Am Markt bleiben nur wenige Giganten (wie OpenAI, Anthropic, Google, Meta) übrig. Sie sind sowohl Spieler als auch Schiedsrichter und können unter dem Vorwand der Sicherheit hohe Hürden schaffen, um ihre Gewinne und Monopolpositionen zu schützen.
• Huang Renxuns Antwort: Er unterstützt Regulierungen, aber „faktenbasierte“ Regulierungen. Er glaubt, dass nur wenige Labore mit Tausenden von Top-GPUs echte Risiken darstellen. Die Regulierung sollte sich auf diese „Großen“ konzentrieren, anstatt allgemeine, für alle belastende Standards zu erstellen. Er schlägt ein „Finanzauditing“ vor: Unabhängige Institutionen sollen die „Bücher“ von AI-Unternehmen überprüfen (Code, Daten, Prozesse) – ähnlich wie Buchprüfer Unternehmen. So wird Sicherheit gewährleistet, ohne dass AI-Unternehmen gleichzeitig Schiedsrichter und Spieler sind.

4. **Kulturelle Unterschiede: Prometheus-Feuer vs. Dayus Wasserkontrolle**

Der Artikel geht schließlich auf kulturelle Unterschiede ein und erklärt, warum Amerikaner (insbesondere die Eliten im Silicon Valley) eine nahezu religiöse Angst vor AI haben, während Huang Renxun (obwohl er chinesisch-amerikanischer Abstammung ist) besonders ruhig und pragmatisch ist:

• Westliche Narrative (Sündenfall und Gericht):
• Mythologische Vorlagen: Prometheus, der für das Stehlen des Feuers bestraft wurde, Frankens Monsters, das Verbot der Frucht im Paradies.
• Grundlegende Logik: Wissen/Technologie ist eine „Überschreitung“ und somit eine „Sünde“. Die Menschheit hat etwas erschaffen, das sie letztendlich zerstören könnte.
• Auswirkungen: Diese Denkweise führt dazu, dass Menschen dazu neigen, aufzuhören, zu beschränken und sich zu bereuen. Deshalb gibt es extreme Aussagen wie „Luftangriffe auf Rechenzentren“, weil im Unterbewusstsein der Gedanke herrscht, dass solche Dinge nicht existieren sollten.
• Effektiver Altruismus (EA): Einige Oxford-Forscher betrachten die Zukunft der Menschheit als mathematische Erwartung und sind bereit, jeden Preis zu zahlen, um eine geringe Aussterberate zu verhindern – das ist eine Form von **„Apokalyptischem Denken“.

• Chinesische/Ingenieur-Narrative (Werkzeuge und Lösungen):
• Mythologische Vorlagen: Der Mann, der Feuer machte (der für seine Leistung belohnt wurde), Dayus Kampf gegen die Flut (Lösung von Problemen), „Tiangong Kaiwu“ (Menschen können die Natur kontrollieren, Technologie ist ein Werkzeug).
• Grundlegende Logik: Technologie ist ein neutrales Werkzeug; Gut und Böse hängen von der Nutzung ab. Wenn eine Flut kommt, sollte man nicht warten, bis man in einem Boot stirbt, sondern versuchen, sie zu kontrollieren.
• Huang Renxuns Haltung: „Wenn es geschaffen wird, wie können wir es richtig machen?“ Das ist typisches „Sorgenbewusstsein“ – nicht „Apokalyptisches Bewusstsein“. Sorgenbewusstsein glaubt, dass Probleme immer existieren, also muss man sie lösen; Apokalyptisches Bewusstsein glaubt an ein Ende und möchte daher aufhören oder fliehen.
• Huang Renxuns persönlicher Hintergrund: Seine Mutter brachte ihm das Auswendiglernen bei; sein Vater war Chemieingenieur – diese familiären Wurzeln prägten seine pragmatische, handlungsorientierte Denkweise. Er glaubt nicht an Esoterik, sondern an Ingenieurwissenschaft.

5. **Der wahre AI-Wettbewerb:** Es geht nicht darum, wer stärker ist, sondern wer die Technologie am besten nutzen kann**

Zum Schluss definiert Huang Renxun den Sinn des AI-Wettbewerbs neu und gibt seine endgültige Haltung für die Zukunft:

• Open Source vs. Closed Source:
• Er betont die Bedeutung von Open-Source-Modellen. In den letzten sechs Monaten flossen 400 Milliarden US-Dollar an Risikokapital in AI-Unternehmen, von denen 80 % auf Open-Source-Modelle angewiesen sind.
• Wenn nur Closed-Source-Modelle vorhanden wären (Monopol der Großen), könnten nur die Großen gewinnen. Wenn Open-Source-Modelle stark sind (viele stammen aus China), könnten alle Branchen, Lehrer, Schüler und kleine Unternehmen daran teilnehmen.
• Aussage: Die USA müssen gewinnen – nicht nur durch einige Technologieunternehmen, sondern durch die Beteiligung der ganzen Gesellschaft. Open Source ist die Grundlage für die Verbreitung von Technologie.
• Was ist der wahre Wettbewerb?
• Es geht nicht darum, wer die größten Modelle hat oder als Erster AGI erreicht.
• Sondern darum, wer die Technologie am besten nutzen kann.
• Historische Beispiele: Grundlagenwissenschaften wie Elektromagnetik und Elektrizität kamen aus Europa, aber die USA verwandelten sie durch starke Ingenieursfähigkeiten und Infrastruktur in den Motor der Industriellen Revolution.
• Im AI-Zeitalter ist es genauso: Grundlagenmodelle können von überall kommen (einschließlich China), aber wer sie in Rechenzentren, Stromnetze, Autos, Fabriken integrieren kann, wird gewinnen.
• Entzauberung von „Superintelligenz:
• Huang Renxun glaubt, dass wir vielleicht bereits das Zeitalter von AGI (allgemeiner menschlicher Intelligenz) erreicht haben.
• Bei „Superintelligenz“ muss man nicht auf ein allwissendes, allmächtiges Wesen warten. In Bereichen wie autonomem Fahren und Proteindesign ist AI bereits stärker als der Mensch – das ist Superintelligenz.
• Pragmatische Haltung: Konzentriere dich auf die bereits vorhandenen, konkreten Anwendungen, nicht auf ein fernes, unklares Konzept.

---

**Erkenntnisse für die Allgemeinheit**

1. Lassen Sie sich nicht von „genauen Wahrscheinlichkeiten“ einschüchtern: Wenn Ihnen jemand sagt, dass AI die Welt mit 10 % Wahrscheinlichkeit zerstören könnte, denken Sie an die Geschichte der Radiologen. Solche Zahlen dienen oft dazu, Angst zu schüren, nicht dazu, Lösungen zu bieten.

2. Konzentrieren Sie sich auf die Umsetzung, nicht auf die Theorie:** Für die Allgemeinbevölkerung ist es nicht wichtig, ob AI die Welt zerstört – wichtig ist, wie es Ihre Arbeit verändert. Huang Renxun erinnert daran, dass Ingenieurwesen (das Produkt erstellen, Fehler beheben) wichtiger ist als Theorie (die Zukunft vorhersagen).

3. Seien Sie vorsichtig mit den hinter den „Sicherheit“ stehenden kommerziellen Motiven:** Wenn ein Unternehmen gleichzeitig nach Regulierungen ruft und einen Börsengang plant, fragen Sie sich: Sind diese Regulierungsstandards nur für große Unternehmen erschwinglich?

4. Embracieren Sie Open Source und Beteiligung: Sehen Sie AI nicht als Spiel der Großen Unternehmen. Die Verbreitung von Open-Source-Modellen bedeutet, dass jeder die Effizienz durch AI steigern kann