Vom Rechenleistungskapazitäten zum Speicherkapazitäten: In der zweiten Hälfte des AI-Hardware-Zeitalters – wer ist der Engpass?
Hallo zusammen, ich bin euer Finanzjournalist und Wirtschaftswissenschaftler.
In letzter Zeit, wenn ihr die Tech-Szene oder den Aktienmarkt verfolgt habt, könntet ihr ein interessantes Phänomen bemerkt haben: Früher konzentrierte sich die Aufmerksamkeit auf die GPUs (Grafikkarten) von Nvidia, die als „Gehirn“ und Kern der AI-Technologie angesehen wurden. Doch ab der zweiten Hälfte des Jahres 2025 hat sich die Richtung geändert. Speichergeräte wie DRAM, NAND-Flash-Speicher und Festplatten, die bisher als „Nebenrollen“ galten, sind plötzlich zum Mittelpunkt der Aufmerksamkeit geworden.
Warum? Weil der Speicherkapazitätsbedarf zum neuen Engpass geworden ist.
Einfach ausgedrückt: Früher lag das Problem darin, dass nicht schnell genug gerechnet werden konnte, heute geht es darum, nicht genug Daten zu speichern und diese nicht schnell genug abzurufen. Stellen Sie sich einen Superkoch (die GPU) vor – egal wie schnell er arbeitet, wenn die Zutaten (die Daten) nicht schnell genug aus dem Kühlschrank (dem Speicher) geholt werden, kann der Koch nichts tun.
Heute werden wir diesen tiefgreifenden Bericht über HBM (High Bandwidth Memory) in verständlichen Worten analysieren, um zu verstehen, was diese „Speicherkapazitätsrevolution“ eigentlich bedeutet und welche Geschäftslogiken und Investitionsmöglichkeiten dahinter stecken.
---
Warum verbraucht AI plötzlich so viel Speicher?
Viele Menschen haben den falschen Eindruck, dass AI nur mit Rechnen zu tun hat und nichts mit der Speicherung zu tun hat. Das ist jedoch völlig falsch. Der Speicherkapazitätsbedarf von AI wächst nicht linear, sondern exponentiell. Dies liegt hauptsächlich an drei Faktoren:
1. Die Modelle werden immer größer (Speicherung von Parametern)
Man kann große AI-Modelle als extrem komplexe Wörterbücher betrachten. Früher enthielt dieses Wörterbuch nur einige Millionen Wörter, heute sind es Billionen.
- Beispiel: Vom ersten Qwen bis zum neuesten Qwen3.8 Max hat sich die Anzahl der Parameter um das Dreißigfache erhöht.
- Konsequenz: Allein der Speicherbedarf für dieses „Wörterbuch“ ist von 135 GB auf 2300 GB (ca. 2,3 TB) gestiegen – und das, bevor das Modell überhaupt mit der Arbeit beginnt.
2. Die „Gesprächsdaten“ werden länger (KV-Cache)
Dieser Aspekt wird oft übersehen, ist aber besonders speicheraufwendig. Je mehr man mit einer AI-System spricht, desto mehr „Kontext“ muss sie sich merken.
- Analogie: Stellen Sie sich vor, Sie sprechen mit einem Freund über 100 Seiten – er muss sich diese Inhalte merken, um die nächste Frage beantworten zu können.
- Aktuelle Situation: Obwohl Softwaretechnologien Fortschritte machen und den Speicherbedarf verringern, können moderne AI-Systeme bereits Inhalte in Höhe von Hunderttausenden oder sogar Millionen von Wörtern verarbeiten.
- Kumulatives Effekt: Wenn gleichzeitig 32 Personen mit einer AI-System lange Gespräche führen, benötigt allein der Speicher für diese Gesprächsdaten 1,3 TB. Zusammen mit den 2,3 TB des Modells ergibt das insgesamt 3,6 TB!
3. Die vielfältigen Aufgaben der AI-Agenten
Heutige AI-Systeme beantworten nicht nur Fragen, sie helfen auch bei der Programmierung, bearbeiten Excel-Dateien oder senden E-Mails. Die dabei entstehenden temporären Dateien, Protokolle und Zwischendaten verbrauchen zwar keinen hochwertigen HBM, erhöhen aber den Speicherverbrauch von herkömmlichen Speichern und Flash-Speichern.
Fazit: Früher war es wichtig, schnell zu rechnen; heute sind es die Fähigkeiten, genug Daten zu speichern und diese schnell abzurufen – und zwar genauso wichtig, wenn nicht sogar noch wichtiger.
---
Warum ist HBM zum „Liebling“ geworden? Reicht herkömmlicher Speicher nicht aus?
Wenn Speicher so wichtig ist – warum wird dann nicht der gängige DDR5-Speicher verwendet, sondern der teure HBM?
Dafür gibt es zwei entscheidende Faktoren: Kapazität und Geschwindigkeit.
1. Die „physikalischen Grenzen“ herkömmlichen Speichers**
- Herstellungsprozesse: Die Herstellung von Speicherchips lässt sich nicht so weit verfeinern wie bei CPUs (2 nm, 3 nm). Physikalische Grenzen erschweren die Herstellung kleinerer Chips, was zu Fehlern führen kann. Derzeit liegt die Speichertechnologie bei 11–12 nm; in den nächsten Jahren wird sie höchstens auf 10 nm steigen.
- Räumprobleme: Da einzelne Speicherchips nicht größer gemacht werden können, müssen mehr Chips verwendet werden. Doch der Platz um die GPU-Chips ist sehr begrenzt – es ist wie in einem teuren Stadtzentrum, wo man Speicher nicht einfach flach verteilen kann.
2. Die „Hightech-Technologie“ von HBM: Vertikaler Speicher
Das Besondere an HBM ist, dass es keinen Platz mit CPUs/GPUs teilt, sondern vertikal gestapelt wird.
- Vertikaler Aufbau: Stellen Sie sich vor, herkömmlicher Speicher wäre wie ein flaches Gebäude; HBM ist wie ein „vertikales Parkhaus“ neben der GPU. Es werden bis zu 12 oder 16 Speicherchips übereinander gestapelt.
- Silizium-Through-Vias (TSVs): Um diese Schichten miteinander zu verbinden, werden tausende vertikale Löcher in die Chips gebohrt und mit Kupfer gefüllt, um den Datenverkehr zu ermöglichen.
- Resultat: Auf derselben Fläche kann HBM deutlich mehr Speicherkapazität unterbringen als herkömmlicher Speicher.
3. Warum ist HBM so schnell?
- Hohe Datenbreite: Herkömmlicher Speicher überträgt nur 32 Bit pro Transfer, HBM hingegen bis zu 1024 oder 2048 Bit. Das ist wie ein Einbahnstraßenverkehr im Vergleich zu einer 1000-spurigen Autobahn.
- Kurze Datenwege: Die Daten werden direkt zwischen GPU und HBM übertragen – ohne lange Wege, was zu extrem niedrigen Verzögerungen führt.
Zusammenfassung: HBM wurde entwickelt, um die Probleme von Platzmangel und langsamer Datenübertragung zu lösen.
---
Technische Herausforderungen bei der Herstellung von HBM: Warum ist HBM so teuer?
Obwohl HBM vorteilhaft ist, ist seine Herstellung äußerst schwierig – und genau deshalb viel teurer als DDR5-Speicher. Dafür gibt es drei Hauptgründe:
1. Die Stapeltechnologie
- Hochpräzise Bohrung: Auf dünnen Siliziumchips müssen tausende vertikale Löcher gebohrt werden – mit hoher Präzision und ohne Fehler.
- Verbindung der Chips: Die 12 Schichten der Chips müssen miteinander verbunden werden. Hersteller wie SK Hynix verwenden die MR-MUF-Technologie (Reflow-Lötung + flüssiger Kunststoff), während Samsung und Micron die TC-NCF-Technologie verwenden.
- Wettbewerb: SK Hynix hat mit der MR-MUF-Technologie einen Vorsprung und höhere Gewinnmargen. Samsung und Micron versuchen, mit neuen Technologien aufzuholen.
2. Die Verpackungstechnologie
- Spezialisierte Verbindungen: HBM wird nur zusammen mit der GPU in einem speziellen Siliziumplattenmodul verpackt.
- Hohe Präzision: Die Leitungen auf diesem Modul sind nur 1 Mikrometer breit – herkömmliche PCBs sind dafür nicht geeignet. Die Produktion dieser Module hängt stark von TSMC ab.
3. Die Basisschicht
- Anpassungen an Kundenanforderungen: Früher war die Basisschicht von HBM standardisiert; heute werden sie individuell an die Bedürfnisse von Kunden wie Nvidia angepasst.
- Beispiel: NVHBM von Nvidia bietet höhere Bandbreiten und geringeren Stromverbrauch. Das macht HBM zu einem halbstandardisierten Produkt.
---
Veränderungen in der Speicherindustrie
Diese HBM-Revolution hat die Machtverhältnisse in der Speicherindustrie grundlegend verändert:
1. Verlust an Unabhängigkeit der Speicherhersteller
Früher waren Speicherhersteller wie Samsung, SK Hynix und Micron die dominierenden Akteure – sie waren für Design und Produktion verantwortlich.
Heute ist die Produktion aufgeteilt:
- Speicherhersteller: Herstellung der Speicherchips und des Stapelns.
- TSMC: Herstellung der Basisschichten und der endgültigen Verpackung.
- Endkunden (z. B. Nvidia): Beteiligung am Design der Basisschichten und Festlegung der Spezifikationen.
- Konsequenz: Die Einflussmöglichkeiten der Speicherhersteller haben abgenommen. Ein Wechsel des Lieferanten oder Engpässe bei der Produktion können zu Lieferproblemen führen.
„Gemeinsames Wachstum“ oder „Wertverschiebung“?
- Kurzfristig: Aufgrund des AI-Booms wächst der gesamte Markt – alle Beteiligten profitieren.
- Langfristig: Durch die zunehmende Customisierung könnten Speicherhersteller zu reinen Fertigungsunternehmen werden, während der Wert auf die Entwicklungs- und Verpackungstechnologien sowie auf die Kunden mit Definitionsmacht (z. B. Nvidia) übergeht.
- Investitionsstrategien: Investoren müssen nun auf technologische Fortschritte und die Zusammenarbeit mit den führenden Unternehmen achten.
Zukunftsaussichten
- Weitere Steigerung der Stapelhöhe: Mehrere Stapelschichten erhöhen die Kapazität, aber auch die Herstellungskosten steigen.
- Customisierung: HBM wird immer mehr wie ein eigenständiges „Chip-Element“ statt eines herkömmlichen Speichers werden.
- Kosten-Nutzen-Abwägung: Die hohe Kosten von HBM begrenzen die Verbreitung von AI – es wird gesucht, Kompromisse zwischen HBM und günstigerem DDR5 zu finden oder Kosten durch Technologieverbesserungen zu senken.
- NAND-Flash-Speicher: Obwohl HBM im Fokus steht, steigen auch die Preise für NAND-Flash-Speicher aufgrund des AI-Booms.
Fazit
Wir stehen am Beginn einer neuen Ära der Speicherindustrie – es geht nicht nur um Preissteigerungen, sondern um grundlegende Veränderungen in der Architektur von AI-Hardware.
Rechenleistungskapazitäten sind wie der Motor, Speicherkapazitäten sind die Tanks und die Leitungen. Wenn der Motor immer leistungsfähiger wird, müssen die Leitungen ausreichend groß und schnell sein, damit das System funktioniert. HBM ist die Schlüsselkomponente in dieser Entwicklung.
Für Investoren und Fachleute ist es wichtig, die technischen Herausforderungen und die Aufteilung der Produktionsketten zu verstehen – denn wer die schwierigsten Herstellungsprozesse beherrscht und die stärksten Kundenbindungen hat, wird die Zukunft bestimmen.
Diese „Speicherkapazitätsrevolution“ hat gerade erst begonnen.