「計算力」から「記憶力」へ：AIハードウェアの後半戦、誰がボトルネックになっているのか？
皆さん、こんにちは。私は財経ジャーナリストであり経済学者です。
最近、テクノロジーや株式市場に注目している方なら気づいたかもしれませんが、興味深い現象があります。以前はAIについて話すとき、皆の視線はNVIDIAのGPU（グラフィックカード）に集中しており、それを「脳」と見なしていました。しかし2025年後半になると、風向きが変わりました。従来は「脇役」と見なされていたメモリ（DRAM）、フラッシュメモリ（NAND）、ハードディスクといった記憶装置が突然主役になりました。
なぜでしょうか？それは「記憶力」が新たなボトルネックになったからです。
簡単に言えば、以前は「計算が遅い」問題でしたが、今は「記憶できる量が少なく、読み出す速度が遅い」という問題です。これは、たとえ超一流のシェフ（GPU）であっても、食材（データ）を冷蔵庫（メモリ）から取り出す速度が追いつかなければ、何もできないという状況に似ています。
今日は、HBM（高帯域幅メモリ）に関するこの深いレポートをわかりやすい言葉で解説し、この「記憶力」革命が何を意味し、その背後にあるビジネスロジックや投資機会が何であるかを見ていきましょう。
---
1. なぜAIが急にメモリを大量に消費するのか？
多くの人が誤解していますが、AIは単に計算をするだけで、記憶とは関係ないと思っています。しかし、それは大きな間違いです。AIに対するメモリの需要は線形的に増加するのではなく、指数関数的に急増しています。これは主に3つの要因によるものです：
1. モデル自体が大きくなった（パラメータの保存）
AIモデルを非常に複雑な辞書に例えるとわかりやすいでしょう。以前は数百万語だったこの辞書が、今では数兆語になりました。
- データの増加：例えばQwenというAIモデルを見てみましょう。第1世代から最新のQwen3.8 Maxにかけて、パラメータの量は約30倍に増えました。
- 結果：この「辞書」自体をメモリに保存するだけで、必要な容量は135GBから2300GB（約2.3TB）に増加しました。これはまだ処理を始めていない段階で、ただ「立っている」だけで大きなスペースを占めています。
2. 会話の記憶が長くなった（KVキャッシュ）
これは最も見過ごされがちですが、メモリを最も消費する部分です。AIとの会話が増えるほど、記憶する必要がある「文脈」も増えます。
- 例え：友人と100ページにわたる会話をしたとします。次の言葉を続けるためには、その100ページの内容をすべて頭に入れておく必要があります。
- 現状：ソフトウェア技術は進歩しており、記憶を圧縮できますが、現在のAIの文脈処理能力は数十万語、場合によっては数百万語もの内容を処理できます。
- 相乗効果：32人が同時にAIと長い会話をすると、これらの「会話記憶」だけで1.3TBのメモリが必要になります。モデル自体の2.3TBを加えると、1つのモデルインスタンスで合計3.6TBのメモリが消費されるのです！
3. AIエージェント（インテリジェントエンジン）のさまざまな処理
現在のAIは質問に答えるだけでなく、コードの作成やExcelの操作、メールの送信なども行います。これらの処理で生成される一時ファイルやログ、中間データも、高価なHBMでなくても普通のメモリやフラッシュメモリを大量に消費します。
結論：以前は「計算が速い」ことが最も重要でしたが、今では「保存できる量」と「読み出し速度」が同じくらい、あるいはそれ以上に重要になっています。
---
2. なぜHBMが「お気に入り」になったのか？普通のメモリではダメなのか？
メモリがこれほど重要なのに、なぜ私たちのコンピュータに使われているDDR5メモリではなく、高価なHBMを使うのでしょうか？
その理由は2つの核心的な指標にあります：容量と速度です。
1. 普通のメモリの「物理的限界**
- 製造技術の難しさ：メモリチップの製造工程はCPUほど2nmや3nmにすることが難しいです。物理的な制約により、メモリチップを小さくすると電子が乱れ、データの誤りが発生します。現在のメモリ製造技術は11-12nmで、今後数年間は10nmが限界です。
- スペースの問題：1つのチップを大きくできないので、複数を並べるしかありません。しかし、GPUチップの周りのスペースは非常に限られており、普通のマザーボードのようにメモリを四方に並べることはできません。
2. HBMの「ハイテク」：立体駐車場のような構造
HBMの優れた点は、CPU/GPUと平面スペースを競うのではなく、垂直に積層していることです。
- 垂直積層：普通のメモリが平らな家のような構造なのに対し、HBMはGPUの隣に「立体駐車場」のように構築されています。12層や16層のメモリチップを千層のパイのように積み重ねています。
- シリコンスルーホール（TSV）：これらの層をつなぐために、エンジニアはチップに無数の垂直な小さな穴（TSV）を開け、銅で満たして信号を上下に直接伝達します。
- 結果：同じ面積で、HBMは普通のメモリよりもはるかに多くの容量を収容できます。
3. 速度が速い理由
- ビット幅が広い：普通のメモリは一度に32ビットのデータしか伝送できませんが、HBMは一度に1024ビットや2048ビットのデータを伝送できます。これは普通の道路が単車線なのに対し、HBMは1000車線の高速道路のようなものです。
- 距離が短い：HBMはGPUチップに直接「貼り付けられている」ため、データは長い距離を移動する必要がなく、隣の部屋で直接伝達されるため、遅延が非常に低く、速度が速いです。
要するに：HBMは「スペースが足りない」と「速度が遅い」という2つの問題を解決するために生まれた「特別な」メモリです。
---
3. HBMの技術的な難しさ：なぜこれほど製造が難しく、高価なのか？
HBMは優れていますが、製造は非常に困難であり、そのためDDR5よりもはるかに高価です。主な理由は3つあります：
1. 積層工程の難しさ
- 穴を開けること：薄いシリコンウェハーに数千個の垂直な穴を開け、位置を正確に保ち、放熱を行い、電気を通す必要があります。これは非常に困難です。
- 接合の難しさ：これら12層のチップをどのように接合するか？
- SK HynixはMR-MUF（リフロー溶接+液体樹脂）技術を使用しています。これは一度にすべてのチップを積み重ねてから接着剤を流し込んで固化させる方法です。利点は効率が高く、歩留まりが良く、放熱が良いことです。
- Samsung/AMDはTC-NCF（熱圧+非導電膜）技術を使用しています。これは層ごとに圧着し、接着する方法です。欠点は工程が多く、エラーが発生しやすく、歩留まりが低いことです。
- 競争状況：SK HynixはMR-MUF技術を掌握しているため、HBM分野で現在優位に立っており、利益率も高いです。SamsungとMicronは次世代の「ハイブリッドバンディング」技術の研究開発で追い越しを図っています。
2. 封装工程
- インターサポーター（Interposer）：HBMは単独で販売されるのではなく、GPUチップと一緒に特殊なシリコン基板（インターサポーター）に封入されます。
- 精度の要求：このシリコン基板の配線幅はわずか1マイクロメートル（髪の毛の1/70）であり、通常のPCB（プリント基板）では製造できません。半導体ウェハー製造技術が必要です。
- 生産能力の制約：このシリコン基板と封入工程は主にTSMCのCoWoS（チップオンウェハー）の生産能力に依存しています。つまり、HBMの量はメモリメーカーだけでなく、TSMCの提供する封入枠にも左右されます。
3. ベースダイ（Base Die）の変化
- 以前：HBMのベースダイは単純で、メモリメーカーが自社で製造できました。
- 現在（HBM4）：ベースダイは非常に複雑になり、12nmやそれ以上の先進的な製造技術が必要で、メモリメーカーでは自社で製造できなくなりました。TSMCに委託して製造する必要があります。
- さらに重要な変化：ベースダイはもはや標準化されておらず、NVIDIAやAMDなどの大手顧客が自社のニーズに応じて設計をカスタマイズしています。
- 例えばNVIDIAのNVHBMは独自のプロトコルを使用しており、帯域幅が30％向上し、消費電力が15％削減されています。
- これはHBMが標準化された「商品」ではなく、半カスタマイズされた「部品」になっていることを意味します。
---
4. 産業チェーンの大きな変化：メモリメーカーの地位が変わる
このHBM革命により、メモリ業界の力の構造が根本的に変わりました。
1. メモリメーカーの「独立性」の低下
以前はメモリメーカー（Samsung、SK Hynix、Micron）が設計から製造までを一手に担っていました。
しかし今では、HBMの製造チェーンは以下のようになっています：
- メモリメーカー：メモリチップの製造と積層を担当。
- TSMC：ベースダイの製造と最終的な封入（CoWoS）を担当。
- エンドユーザー（NVIDIAなど）：ベースダイの設計に参加し、仕様を決定します。
結果：メモリメーカーの発言権が弱まりました。NVIDIAが明日供給業者を変更したり、TSMCの生産能力が不足したりすると、メモリメーカーは製品を出荷できなくなります。
2. 「共同での利益」か「価値の移転」か？
- 短期的には：AIの需要が急増したため、メモリメーカー、TSMC、NVIDIAのすべてが大きな利益を得ています。SK HynixやMicronの株価は半年で10倍に上昇しました。
- 長期的には：カスタマイズが進むにつれて、メモリメーカーは徐々に「製造業者」の役割になり、核心的な価値は設計や封入（TSMC）を行う側（NVIDIAなど）や発言権を持つエンドユーザーに移るでしょう。メモリメーカーの利益率は圧迫される可能性があります。
3. 投資のロジックの変化
- 以前は：メモリ株を購入する際には、市場のサイクル（価格の上昇/下落）を見ていました。
- 現在は：メモリ株を購入する際には、技術的な障壁（どのメーカーの積層技術が優れているか？どのメーカーがNVIDIAと深く結びついているか？）や生産能力の協力関係（TSMCからどれだけの封入枠を得られるか？）を見る必要があります。
- SK Hynix：MR-MUF技術の優位性とNVIDIAとの深い関係により、現在最も大きな利益を得ています。
- Samsung/Micron：追いつこうとしていますが、製造工程の変更や特許の壁に直面しています。
- TSMC：封入とベースダイの「門番」としての地位がより安定しており、HBM産業チェーンにおいて不可欠な存在です。
---
5. 未来の展望：HBMの次のステップは？
記事の最後にはいくつか注目すべきトレンドが挙げられています：
1. 積層層数の増加：12層から16層、さらにはそれ以上に増加する見込みです。これにより容量はさらに向上しますが、技術的な難しさとコストも急上昇します。
2. カスタマイズの主流化：HBMはますます「チップ」のようになり、「メモリストリップ」ではなくなるでしょう。異なる顧客（NVIDIA、AMD、Hu