虎嗅

AGIの臆病者ゲーム

原文:AGI的胆小者游戏

タイトル:AI巨頭が「ストップ」を呼ぶ?「人類の安全」に怯えるな——その背後には資金を燃やすゲームの「体面的な撤退」がある

皆さん、こんにちは。私はあなた方の財経ジャーナリストであり経済学者です。最近、AI業界で興味深い出来事がありました。OpenAIとAnthropicという2大モデル企業が突然、口を揃えて「AIが人類を破壊するかもしれない」と発言し、政府に対して規制の強化や研究開発の速度の遅らせを呼びかけ始めました。

一見すると、これらの巨頭は「人類の安全」のために商業的利益を犠牲にしているかのようです。しかし、現象の裏にある本質を見極める必要があります。私たち一般人にとっては、複雑なアルゴリズムにこだわる必要はありません。重要なのは、その背後にある「お金」と「策略」です。

今日は、このニュースを5つの側面から解説し、この「AI安全への不安」の裏に何が隠されているのか、そしてそれが私たち一般人や中国とアメリカの技術競争にとって何を意味するのかをお伝えします。

---

一、なぜ突然「怖い」と言い始めたのか?資金が底をつき、利益が出なくなったから

まず、OpenAIとAnthropicがなぜ突然「ブレーキをかけたのかを理解しましょう。本当にAIが反乱を起こすのを恐れているのでしょうか?

核心的な理由は、「収入が支出に追いつかず、終わりが見えない」ことです。

1. キャッシュフローの危機:AI大規模モデルは「金を飲み込む怪物」です。GoogleやAmazonのような大企業はAIを支えるために膨大な資金をチップの購入やデータセンターの建設に投じています。資本市場は「稼いだお金ではこの無底洞を埋めきれない。自由キャッシュフロー(企業が自由に使えるお金)がなくなりつつある」と懸念しています。

2. 上場の延期:これらの企業は年内に上場(IPO)を計画していましたが、現在は延期されています。なぜでしょうか?上場前には財務データ(例えば年間の定常収入ARR)を公開する必要があるからです。データが良くなかったり、成長が鈍化していたりすると、投資家は逃げてしまいます。現在、彼らは「沈黙期」にあり、データを公開することをためらっています。それはデータが魅力的でないからです。

3. 価格戦争による利益の減少:AIが生成するテキスト(トークン)の粗利益は高いですが、価格は50%以上下落しています。収入を維持するためには使用量を倍増させなければなりません。しかし、使用量が倍増しても利益が倍増するわけではありません。サーバーや電力、メンテナンスにはコストがかかるからです。簡単に言えば、「安く売るなら、もっと多く売らなければならず、かろうじて損益分岐点に達するか、損をする」のです。

4. 第二の成長曲線が見つからない:現在、AIで最も利益を上げているのは「コーディング」です。しかし、コーディング自体は収入を生まない。ただプログラマーの作業を速くするだけです。結果として、企業はAIでより多くのプログラマーを置き換え、より多くの人を解雇しています。コードは書かれますが、その下流で新たな収入が生まれてAIインフラを支えることはありません。これは、非常に効率的な織機を作ったのに、布を買う人がいなかったり、布が安すぎて高値を払いたがらなかったりして、結局織機の持ち主が餓死するようなものです。

要約すると、巨頭たちが「安全」を叫ぶのは、商業的なサイクルがうまく回っていないからです。このまま資金を燃やし続けると、投資家は資金を引き上げ、株価は崩壊します。「ストップ」と叫ぶのは、「自分たちには無理があるのではなく、政府が人類の安全のために止めさせたのだ」という言い訳を見つけるためです。

---

二、巧妙な「政治的な言い訳」:商業的な困難を「道徳的な高み」として包装する

もし「資金がなくなり、休みたい」と直接言えば、資本市場や競争相手の前で恥ずかしいことになります。しかし、「人類の安全のためだ」と言えば、全く違う話になります。

これがいわゆる「体面的な撤退」です。

著者は非常に素晴らしい例を挙げています。これは冷戦時代の米ソの「中距離ミサイル条約」に似ています。当時、ソビエト連邦がもう持ちこたえられなくなり、ミサイルの破壊を提案しました。表面上は「世界平和」のためですが、実際には「もう耐えられない、戦争をやめよう」という意味でした。

OpenAIとAnthropicの現在の戦略はおそらく以下の通りです:

1. 政府に圧力をかける:アメリカ政府に「国家安全」や「人類の生存」を理由にAIの発展を制限する政策を出させる。

2. 不可抗力を理由に責任を転嫁する:政府が制限政策を出せば、「私たちが拡大したくないわけではなく、政府が許さないのだ」と投資家に言える。

3. 競争相手を攻撃する:中国の大規模モデルが急速に進化している場合、中国を「人類の安全を無視して危険な技術を開発している」と非難し、国際的な世論で中国を孤立させ、西洋諸国に中国のAIに対する制裁を促す。

簡単に言えば、これは2人のボクサーが疲れていて、一方が突然「審判!相手の攻撃が激しすぎて人が死ぬかもしれない。試合を一時停止してください!」と叫ぶようなものです。審判が笛を吹けば、彼は息をつくことができ、さらに相手を「野蛮だ」と非難することができます。

---

三、トランプの「勝利至上主義」とAI巨頭の「ブレーキ」:政治的な駆け引き

ここに大きな変数があります:トランプです。

もしAI巨頭が本当に「ブレーキをかけたい」と思っているなら、トランプの反応を見なければなりません。トランプの政治的な考え方は「アメリカ第一」、「勝者総取り」です。

1. 政績への依存:トランプは「アメリカのAIが世界一になる」ことを最大の政績の一つとしています。もし今になって「AIは危険だから速度を落とす」と言ったら、彼の政績はどうなるでしょうか?中間選挙はどう戦うのでしょうか?

2. 政治的な材料:トランプには「敵」と「勝利」が必要です。AIの開発が遅れると、アメリカの技術的な覇権を示す場を失います。

3. 利益の衝突:トランプはNVIDIAのエンドリュー・シュミット(AIチップのトップ)と良好な関係にあります。NVIDIAはAI巨頭にチップを売って利益を上げています。もしAI巨頭が購入をやめたら、NVIDIAの株価は下落します。トランプの「アメリカの技術的な勝利」という物語は崩れます。

したがって、トランプはおそらく簡単に「速度を落とす」ことに同意しません。彼は「人類の安全なんて関係ない。私が求めているのはアメリカの勝利だ!AIは加速しなければならない。足を引っ張る者は裏切り者だ!」と言うでしょう。

これは、AI巨頭が「政治的な圧力」で自分たちに退路を見つけようとしても、壁にぶつかる可能性があることを意味します。トランプが求めているのは「加速」であり、「ブレーキ」ではありません。

---

四、中国の「死を恐れない」精神:遅れると打たれるという恐怖が原動力

記事には深い洞察があります。中国の大規模モデル企業は遅れておらず、継続的に追いついており、差は3〜6ヶ月程度です。なぜ中国はこんなにも「競争的」なのでしょうか?

核心的な動機は、「歴史的な傷から来る生存への恐怖」です。

1. 「遅れると打たれる」という思考:過去100年以上、中国は技術で遅れていたために虐げられてきました。そのため、AIという「強力な武器」が登場したとき、中国人の最初の反応は「AIが人類を破壊するかどうか」ではなく、「私が持っていて相手が持っていなければ、私が相手を守れる。相手が持っていて私が持っていなければ、相手がそれで私を殺すかもしれない」というものでした。

2. 「一人を倒して二人を得る」という競争心:これは悲壮な競争心です。AIが未来の核心競争力だと皆が考えているので、誰が先に止まれば、その人が将来完全に排除されるかもしれません。

3 価格戦争での混乱:中国の企業はよく価格戦争を行います。これは「量で価格を押し下げる」戦略で、低コストの優位性を利用して競争相手の利益を圧迫します。これは典型的な「消耗戦」で、相手を疲弊させたり、少なくとも簡単には利益を上げさせないようにすることを目的としています。

結果として、OpenAIやAnthropicが「ストップ」と叫んでも、中国の企業はおそらく止まりません。中国にとって「ストップ」は「死」を意味し、「走る」ことが「生きる」ことを意味するからです。このような非対称的な競争心がAIの軍備競争を続けさせるでしょう。

---

五、一般人への教訓:これは「臆病者のゲーム」だ。だまされてはいけない

最後に、著者は中国のAI関係者や私たち一般人に2つのアドバイスをしています。これは現在の状況を理解するためのヒントでもあります:

1. 狭い道での対決では勇者が勝つ:

現在のAI競争は、単一の車線で向かい合っている2台のトラックがアクセルを踏み込んでいるようなものです。どちらが先にアクセルを緩めるか(研究開発を遅らせたり、投資を減らしたり)が勝敗を決めます。OpenAIとAnthropicはアクセルを緩めたいと思っていますが、中国はそうしません。ですから、このゲームはまだ終わっておらず、さらに激しくなるかもしれません。

2. 「普遍的な価値観」の詐欺に警戒する:

欧米諸国が「人類の安全」や「グローバルな倫理」を理由に開発の遅れを勧めてきたら警戒しましょう。これは善意からではなく、彼らが自分たちの弱点(例えばコストが高すぎる、ビジネスモデルが不明確、政治的な圧力など)を認識し、「道徳的な拘束」であなたの発展を制限しようとしているからです。

歴史的な教訓:かつてカルタゴ人は武器を降ろして平和を求めましたが、結果としてローマに完全に滅ぼされました。技術競争において、「安全」は強者が弱者を縛るための縄です。

一般人への影響:

  • 投資の観点から:AI関連のセクターの変動は大きくなるでしょう。巨頭たちが「ストップ」と叫ぶと短期的に株価が下落するかもしれませんが、長期的には中国が止まらないため、競争は続き、技術の進化は遅くなりません。AIバブルが崩れるという論調を盲信したり、高値で購入したりしないでください。
  • 職業の観点から:AIは雇用に影響を与えます。コーディングやコンテンツ制作、デザインなどの分野では、AIによる置き換えが強まります。一般人はAIが人類を破壊することを心配するのではなく、AIを使いこなすことを学び、AIに置き換えられるのではなく、AIを使える人になることが必要です。
  • 心構えの観点から:冷静さを保ちましょう。「AIが人類を破壊する」という恐怖に騙されたり、「AIが万能だ」という熱狂に惑わされたりしないでください。AIは道具に過ぎず、その運命はそれを使う人や背後にある国家の競争戦略によって決まります。

一言でまとめると:

OpenAIとAnthropicが「ストップ」と叫ぶのは、AIが反乱を起こすのを恐れているからではなく、自分たちが破産するのを恐れているからです。中国は止まりません。なぜなら、遅れると打たれるからです。この「臆病者のゲーム」は続いており、私たち一般人は背後にある商業的な計算を見極め、技術の波に打たれる準備をしなければなりません。