一、核心内容の要約
この話題が爆発的に広まった原因は、インターネット上でよく見られるAIに関する陰謀論や終末論的なマーケティングではありません。OpenAIやAnthropicといった世界トップクラスのAIモデル開発企業で3年間にわたり核心的な予備トレーニングに携わってきた27歳の天才エンジニア、ジェイコブが、自身の職を辞めてソーシャルメディアに警告のメッセージを投稿し、その視聴回数は1億回を超えました。現在のトップAI企業は超高度な知能の開発に全力を注いでおり、これはまるで人類全体が命をかけた賭けのようなものです。核心的な研究開発チームの多くの人々は、AIが制御不能になることで10年以内に人類が絶滅する可能性があると本気で信じています。さらに衝撃的なのは、ジェイコブの元同僚たち、特にAIが人間に害を及ぼさないようにする責任者や経験豊富なセキュリティ研究者たちも公にこの意見を支持しており、10年以内に問題が発生する確率は10％を超えると述べています。また、職位が高いほどその危機感は強いとのことです。ジェイコブは11年前にネット上を震撼させたAIに関する記事を再び取り上げ、当時予言された「超高度な知能は人類を永遠に生き永らしめるか、あるいは絶滅に導くか」というSF的な予言が現実の分岐点に達していることを指摘しています。AIはより強力なAIの開発にも関与しており、この業界の加速する勢いは誰も止めることができないほどです。
---
二、詳細な解説
1. これは素人の無責任な発言ではない：この警告は「実際に原子爆弾を開発したエンジニアが安全弁が設置されていないと語る」ものだ
多くの人は「またAIの話題を利用したマーケティングの危険な煽りだ」と思うかもしれませんが、この終末論を唱えたジェイコブの経歴は非常に信頼できるものです。彼はケンブリッジ大学で数学を学び、GPT-4oやGPT-4.5の核心的な開発に直接関わっており、Anthropicに移ってからも同様に重要な大規模モデルの予備トレーニングを担当しています。つまり、ロケット開発の核心エンジニアと同じレベルの人物です。単なる外部のメディアの憶測ではありません。
さらに驚くべきことに、彼の投稿後、Anthropicの複数のセキュリティ関係者が個人的に彼を支持し、「10年以内に問題が発生する確率は10％を超える」と述べ、職位が高く最先端の研究に携わる人ほどその危機感が強いという事実も明かしました。これは、自分たちのビルのエレベーターに速度制限装置が設置されていないと言うマンションの管理人やメンテナンスエンジニアが集まって警告するようなもので、一般のネットユーザーの愚痴とは全く異なる重みがあります。
2. なぜAIを開発する人々は一般人よりも10倍もパニックになるのか？それは彼らがSFのような未来を目の当たりにしているからだ
一般人はAIを「テキストを書いたり、PPTを作ったり、写真を編集したりするツール」としてしか認識しておらず、変化の速さを実感していません。11年前に「未来のAIはより強力なAIを自ら開発し、賢さが増す正の循環を形成する」という記事がありましたが、2026年の今ではAIが自ら未知のソフトウェアを操作したり、人間が10年かかると予想されていたフェルマの大定理の証明を11日で完了させたり、80年間研究されてきた数学的な仮説を覆したりしています。新しく発表されたAIモデルのトレーニングや最適化の過程にも、前世代のAIが深く関与しています。このように、毎日実験室で研究に取り組むエンジニアたちは、一般人よりもはるかに先を見ており、当然パニックになるのです。
3. 誰もブレーキをかけることができない：AI業界は止まらない「加速する悪循環」に陥っている
最も荒唐無稽でありながら現実的なのは、誰もが加速しすぎると問題が発生することを知っていても、誰もが先に止まる勇気がないということです。AI業界はもはや止まらない正のフィードバックのサイクルに陥っています。より強力なAIはより多くの経済的価値を生み出し、そのお金でより多くのGPUを購入し、さらに強力な次世代のAIを開発することができます。企業間では、一歩遅れると競争相手のモデルが一歩進んで市場を奪われ、国家間では研究開発を止めると次世代の技術革新の主導権を他人に奪われてしまいます。誰もが滝に向かって進む船に乗っており、水流が速くなっていることを知りながらも、誰もが先にパドルを止める勇気がありません。もし自分だけがパドルを止めたとしても、他の人が止まらなければ自分だけが犠牲になります。個人では文明の進路を変えることはできません。
4. これは単なる「AIが仕事を奪う」という問題ではない：人類が今賭けているのは「永遠の命か、絶滅か」だ
私たちが普段議論する「AIがプログラマーやデザイナーの仕事を奪うかどうか」という問題は、このレベルの賭けに比べれば些細なことです。11年前の予言は今でも正しいままです。超高度な知能が登場した後には中間の選択肢はなく、人類は狭いバランス木の上を歩いており、二つの結末しかありません：
- もし私たちが超高度な知能を完全にコントロールできなければ、その知能の賢さは人間よりもチンパンジーを超えるほどになります。チンパンジーと人間の遺伝子の違いはわずか2％ですが、人間はロケットを作れますがチンパンジーはライターの使い方さえ理解できません。超高度な知能は人間を蟻のように見ており、蟻の巣を壊して建物を建てる際にも意図的に蟻を傷つけるわけではなく、単にその存在を無視しているだけです。その結果、人類は絶滅するでしょう。
- もし私たちが超高度な知能を人類にとって有利な方向に導ければ、それは人類がこれまで解決できなかったすべての問題（癌、老化、エネルギーの枯渇、小惑星の衝突など）を解決し、永遠の命を実現し、太陽系を超えて宇宙を探索することができます。これは地球の生命が誕生して以来、誰も経験したことのない新しい結末です。
5. 一般人は今すぐにパニックする必要はないが、「AIは単なる新しいツールだ」という固定観念から抜け出す必要がある
今すぐに荷物をまとめて山に隠れてAIの脅威から逃げる必要はありませんが、新しい技術に対する固定観念から抜け出す必要があります。過去の蒸気機関、インターネット、スマートフォンなどはすべて人類が完全にコントロールできるものでしたが、AIは人類が初めて作り出したもので、その成長速度は指数関数的であり、自らを進化させることさえできます。AIはもはや通常の技術とは異なる存在です。
私たちの世代はまさにこの文明の分岐点に立っており、最終的にはこれらのエンジニアたちの警告が杞憂に終わることを願っています。AIが本当に私たちを助けて、数百万年もの間解決できなかった問題を乗り越え、病気、老化、死といった生命を束縛してきた制約を打破することができるかもしれません。