AIの「自己創造」機能についての深層分析：それは神性への階段なのか、それとも資本の新たな戦略なのか？
皆さん、こんにちは。私は財経ジャーナリストであり経済学者です。
最近、AI業界が再び大きな話題になっています。OpenAIの創業者がGPT-6が「汎用人工知能（AGI）」の門戸に近づいていると誇示したばかりで、新たなキーワードが登場し、AGIの注目を大きく奪いました。そのキーワードとはRSI（Recursive Self Improvement、再帰的自己改善）です。
簡単に言えば、AIが人の指示に従うだけでなく、自らコードを書き、実験を行い、自分自身の「脳」を改良し、その改良結果を次世代のより強力なモデルに伝えるようになったということです。これは、学生が自分で問題を解き、自分で問題集を作り、自分で間違いを訂正し、自分で学習方法を最適化し、次の学生に教えるようなものです。その速度はどんどん速くなり、最終的には人間には何をしているのか理解できなくなるほどです。
この記事の核心的な見解は非常に鋭いものです：RSIの技術的進歩は確かに実際に起きているが、それをめぐる「終末論的な恐怖」や「安全に関する話題」は、実際には巧妙に仕組まれた商業的な駆け引きに過ぎない。一方でAIの巨頭たちは「危険だから速度を落とせ」と叫びながら、もう一方ではチップの販売やデータセンターの建設、資金調達を熱心に行っています。
以下では、この長い記事を5つの側面に分けて、その背後にある論理をわかりやすく説明します。
---
1. 技術的な真実：AIは本当に「自己進化」を始めているのか？
まず、「サイエンスフィクション」と「現実」を区別する必要があります。RSIという概念自体は新しいものではありません。1965年に数学者のI.J. Goodが「知能の爆発」という概念を提唱しています。もし機械が自分自身を作り、新しい機械が古い機械よりも賢ければ、知能のレベルは雪だるま式に指数関数的に増加するというものです。
しかし、現在のRSIは以前の大言壮語とは異なり、具体的な実現レベルがあります。
上海交通大学や清華大学などの研究機関によると、RSIはL1からL5の5つのレベルに分けられています：
- L1-L2（初級）： AIは人間が出した改善案を実行するか、自分で小さな改善策を見つけます。これはインターンが上司の指示に従って改善するようなものです。
- L3-L4（中級）： AIは自主性を持ち始めます。自分がどのような経験を得るべきかを決定し、環境からのフィードバックを永続的な変更に変えることができます。これは熟練した労働者がプロセスに問題があると気づき、自ら最適化を行うようなものです。
- L5（上級/究極）： これが最も恐ろしい段階です。AIはタスクを改善するだけでなく、「改善メカニズム」自体も改良します。これは、後続の検索方法や結果の評価の基本的な論理を変更することができるということです。
現在の状況は以下の通りです：
OpenAIとAnthropicは実際に大きな一歩を踏み出しています。
- OpenAI は「自動化された研究インターン」を実現しました。彼らのデータによると、1人の人間の労働日あたりにAIエージェントは3.1日分の作業をこなせるようになりました。つまり、AIの研究開発効率は人間の研究者を超えています。
- Anthropic はさらに積極的で、弱いモデル（Sonnet 5）を使って強いモデル（Opus 4.8）のセキュリティ対応を行いました。その結果、60時間以内に50以上のシナリオをテストし、非常に少ないデータで強いモデルのセキュリティ性能をほぼ正式版に近いレベルに引き上げました。
結論： AIは確かに「AIを作り出している」が、まだ「制御不能」になっているわけではありません。現在は主にソフトウェアシステムのレベルでパッチを当てているだけです（例えばコードの最適化やタスクスケジューリングの調整）。しかし、これは巨大な進歩であり、研究開発の速度が人間の線形のコントロールを超えつつあります。
---
2. 安全性のパラドックス：なぜ「ブレーキ」と「アクセル」を同じ足で踏むのか？
記事の中で最も興味深いのは、AI巨頭たちの「言動の不一致」を暴露している部分です。
AnthropicのCEOであるDario AmodeiやOpenAIの科学者たちは、AIの危険性を強調しています。彼らはAIを「異星の知性」に例え、制御しなければネットワーク攻撃を起こしたり文明を破壊したりするかもしれないと警告しています。そのため、業界に「速度を落とすよう」呼びかけています。
しかし、実際にはどうなっているのでしょうか？
- NVIDIAのCEOである黄仁勋（ジェフ・ダンシー）は反論しています。「黒か白かの二分法はやめよう。安全と革新は矛盾しない」と。**
- さらに皮肉なことに、「危険だから速度を落とせ」と叫ぶ企業こそが、最も利益を上げており、最も急激に拡大しているのです。
ここには大きな論理的な循環があります：
1. 恐怖を煽る：「AIは危険で、制御不能になるかもしれない。」
2. 解決策を提案する：「これらの危険なAIを監視し防御するために、より強力なAIが必要だ。」
3. リソースの需要：「そんな強力な防御AIを作るためには、より多くのチップ、より多くの電力、より大きなデータセンターが必要だ。」
4. 商業的な結果： その結果、数百億ドルの資金調達や数万枚のGPUで構成されるクラスター、巨大なインフラプロジェクトが「人類の安全を守るために必要なインフラ」として包装されています。
簡単に言えば： これはブレーキパッドを売る人が「この車のブレーキは悪い、いつでも事故が起こる」と言いながら、最新で最も高価で、より多くの燃料が必要なスーパーブレーキシステムを買うように勧めるようなものです。
誰が利益を得ているのでしょうか？
巨大なセキュリティチーム、閉鎖的なデータセンター、十分な監査リソースを持つトップ企業です。なぜなら、セキュリティ審査のコストは非常に高く、中小企業やオープンソースコミュニティには手が届かないからです。このような「安全に関する話題」は実際には競争相手を排除し、巨頭の独占地位を固めるための防衛壁なのです。
---
3. 利益の駆け引き：終末論の背後にある「計算能力の分配戦」
AIがそんなに危険なのであれば、なぜみんながすぐに止めないのでしょうか？それは止めることが未来の主導権を失うことを意味するからです。
記事によると、AIのリスクをどのように評価し、どのような能力を制限するか、次世代のモデルを誰が訓練できるかというルールの決定権は、いくつかの先端研究所に握られています。これらの研究所は技術の推進者であり、リスク基準の定義者でもあります。
- 巨頭（OpenAI、Anthropicなど） にとっては、「高リスク」という話題を維持することで、巨額の投資の正当性を証明し、規制当局の過度な介入を防ぐ必要があります。
- ハードウェアメーカー（NVIDIAなど） にとっては、終末論が真実になれば政府が計算能力の承認やデータセンターの禁止を行う可能性があり、NVIDIAのGPUの売り上げが減ることになります。金を掘り出すか怪物を掘り出すかにかかわらず、誰かが掘り続けている限り、シャベルには市場があるのです。カードの購入やデータセンターの建設を妨げる声は、ハードウェア産業チェーンの雇用を脅かすものです。
したがって、この口論の背後にあるのは、「人類が破壊されるかどうか」ではなく、次のラウンドの計算能力、資本、産業利益の分配方法です。
- AI企業 は「神を創造する者」として、一方で神が制御不能になる可能性を警告しながら（コンプライアンスと独占のため）、もう一方でより多くのリソースを求めています（商業的なリターンのため）。
- ハードウェア企業 は神が永遠に進化し続けることを望んでいます。なぜなら進化にはより多くのシャベルが必要だからです。
これは典型的な**「どんなことが起こっても自分に有利だ」という資本の論理です。
---
4. 技術的なボトルネック：「知能の爆発」まであとどれくらい？
物語は非常に恐ろしいものですが、技術的な問題点も冷静に見る必要があります。現在のRSIは急速に進歩していますが、真の「超知能（ASI）」に到達するまでにはいくつかの大きな障害があります：
1. 破壊的な忘却と保守的な更新： AIは新しい知識を絶えず吸収する必要がありますが、古い能力を失ってはなりません。更新が急すぎるとAIは「記憶を失い」、話し方や歩き方を忘れてしまいます。逆に保守的すぎると新しいことを学べません。このバランスを取るのは非常に難しいです。
2. 研究判断力の欠如： AIにコードの最適化をさせる場合、基準は明確です（正常に動作すればよい）。しかし、科学研究をさせる場合、失敗した実験が「方向が間違っているのか」か「さらに探求する価値があるのか」を判断する必要があります。このような直感や科学的なセンスは現在、人間に大きく依存しています。
- *例：* 真の科学的な突破は、人類がまだ考えたことのない奇妙な問題を提起することです。AIは現在、「0から1」への創造的な質問をすることはできません。AIは「1から100」への最適化には長けています。
3. 時間予測の違い： 専門家たちの予測は大きく異なります：
- 楽観派（Thinking Machines）：3〜4年。
- 中間派（Millidge）：約5年。
- 保守派（O’Neill）：5〜10年。
このような違いは、現在の技術的な道筋にはまだ不確実性が多く、ASIへの確かな「高速道路」がないことを示しています。
結論： RSIは超知能への入口ですが、エレベーターではありません。AIをより速く動かすことはできますが、自分でどこへ行くかを決めたり、交通規則を書き換えたりするレベルにはまだ達していません。
---
5. 総括：この「RSI」の波にどのように対応すべきか？
最後に、この記事の核心的な洞察をまとめて、一般の人々に明確な判断の枠組みを提供します：
1. 技術は確かに存在するが、誇張されている： AIはRSIを通じて自己進化を加速しており、研究開発の効率は大幅に向上しています。しかし、「AIが人間を超える超知能を自ら創造する」というのは長期的なビジョンであり、すぐに実現するわけではありません。
2. 恐怖はビジネスであり、安全は障壁である： 巨頭たちは「終末リスク」を煽ることで、一方でより多くの規制免除を得ようとし（「私たちだけが管理できるから」）、もう一方で巨額の資本投資の必要性を証明しようとしています。これは巧妙に包装された恐怖のビジネスです。
3. 利益の連鎖は明確である：
- AI企業 は「知能のプレミアム」と「独占地位」から利益を得ています。
- ハードウェア企業 は「計算能力の拡大」から利益を得ています。
- 投資家 は「未来への期待」から利益を得ています。
- 一般の人々 は、「終末論」に怯えたり、「技術の神話」に騙されたりしないように注意する必要があります。
一般の人々へのアドバイス：
- 過度に恐怖する必要はない： 現在のAIの「自己改善」は主に人間を支援し、プロセスを最適化するためのものであり、「人間を支配する」までにはまだ長い