核心内容の要約
この記事の主な論点は、現在のAIは既存の科学的枠組みの中で精密な予測を行うことに長けている（細部が詰め込まれたものの方向性を示さない地図のような）が、「パラダイムシフト」——つまり科学の法則を根本から書き換えるような革新的な発見を生み出すことはできない、というものです。記事は、このようなAIに過度に依存すると「超常識的な科学」のリスクが生じると警告しています。つまり、既存のモデルの中でより高速に処理できるようになる一方で、新しい問題を提起する能力を失ってしまうのです。この状況を変えるためには、「先見の明のあるAI」を構築する必要があります。そのAIは枠組みを超えて考えることができるようにならなければならず、同時にAIを使って科学自体の仕組み（メタサイエンス）を研究し、パラダイムシフトを促進する条件を作り出す必要があります。
1. 地図の隠喩：なぜAIは「大きな革新」を生み出せないのか
記事では、AIの限界を説明するために2つの地図の例を挙げています：
- ボルヘスの完璧な地図：帝国と同じ大きさの地図で、細部が100％正確ですが、道を探すためには全く役立ちません。現在のAIも同様で、膨大なデータ（例えば数兆行のテキストやタンパク質の構造）を使って訓練されており、既存の枠組み内での結果を精密に予測することはできますが、「新しい地図」を描くことはできません。
- ロンドン地下鉄の地図の革命：1933年以前の地下鉄の地図は地理的に正確に描かれていましたが、市中心部の駅が密集しており、郊外が広範囲を占めていたため使いづらかった。ハリー・ベックは地理的な正確性を捨て、色分けされた線路と均等に配置された駅で地図を描き直し、それが一気に使いやすくなりました。これがパラダイムシフトの例です。しかしAIはベックのように古い枠組みを捨てて新しい、より有用な構造を創造することができません。
2. 「超常識的な科学」：AIの隠れた罠
「超常識的な科学」とは、既存のモデル内での予測能力は強くなる一方で、新しい問題を提起する能力が弱まっている状態を指します。記事ではいくつかの例を挙げています：
- コレラの例：1849年にロンドンでコレラが発生した際、医師のファールは地図を作成し、低地帯での死亡率が高いことを発見し、「瘴気（有害な空気）」が原因だと考えました。AIでファールのデータを訓練すれば、次にどこで発生するかを精密に予測できるでしょうが、真の原因（後にバスティルの細菌理論によって解明された汚染された水）は決して見つからないでしょう。
- DeepMindのGNoME：220万種類の新素材を発見しましたが、そのほとんどは既知の構造の元素の置き換えに過ぎませんでした（例えば周期表上の隣接する元素の置き換え）。
- AIを使った研究の限界：AIを利用した科学者は論文をより多く発表し、引用も高いですが、研究のテーマの範囲は5％しか拡がっていません。AIは彼らをデータが豊富な既存の分野に集中させてしまい、新しい方向性を探すことを妨げています。リスクは、「より多くの詳細」を「より深い理解」と誤解することであり、世界を変えるような大きなアイデアを見逃してしまうことです。
3. パラダイムシフトの秘訣：人間はどのようにそれを実現したのか？
記事ではアインシュタインやダーウィンの例を挙げて、パラダイムシフトのための3つの鍵となる要素をまとめています：
- シンプルさを優先する：アインシュタインは2つの原理（物理法則がすべての参照系で同じであり、光速が一定である）を使って複雑な「エーテル」理論を置き換えました。マックスウェルは4つの方程式で電気と磁気を統一しました。良いパラダイムは通常シンプルであり、より多くの現象を説明することができます。
- 異分野間の類推：ダーウィンはマルサスの経済学（資源の競争）からインスピレーションを得て進化論を提唱しました。ファインマンは熱流、流体の流れ、静電気が同じ方程式で表されることを発見しました。異分野間の類推によって新しい視点が生まれます。
- 枠組みを超える勇気：アインシュタインは特許局の職員（学術界の外部の人）であり、「エーテル」という伝統的な概念に縛られていませんでした。一方、数学の天才ポンカレは「エーテル」を受け入れることができず、同じ数学的結果を導き出しながらも相対性理論を発見することができませんでした。
- 不完全さを許容する：ダーウィンの自然選択理論は当初遺伝メカニズムを欠いていました（彼は誤った「パンセシズム」を提唱しましたが、その核心的な考え方は十分に強力であり、遺伝学が登場するまで詳細が補われることはありませんでした。
4. 「先見の明のあるAI」を構築するには？
AIにパラダイムシフトを促すためには、以下のようなアプローチが提案されています：
- シンプルさを追求する：AIのFeynmanシステムは「記号回帰」を使ってデータを最もシンプルな方程式で説明し、以前のソフトウェアよりも29個多くのファインマン物理学の講義の方程式を再発見することに成功しました。
- 異分野間の類推を探す：AIは膨大なデータの中で異なる分野間の類似性を見つけ出すことができます（例えばダーウィンが経済学と生物学を結びつけたように）。
- 物理的な体験を組み合わせる：マルチモーダルAI（視覚、触覚、運動を同時に処理する）や自律型の実験室（AI+ロボット）を使うことで、抽象的なアイデアと現実世界のフィードバックを組み合わせることができます（例えばアインシュタインが光の上を乗ると想像した思考実験のように）。
- 人間とAIの協力：人間はマルチモーダルな能力（見る、聞く、触れる、考える）を持ち、AIは膨大なデータを処理する能力を持っています。両者を組み合わせることで、AIだけでは見つけられない類推が可能になります。
5. メタサイエンス：AIを使って「科学自体」を研究する
AIにパラダイムシフトを促すためには、まず科学がどのように機能するかを理解する必要があります。これが「メタサイエンス」です：
- AIによる科学環境のシミュレーション：実際の実験室では（例えば小規模なチームと大規模なチームのどちらが革新を生み出しやすいかをテストする）対照実験を行うことはできませんが、AIは異なる科学研究環境（チームの規模、階層構造、コミュニケーションモデル）をシミュレートし、パラダイムシフトを促進する条件を探ることができます。
- 歴史的な経験からの教訓：ベル研究所やゼロックスPARCのような機関は革新的な成果を生み出していますが、それは小規模なチームであり、「無意味に思える」研究を行うための制度があったからです。AIはこれらの条件をシミュレートし、その有効性を検証することができます。
- 重要な結論：AIだけではパラダイムシフトは自動的に起こりません。私たちは革新を促進する条件（例えば組織のインセンティブやチーム構造）を積極的に設計する必要があり、AIはそのような条件を見つけ出すのを助けてくれます。
まとめ
この記事はAIに反対しているわけではなく、AIを「予測ツール」から「革新のパートナー」へと変えたいと考えています。