Résumé des idées principales
L’article souligne que l’intelligence artificielle actuelle est excellente pour effectuer des prédictions précises dans le cadre des connaissances scientifiques existantes (comme une carte détaillée mais incapable de guider une direction), mais elle est incapable de provoquer de véritables « changements de paradigme », c’est-à-dire de découvertes révolutionnaires capables de remettre en question les règles scientifiques fondamentales (comme la théorie de la relativité ou la théorie de l’évolution). L’auteur met en garde contre une dépendance excessive à cette technologie, qui pourrait mener à un risque de « science hors normes » : nous avancerions plus rapidement dans les modèles existants, mais perdreions notre capacité à poser de nouvelles questions. Pour changer cela, il est nécessaire de développer des systèmes d’IA « visionnaires », capables de penser en sortant des cadres traditionnels. De plus, il faudrait utiliser l’IA pour étudier les mécanismes fondamentaux de la science elle-même (la métascience), afin de créer des conditions propices aux changements de paradigme.
1. L’allégorie de la carte : pourquoi l’IA ne peut pas faire de « grandes innovations »
L’auteur utilise deux exemples de cartes pour illustrer les limites de l’IA :
- La carte parfaite de Borges : une carte de la taille d’un empire, avec 100 % de précision dans les détails, mais totalement inutile pour se repérer. L’IA actuelle, entraînée sur de vastes quantités de données (des téraoctets de textes, des structures de protéines), est capable de prévoir avec précision des résultats dans le cadre des théories existantes (comme AlphaFold pour prédire la structure des protéines), mais elle ne peut pas « redessiner la carte ».
- La révolution de la carte du métro de Londres : avant 1933, les cartes étaient dessinées avec une précision géographique extrême, ce qui rendait difficile la compréhension de l’organisation des stations (centrales bondées dans le centre-ville contre zones résidentielles peu densément peuplées). Harry Beck a abandonné cette précision géographique pour représenter les lignes en couleurs et les stations à intervalles réguliers, rendant la carte beaucoup plus claire et pratique. C’est un exemple de changement de paradigme ; l’IA, elle, ne peut pas se débarrasser volontairement des cadres existants pour créer de nouvelles structures utiles.
2. La « science hors normes » : le piège invisible de l’IA
La « science hors normes » désigne une situation où notre capacité à prédire dans les modèles actuels augmente, mais notre capacité à poser de nouvelles questions diminue. L’auteur cite plusieurs exemples :
- L’épidémie de choléra à Londres en 1849 : le médecin John Snow a utilisé des données pour dessiner une carte montrant que les taux de mortalité étaient plus élevés dans les zones basses, et a attribué cela à l’existence d’un « air malsain ». Si l’IA avait été utilisée sur ces données, elle aurait pu prédire avec précision les prochaines épidémies, mais elle n’aurait jamais identifié la cause réelle (le contamination de l’eau par des bactéries, résolue plus tard par les travaux de Pasteur).
- Le projet GNoME de DeepMind : il a découvert 2,2 millions de nouveaux matériaux, mais la plupart étaient simplement des variations de structures déjà connues (par exemple, l’utilisation d’éléments voisins dans le tableau périodique).
- Les limites de la recherche assistée par IA : les chercheurs utilisant l’IA publient plus de articles et reçoivent davantage de citations, mais leur champ de recherche s’est réduit de 5 %. L’IA les oriente vers des domaines déjà riches en données, plutôt que vers de nouvelles directions.
Le risque est de confondre une plus grande quantité de détails avec une compréhension plus profonde, ce qui nous empêche de découvrir des idées révolutionnaires capables de changer le monde.
3. Les clés du changement de paradigme : comment les humains y parviennent-ils ?
L’auteur utilise les exemples d’Einstein et Darwin pour en dégager trois éléments essentiels :
- La priorité de la simplicité : Einstein a remplacé la théorie complexe de l’« éther » par deux principes simples (la constance de la vitesse de la lumière dans tous les référentiels) ; Maxwell a unifié l’électricité et le magnétisme avec quatre équations. De bons paradigmes sont souvent simples et peuvent expliquer un grand nombre de phénomènes.
- Les analogies interdisciplinaires : Darwin s’est inspiré des théories économiques de Malthus pour développer sa théorie de l’évolution ; Feynman a découvert que le flux thermique, les fluides et l’électrostatique partageaient les mêmes équations. Les analogies entre différents domaines peuvent ouvrir de nouvelles perspectives.
- Le courage de sortir des cadres : Einstein, qui n’était pas un universitaire traditionnel, n’a pas été contraint par les idées préconçues sur l’« éther » ; en revanche, le génie mathématicien Poincaré n’a pas réussi à découvrir la théorie de la relativité malgré des résultats mathématiques similaires.
- La tolérance à l’incomplétude : La théorie de la sélection naturelle de Darwin manquait initialement de mécanismes explicites (il a proposé une théorie erronée, le « panspermisme »), mais son idée fondamentale était suffisamment puissante pour être complétée par les découvertes ultérieures en génétique.
4. Comment construire des systèmes d’IA « visionnaires » ?
Pour que l’IA puisse favoriser les changements de paradigme, l’auteur propose plusieurs approches :
- La quête de la simplicité : Le système d’IA Feynman a utilisé une méthode de « régression symbolique » pour trouver les équations les plus simples expliquant les données, découvrant ainsi 100 nouvelles équations dans les manuels de physique de Feynman (29 de plus que les systèmes précédents).
- La recherche d’analogies interdisciplinaires : L’IA peut identifier des similitudes entre différents domaines à partir de grandes quantités de données (comme Darwin l’a fait en reliant l’économie et la biologie).
- La combinaison d’expériences physiques et d’intelligence artificielle : Des systèmes d’IA multimodaux (capables de traiter des informations visuelles, tactiles et kinétiques) ou des laboratoires autonomes (IA + robots) peuvent permettre à l’IA de combiner des idées abstraites avec des données du monde réel.
- La collaboration entre humains et IA : Les humains disposent d’une capacité à interagir sur plusieurs plans (voir, entendre, toucher, penser), tandis que l’IA peut analyser de grandes quantités de données. Cette combinaison peut permettre de découvrir des analogies inaccessibles à l’IA seule.
5. La métascience : utiliser l’IA pour étudier la science elle-même
Pour que l’IA puisse véritablement favoriser les changements de paradigme, il est nécessaire de comprendre comment fonctionne la science elle-même. C’est ce qu’on appelle la « métascience » :
- La simulation des environnements scientifiques par l’IA : Il est difficile d’effectuer des expériences contrôlées dans des laboratoires réels (par exemple, de comparer l’innovation entre de petites et de grandes équipes), mais l’IA peut simuler différents contextes de recherche pour identifier les conditions favorables aux changements de paradigme.
- L’enseignement tiré de l’histoire : Des institutions comme Bell Labs ou Xerox PARC ont produit des découvertes révolutionnaires car elles étaient des équipes petites et disposaient de structures organisationnelles permettant de mener des recherches parfois considérées comme inutiles. L’IA peut simuler ces conditions pour en vérifier l’efficacité.
- Conclusion clé : L’IA ne provoquera pas automatiquement de changements de paradigme ; nous devons concevoir activement des environnements propices à l’innovation (par exemple, des incitations institutionnelles ou des structures de recherche adaptées), et l’IA peut nous aider à identifier ces conditions.
Conclusions
L’article n’est pas contre l’IA, mais souhaite qu’elle passe d’un outil de prévision à un partenaire innovant. Pour cela, il est nécessaire non seulement d’améliorer les technologies d’IA, mais aussi d’utiliser cette technologie pour étudier les principes fondamentaux de la science. En effet, pour que l’IA puisse nous aider à créer de nouvelles cartes, il faut d’abord savoir quel type de carte est vraiment utile.