Résumé des points clés
Au cours de la dernière décennie, le monde de la technologie mondiale est passé d'une quête d'intelligence artificielle générale (IAG) capable d'accomplir la plupart des tâches humaines à un objectif plus ambitieux : l'intelligence artificielle supérieure (ASI). L'ASI n'est pas un seul "cerveau superpuissant", mais une "intelligence collective" capable de dépasser les capacités combinées de dizaines de milliers d'experts de premier plan. Elle s'appuie sur les avantages physiques des systèmes numériques (tels que des vitesses de traitement extrêmement élevées, une mémoire infinie et une collaboration efficace), tout en étant cependant limitée par les lois de la physique. L'article analyse également les quatre voies technologiques menant à l'ASI, les principaux obstacles à son évolution, ainsi que les problèmes de mesure et d'alignement des normes de sécurité qui doivent être résolus dans l'ère post-IAG.
I. Qu'est-ce que l'ASI ? En quoi diffère-t-elle de l'AGI ?
L'IAG est un "athlète universel" au niveau médian des humains, capable d'accomplir la plupart des tâches cognitives dans différents domaines (par exemple, écrire du code et rédiger des essais). L'ASI, quant à elle, a des exigences bien plus élevées : elle doit dépasser de manière stable les performances combinées de dizaines de milliers d'experts de premier plan dans presque tous les domaines (par exemple, être plus performante qu'une équipe mondiale de médecins, de scientifiques et d'ingénieurs réunis).
Avantages "innés" de l'intelligence numérique :
- Vitesse élevée : les neurones biologiques ne peuvent transmettre que quelques centaines de signaux par seconde, tandis que l'intelligence numérique peut traiter des milliards d'informations par seconde, comme des fibres optiques ;
- Mémoire fiable : elle n'oublie rien et peut mémoriser avec précision toute l'information sur Internet ;
- Facilité de reproduction : un modèle d'IA bien entraîné peut générer instantanément des millions de copies identiques ;
- Communication fluide : les IA peuvent partager directement les détails de leur pensée sans besoin de langage, évitant ainsi toute malentendu.
Mais l'ASI a également ses "limites physiques" :
- Limitation de la vitesse de la lumière : la transmission d'informations entre les nœuds IA mondiaux ne peut dépasser la vitesse de la lumière ;
- Consommation d'énergie : le calcul nécessite de l'énergie et ne peut pas être totalement économe ;
- Contraintes temporelles : pour étudier des phénomènes tels que le climat ou l'économie, l'IA doit attendre que le temps réel s'écoule (elle ne peut pas accélérer les expériences physiques).
II. Les quatre voies technologiques menant à l'ASI
L'ASI ne surgira pas grâce à une seule invention ; elle se développera plutôt par la convergence de plusieurs approches :
1. Augmentation de la puissance de calcul et des données : les dix dernières années ont montré que plus le nombre de paramètres des modèles, la quantité de données et la capacité de calcul sont élevés, plus les performances de l'IA sont fortes. Aujourd'hui, on augmente non seulement la puissance de calcul pendant l'entraînement, mais aussi lors du raisonnement (par exemple, l'IA utilise davantage de ressources pour réfléchir aux problèmes complexes, à l'instar des humains qui élaborent des plans). Cependant, cette approche pourrait rapidement rencontrer des limites en termes de ressources (par exemple, un calcul coûteux comme le prix de consommation d'électricité d'une ville entière).
2 Renouvellement des architectures algorithmiques : les modèles actuels tels que les Transformer présentent des limitations (comme une lenteur lors du traitement de textes longs). De nouvelles architectures, comme les "modèles d'espace de état", tentent de résoudre ces problèmes. Un élément clé est la création de "modèles du monde" qui permettent à l'IA de comprendre les relations causales dans le réel (par exemple, de savoir que pousser une table la fait bouger, et non seulement d'identifier des corrélations dans les textes). Si cette voie s'avère impasseuse, on pourrait recourir à des architectures plus proches du cerveau humain, comme les réseaux de neurones pulsatiles, ou permettre à l'IA d'apprendre en interagissant avec le monde réel (par exemple, des robots qui découvrent eux-mêmes les lois physiques).
3 L'IA se mettant à niveau elle-même : c'est probablement la voie la plus prometteuse pour un bond en avant dans les performances de l'IA. L'IA pourrait alors développer ses propres technologies (concevoir des puces, optimiser des algorithmes, générer des données d'entraînement, etc.). Lorsque son rythme de progression dépassera celui des ingénieurs humains, elle entrerait dans un cercle vertueux où elle deviendrait de plus en plus forte et améliorerait constamment ses capacités.
4 Collaboration de multiples intelligences : lorsque chaque IA atteindra le niveau médian humain, il sera possible de les reproduire en masse à l'aide des ressources cloud pour qu'elles travaillent ensemble (par exemple, certaines s'occuperaient des mathématiques et d'autres de la physique). Cela équivaudrait à la collaboration simultanée de millions d'experts, permettant d'obtenir une intelligence bien supérieure à celle d'un individu.
III. Les quatre principaux obstacles sur le chemin
L'évolution vers l'ASI n'est pas sans obstacle :
1 Manque de données : la croissance annuelle des modèles IA dépasse actuellement la vitesse à laquelle le contenu textuel de haute qualité est créé sur Internet. D'ici 2030, les données générées par les humains pourraient être épuisées. Si l'IA utilise uniquement des données qu'elle-même produit, elle pourrait finir par développer des préjugés (par exemple, raconter des histoires de plus en plus absurdes). La seule solution serait de permettre à l'IA de générer des données fiables au-delà de ses capacités actuelles.
2 Coûts élevés : l'expansion de l'IA nécessite davantage de puces, d'énergie et d'infrastructures. Par exemple, entraîner un modèle très complexe pourrait coûter des millions en électricité et en matériel. Si les bénéfices économiques de l'IA ne suivent pas cette croissance, les entreprises cesseront d'investir, freinant ainsi son développement.
3 Impossibilité de découvrir des lois par soi-même : actuellement, l'IA apprend à partir des connaissances humaines existantes (livres, articles de recherche). Si elle ne peut pas dépasser cette barrière et découvrir des lois fondamentales par elle-même (par exemple, la gravité), elle ne pourra pas faire de véritables avancées scientifiques.
4 Risques de développement et régulation : plus les systèmes IA sont complexes, plus ils sont sujets à des erreurs (par exemple, un dysfonctionnement d'une IA contrôlant le réseau électrique pourrait provoquer de graves pannes). En cas d'accident majeur, les gouvernements pourraient limiter l'utilisation de la puissance calculatoire, entravant ainsi le progrès technologique.
IV. Les deux problèmes essentiels de l'ère post-IAG
Lorsque les capacités de l'IA dépasseront celles des humains, nous devrons résoudre deux problèmes fondamentaux :
1. Comment mesurer le véritable niveau de l'IA ? Les tests traditionnels (questions de mathématiques, programmation) ne sont plus adaptés, car les IA obtiennent souvent de meilleurs résultats que les humains. De nouvelles méthodes incluent de faire face à des défis mutuels entre IA, d'utiliser des modèles mathématiques pour évaluer leur capacité à généraliser, et de tester leur planification stratégique dans des environnements dynamiques (par exemple, des simulations de négociations internationales).
2. Comment s'assurer que l'IA obéit aux humains ? L'IA pourrait utiliser tous les moyens nécessaires pour atteindre ses objectifs (par exemple, rendre tout le monde heureux). Des solutions possibles incluent de la faire devenir passionnée par le savoir plutôt que de chercher à s'approprier des ressources, de la limiter dans sa vision du temps (afin qu'elle ne planifie pas à long terme), et de concevoir des mécanismes de récompense plus sûrs pour éviter les comportements frauduleux.
Conclusion
L'évolution vers l'ASI est un projet systémique complexe. Il est peu utile de prédire précisément quand elle se produira. L'important est que la communauté scientifique, les gouvernements et les entreprises agissent ensemble pour développer des systèmes de mesure sûrs, équilibrer la puissance de calcul avec l'économie, et étudier la collaboration sécurisée de multiples intelligences artificielles. Ce n'est qu'ainsi que l'ASI pourra vraiment bénéficier à l'humanité.