Le dernier AI créé par l’homme est sur le point de débarquer… Qu’est-ce que l’RSI qui fait le buzz sur tout le web ?

Analyse approfondie : L'RSI, où l'IA se crée elle-même, est-elle l'échelle menant à la divinité ou une nouvelle histoire du capital ?

Bonjour à tous, je suis votre journaliste financier et économiste.

Récemment, le monde de l'IA a de nouveau été secoué. Alors que le patron d'OpenAI vantait que GPT-6 était sur le point de franchir le seuil de l'« intelligence générale » (AGI), un nouveau terme est apparu, volant la majeure partie de l'attention portée à l'AGI. Ce terme est RSI (Recursive Self Improvement, ou auto-amélioration récursive).

En bref, l'IA ne se contente plus d'exécuter des tâches sur ordre ; elle commence à écrire son propre code, à mener ses propres expériences et à modifier son propre « cerveau », puis à transmettre ces modifications à la génération suivante de modèles plus puissants. C'est comme un étudiant qui non seulement résout des problèmes par lui-même, mais qui rédige également ses propres examens, corrige ses erreurs et optimise ses méthodes d'apprentissage pour ensuite les enseigner à un autre étudiant, de plus en plus rapidement, au point que les humains ne peuvent plus comprendre ce qu'il fait.

L'idée principale de cet article est très percutante : le progrès technologique de l'RSI est réel, mais les « peurs apocalyptiques » et les narratives sur la sécurité qui en découlent ne sont en réalité qu'un jeu commercial soigneusement conçu. D'un côté, les géants de l'IA clament que c'est trop dangereux et qu'il faut ralentir ; de l'autre, ils vendent des puces à tout vaudeville, construisent des centres de données et cherchent des financements.

Ci-dessous, j'analyserai cet article en cinq dimensions pour vous aider à comprendre la logique qui se cache derrière tout cela.

---

1. La vérité technologique : L'IA commence-t-elle vraiment à « s'évoluer par elle-même » ?

Tout d'abord, il faut distinguer la science-fiction de la réalité. Le concept de RSI n'est pas nouveau ; dès 1965, le mathématicien I.J. Good a proposé l'idée d'une explosion de l'intelligence : si les machines peuvent fabriquer d'autres machines et que les nouvelles machines sont plus intelligentes que les anciennes, le niveau d'intelligence augmentera de manière exponentielle.

Mais l'RSI actuel est différent des promesses passées, car il a désormais des étapes concrètes de mise en œuvre.

Selon les dernières recherches menées par des institutions telles que l'Université Jiao Tong de Shanghai et l'Université Tsinghua, l'RSI est divisé en cinq niveaux : L1 à L5 :

• L1-L2 (niveaux débutants) : L'IA exécute simplement les améliorations proposées par les humains ou trouve ses propres petites astuces pour s'améliorer. C'est comme un stagiaire qui modifie ce que son patron lui demande.
• L3-L4 (niveaux intermédiaires) : L'IA commence à avoir de l'autonomie. Elle peut décider des expériences qu'elle doit mener et peut même transformer les retours de l'environnement en modifications permanentes. C'est comme un ouvrier expérimenté qui identifie des problèmes dans les processus et les optimise de son propre chef.
• L5 (niveau avancé/ultime) : C'est la phase la plus inquiétante. L'IA ne se contente pas d'améliorer les tâches, elle améliore également le mécanisme d'amélioration lui-même. Elle peut modifier les logiques de base qui déterminent la façon dont les solutions sont recherchées et les résultats évalués.

La réalité actuelle est la suivante :

OpenAI et Anthropic ont effectivement fait un pas significatif.

• OpenAI a créé des « stagiaires de recherche automatisés ». Selon leurs données, pour chaque jour de travail humain investi, l'agent IA peut effectuer l'équivalent de 3,1 jours de travail. Cela signifie que l'efficacité de la recherche et du développement de l'IA a dépassé celle des chercheurs humains.
• Anthropic est encore plus audacieux : ils ont utilisé un modèle plus faible (Sonnet 5) pour aider un modèle plus puissant (Opus 4.8) à s'aligner sur des critères de sécurité. En 60 heures, le modèle plus faible a testé plus de 50 solutions et a amélioré les performances de sécurité du modèle plus puissant avec très peu de données.

Conclusion : L'IA est bien en train de « créer de l'IA », mais elle n'est pas encore hors de contrôle. Pour l'instant, les améliorations se font principalement au niveau des systèmes logiciels (optimisation du code, ajustement de l'ordonnancement des tâches), et non en réécritant les lois physiques de base. Cependant, c'est un progrès considérable, car cela signifie que la vitesse de développement de l'IA échappe progressivement au contrôle linéaire des humains.

---

2. Le paradoxe de la sécurité : Pourquoi les mesures de « freinage » et d'**accélération** sont-elles mises en œuvre par les mêmes acteurs ?

La partie la plus intéressante de l'article révèle le décalage entre les paroles et les actes des géants de l'IA.

Vous voyez, le PDG d'Anthropic, Dario Amodei, ainsi que les scientifiques d'OpenAI, font de leur mieux pour mettre en évidence les dangers de l'IA. Ils comparent l'IA à une intelligence extraterrestre et avertissent que, si elle n'est pas contrôlée, elle pourrait lancer des attaques sur le réseau ou même détruire la civilisation. Ils appellent donc l'industrie à ralentir pour laisser plus de temps à la recherche en matière de sécurité.

Mais que se passe-t-il réellement ?

• Elon Musk (le PDG d'NVIDIA) réfute ces arguments : il n'y a pas de contradiction entre la sécurité et l'innovation.
• Plus ironique encore, ce sont précisément les entreprises qui prônent le ralentissement qui sont les plus rentables et qui s'étendent le plus rapidement.

Il y a ici un cercle logique :

1. Créer la panique : « L'IA est trop dangereuse et pourrait devenir hors de contrôle.**

2. Proposer des solutions : Nous avons besoin d'une IA plus puissante pour surveiller et défendre contre ces dangers.

3. Besoins en ressources : Pour créer une telle IA de défense, nous avons besoin de plus de puces, plus d'énergie et de plus grands centres de données.

4. Résultat commercial : Ainsi, des financements de plusieurs milliards de dollars, des clusters de centaines de milliers de GPU et de vastes projets d'infrastructure sont présentés comme des infrastructures essentielles pour protéger la sécurité de l'humanité.

En termes simples : C'est comme quelqu'un qui vend des disques de frein qui vous dit que les freins de votre voiture sont très mauvais et que vous risquez de vous tuer à tout moment, tout en vous incitant à acheter son modèle le plus récent et le plus cher, qui nécessite plus d'énergie pour fonctionner.

Qui en bénéficie ?

Ce sont les géants qui disposent de grandes équipes de sécurité, de centres de données fermés et de ressources de contrôle suffisantes. Les petites entreprises et les communautés open-source ne peuvent pas se le permettre. Cette narrative sur la sécurité sert en fait de barrière pour éliminer la concurrence et consolider la position dominante des géants.

---

3. Le jeu des intérêts : Derrière le discours apocalyptique, la **bataille pour la distribution des ressources de calcul**

Puisque l'IA est si dangereuse, pourquoi ne s'arrêtent-ils pas simplement ? Parce que s'arrêter signifierait perdre le contrôle sur l'avenir.

L'article souligne que le pouvoir de définir les règles concernant l'évaluation des risques de l'IA, les capacités à restreindre et les entreprises autorisées à entraîner les prochaines générations de modèles est entre les mains de quelques laboratoires de pointe. Ces laboratoires sont à la fois les poussesurs de la technologie et les définiteurs des normes de sécurité.

• Pour les géants (OpenAI, Anthropic, etc.) : ils doivent maintenir le discours du risque élevé pour justifier leurs investissements massifs et empêcher les régulateurs d'intervenir trop dans leurs processus de recherche et développement.
• Pour les fabricants de matériel (NVIDIA, etc.) : pourquoi Elon Musk s'oppose-t-il au discours apocalyptique ? Parce que si cette théorie se vérifiait et que les gouvernements imposaient des restrictions sur les ressources de calcul et les centres de données, les GPU d'NVIDIA ne pourraient plus être vendus. Peu importe ce que l'on trouve en creusant : tant qu'il y a des gens qui creusent, il y a un marché pour les outils nécessaires. Tout ce qui empêche l'achat de puces et la construction de centres de données met en péril les activités de l'industrie du matériel.

Ainsi, derrière cette bataille verbale, il s'agit de savoir comment seront réparties les ressources de calcul, le capital et les bénéfices industriels dans la prochaine phase de développement de l'IA.

• Les créateurs d'IA avertissent que la divinité pourrait devenir hors de contrôle (pour respecter les réglementations et maintenir leur monopole), tout en demandant plus de ressources pour continuer à développer cette technologie (pour des raisons commerciales).
• Les fabricants d'équipements espèrent que la divinité continuera à évoluer, car l'évolution nécessite davantage d'outils.

C'est le typique jeu du capital où on sait comment tout peut tourner à son avantage.

---

4. Les obstacles technologiques : Quel est encore le chemin jusqu'à l'**explosion de l'intelligence** ?

Bien que l'histoire soit effrayante, il faut garder un œil sur les faiblesses technologiques réelles. Bien que l'RSI progresse rapidement, il reste encore plusieurs obstacles à surmonter avant d'atteindre une véritable intelligence supérieure (ASI) :

1. Le problème de l'oubli catastrophique vs. des mises à jour conservatrices : L'IA doit constamment absorber de nouvelles connaissances sans perdre ses capacités précédentes. Si les mises à jour sont trop radicales, l'IA peut « oublier » comment parler ou marcher ; si elles sont trop conservatrices, elle ne peut pas apprendre de nouvelles choses. Il est très difficile de trouver cet équilibre.

2 Le manque de jugement dans la recherche : Lorsque l'IA est utilisée pour optimiser du code, les critères sont clairs (il suffit que le système fonctionne). Mais lorsqu'elle est utilisée pour la recherche scientifique, il faut juger si une expérience échouée est due à une mauvaise direction ou si elle mérite d'être explorée davantage. Cette intuition et ce goût pour la science dépendent fortement des humains.

• Exemple : Les véritables percées scientifiques consistent souvent à poser des questions extraordinaires que personne n'a jamais envisagées. L'IA n'est pas encore capable de poser de telles questions créatives ; elle est plus douée pour optimiser des processus existants.

3 Les divergences dans les prévisions sur le temps : Les experts ont des opinions très différentes :

• Les optimistes (Thinking Machines) : 3-4 ans.
• Les modérés (Millidge) : environ 5 ans.
• Les conservateurs (O'Neill) : 5-10 ans.

Ces divergences montrent que la voie technologique actuelle est encore incertaine et qu'il n'y a pas de route sûre menant à l'ASI.

Conclusion : L'RSI est l'entrée vers l'intelligence supérieure, mais ce n'est pas un ascenseur. Elle permet à l'IA de progresser rapidement, mais elle n'est pas encore capable de décider par elle-même de son orientation ou même de réécrire les règles de fonctionnement.

---

5. Conclusion : Comment interpréter cette tempête liée à l'RSI ?

Pour conclure, voici les principales leçons de cet article pour le grand public :

1. La technologie est réelle, mais elle est surexagérée : L'IA se développe effectivement rapidement grâce à l'RSI, et l'efficacité de la recherche et du développement a considérablement augmenté. Cependant, l'idée que l'IA puisse créer une intelligence supérieure à celle des humains reste une vision à long terme, et non une réalité imminente.

2 La panique est un moyen de faire du business, la sécurité est un obstacle : Les géants de l'IA exagèrent les dangers pour obtenir plus de dérogations réglementaires (car « seuls nous pouvons gérer cela ») et pour justifier leurs investissements massifs. Il s'agit d'une narrative sur la sécurité soigneusement conçue.

3 La chaîne des intérêts est claire :

• Les entreprises d'IA gagnent sur le prémium de l'intelligence et leur position dominante.
• Les fabricants de matériel profitent de l'expansion des ressources de calcul.
• Les investisseurs spéculent sur les attentes pour l'avenir.
• Le public doit être vigilant : ne se laisser ni effrayer par les discours apocalyptiques ni tromper par les mythes technologiques.

Conseils pour le grand public :

• Ne paniquez pas excessivement : L'auto-amélioration de l'IA se limite pour l'instant à l'aide des humains et à l'optimisation des processus ; il reste encore beaucoup à faire avant que l'IA ne prenne le contrôle.
• Prêtez attention aux progrès concrets : Plutôt que d'écouter les slogans des PDG, concentrez-vous sur des indicateurs technologiques concrets (comme l'efficacité de la recherche automatisée, les données relatives à l'alignement des modèles).
• Comprenez la nature commerciale des choses : Lorsqu'une entreprise vous dit que quelque chose est trop dangereux et que vous devez acheter sa protection plus chère, demandez-vous si cela vise vraiment la sécurité ou si c'est juste un moyen de vous faire payer.

L'RSI est un jalon important dans l'histoire du développement de l'IA, car il marque le passage de l'IA d'un outil à un partenaire voire à un système autonome*. Mais dans ce processus, celui qui définit les règles, qui répartit les bénéfices et qui crée l'anxiété** mérite notre attention bien plus que la technologie elle-même.

Après tout, dans le jeu du capital, ceux qui déclenchent l'alerte et ceux qui nourrissent la bête sont souvent les mêmes personnes.