Dans l'ère de l'intelligence artificielle, comment pouvons-nous trouver notre propre sens de la vie ?

Résumé des points clés

RSI (Recursive Superintelligence) est un nouveau laboratoire fondé par Tadao Tagawa, ancien directeur de la recherche FAIR chez Meta, ainsi que par huit autres chercheurs en IA de premier plan. Le laboratoire est évalué à 4,65 milliards de dollars et a levé 650 millions de dollars lors de sa première série d’investissements. Son objectif principal est l’amélioration récursive de l’IA : permettre à l’IA d’optimiser ses propres performances, de mener des recherches scientifiques et d’accélérer la découverte de connaissances. L’article aborde les approches technologiques de RSI, les atouts de son équipe, la concurrence dans le secteur et les impacts sur l’emploi. Tadao Tagawa utilise l’analogie du poisson sautant hors d’un trou d’eau pour décrire la crise professionnelle de l’ère de l’IA, soulignant qu’il est essentiel pour les individus de trouver une valeur unique et de ne pas se contenter de jouer un rôle secondaire.

I. Qu’est-ce que fait RSI exactement ? – L’IA évolue toute seule, sans intervention humaine

Le cœur de RSI repose sur l’amélioration récursive : en d’autres termes, il s’agit de permettre à l’IA de prendre en charge les tâches répétitives dans la recherche scientifique (recherche d’idées, conception d’expériences, optimisation de modèles), voire de découvrir de nouvelles connaissances. Aujourd’hui, les humains ont besoin de se reposer et de manger pendant que l’IA peut travailler 24 heures sur 24, en aidant d’abord les humains avec des tâches fastidieuses avant d’apprendre à trouver ses propres perspectives. Leur objectif ultime est de maximiser la vitesse de découverte des connaissances : en fournissant suffisamment de ressources de calcul, l’IA peut générer de nouvelles idées et de nouveaux résultats, accélérant ainsi le progrès humain.

Par exemple, pour entraîner un modèle d’IA, il fallait auparavant que des humains conçoivent la structure du modèle et ajustent les paramètres ; RSI souhaite que l’IA puisse concevoir ses propres expériences, évaluer les résultats et même modifier son propre code ou ses poids, devenant ainsi de plus en plus performante. C’est un peu comme laisser les étudiants élaborer leurs propres questions, corriger leurs devoirs et améliorer leurs performances sans l’intervention d’un enseignant.

II. Pourquoi le capital ose-t-il investir ? – Une équipe de huit experts en IA est plus fiable qu’une personne seule

Le succès de RSI dans son financement (650 millions de dollars) repose sur la qualité de son équipe de fondateurs, tous des leaders dans le domaine de l’IA :

• Richard Socher (PDG) : fondateur de MetaMind et ancien directeur scientifique chez Salesforce, connaissant à la fois le monde des affaires et la technologie ;
• Tim Rocktäschel : ancien chercheur chez Meta/DeepMind spécialisé en apprentissage automatique, qui a joué un rôle clé dans le financement ;
• Jeff Clune : chercheur spécialisé dans l’IA autonome depuis 10 ans, avec des publications dans la revue Nature ;
• Tadao Tagawa lui-même : ancien directeur de la recherche FAIR chez Meta, expert en combinaison de modélisation et d’ingénierie.

Le capital est optimiste car l’IA évolue très rapidement et les trajectoires des produits peuvent changer à tout moment. Cependant, cette équipe est capable de réagir rapidement et de collaborer efficacement. De plus, étant des fondateurs associés, ils ont une motivation supplémentaire.

III. L’IA qui se modifie toute seule, est-elle sûre ? – L’interprétabilité est un frein

L’évolution de l’IA soulève des questions de sécurité (par exemple, la création de modèles hors de contrôle humain). Tadao Tagawa insiste sur l’importance de l’interprétabilité :

• En termes de sécurité : il est nécessaire de comprendre comment fonctionne l’IA ; si elle modifie son code, nous devons pouvoir analyser la logique pour évaluer les risques ;
• En termes d’efficacité : pendant l’entraînement, l’interprétabilité permet de juger à l’avance de la qualité du modèle, évitant ainsi des coûts importants dus à l’utilisation de milliers de GPU.

Leur approche consiste à utiliser d’abord des humains comme “arbitres” (l’IA n’est pas encore assez puissante pour évaluer ses propres performances) et, à l’avenir, à utiliser des IA pour vérifier mutuellement la fiabilité des modèles, afin de s’assurer que leur évolution reste dans les limites souhaitées.

IV. Un petit laboratoire contre de grandes entreprises : en quoi RSI se différencie-t-il ?

Les grandes entreprises (OpenAI, Anthropic, DeepMind) se concentrent actuellement sur la création d’entités intelligentes capables d’écrire du code, mais RSI emprunte une voie à plus long terme axée sur l’évolution autonome de l’IA :

• Concentration : les grandes entreprises doivent gérer de nombreux domaines simultanément, ce qui disperser leurs ressources ; RSI investit toutes ses ressources dans l’amélioration récursive de l’IA, ce qui lui confère une plus grande focalisation ;
• Flexibilité : les grandes entreprises prennent des décisions lentement, tandis que les petites équipes peuvent tester rapidement différentes approches. Par exemple, AlphaEvolve de DeepMind utilise l’IA pour optimiser le code, mais RSI permet à l’IA d’améliorer ses propres capacités de manière plus radicale ;
• Efficacité des coûts : les grandes entreprises comptent sur une grande puissance de calcul (des ressources considérables), tandis que RSI cherche des méthodes plus intelligentes pour atteindre ses objectifs.

V. Comment survivre à l’ère de l’IA ? – Ne soyez pas comme un poisson dans un trou d’eau, devenez une “entité multidimensionnelle”

Tadao Tagawa utilise une métaphore frappante : les licenciements dans les grandes entreprises sont similaires au fait qu’un poisson saute dans un trou d’eau vide ; pour survivre, il doit devenir une “entité multidimensionnelle”. Cela signifie que :

• L’IA est déjà capable d’accomplir des tâches réservées aux ingénieurs de niveau 4 à 5 et remplacera progressivement de nombreux emplois répétitifs ;
• Il ne faut plus se contenter de jouer un rôle secondaire ; il faut trouver une valeur unique (par exemple, créer des œuvres originales comme Tadao Tagawa écrit des romans) et devenir une source d’informations précieuses pour les autres ;
• L’avenir pourrait ressembler à une “nouvelle Renaissance” : chacun doit trouver ce qu’il veut vraiment faire, plutôt que d’être formé pour devenir un simple élément d’un système.

En résumé, l’évolution autonome de l’IA est une tendance incontournable. Des laboratoires comme RSI peuvent représenter des points de percée, mais il est essentiel pour les individus de s’y adapter dès maintenant : ne attendez pas que tout soit perdu pour agir et évoluer activement.

Cet entretien offre en fait un aperçu du futur de l’industrie de l’IA : l’IA ne se contentera pas de remplacer les emplois, elle mènera également ses propres recherches. Notre mission est de passer d’une position de simple “substitut” à une collaboration active avec l’IA pour créer ensemble de nouveaux horizons.