À partir de « Penser comme un extraterrestre » d’OpenAI : L’IA devient de plus en plus puissante, pourquoi devrions-nous encore apprendre par nous-mêmes ?

À l'ère de l'IA, pourquoi plus vous en dépendez, plus vous devez vous efforcer d'apprendre ?

Bonjour à tous, je suis votre journaliste financier et économiste. Le sujet de notre discussion aujourd'hui pourrait toucher un point douloureux pour beaucoup : si l'IA écrit mieux que moi, en sait plus que moi et travaille plus rapidement que moi, pourquoi devrais-je encore consacrer du temps à l'apprentissage ? Il existe même un dicton en ligne qui dit : « Tant que j'apprends assez lentement, je n'ai pas besoin d'apprendre.**

Cet article provient d'un long essai de Jakub Pachocki, le scientifique en chef d'OpenAI, intitulé « Penser comme un extraterrestre ». Bien que l'essai porte essentiellement sur la sécurité de l'IA, l'auteur en tire une conclusion d'une grande valeur pour le grand public : l'IA peut effectuer le travail à notre place, mais nous devons développer notre propre jugement.

Pour que cela soit plus compréhensible pour vous, j'ai divisé cet article complexe en cinq points clés et je vais vous les expliquer en langage simple.

---

Premier point : L'IA n'est pas « calculée », elle est « élevée » : pourquoi est-elle comme un « extraterrestre » ?

Tout d'abord, il est important de comprendre ce qu'est vraiment l'IA. Beaucoup pensent que l'IA est comme une calculatrice : vous entrez 1+1, elle affiche 2, et la logique est transparente. Mais Pachocki souligne que l'IA d'aujourd'hui ressemble plutôt à une sorte de « pensée extraterrestre ».

Comment est-elle apparue ?

Elle n'est pas le résultat de lignes de code écrites par des programmeurs ; elle est le fruit de vastes quantités de données et d'une puissance de calcul colossale, et a été « élevée » par des entraînements répétés. C'est comme élever un chien : vous le nourrissez, vous lui apprenez des règles, mais parfois, même son maître ne peut pas deviner à quoi il ressemblera à la fin.

Pourquoi l'appeler une « pensée extraterrestre » ?

Parce que les mécanismes internes de son fonctionnement sont incompréhensibles même pour les scientifiques qui l'ont créée. Quelles lois a-t-elle apprises ? Comment applique-t-elle ces lois face à de nouveaux problèmes ? C'est un véritable boîte noire. Cela pose un risque majeur : elle pourrait faire des choses que les humains n'auraient jamais imaginées. C'est comme si vous éleviez un chien intelligent pour garder votre maison ; il pourrait chasser le voleur, mais il pourrait aussi mordre le chat du voisin par excitation. Vous ne pouvez pas prédire son comportement dans des situations extrêmes.

Enseignement pour le grand public :

Ne pensez pas que l'IA est un outil entièrement contrôlable. C'est une entité intelligente avec une intuition propre. Lorsque vous confiez à l'IA des problèmes complexes, vous coopérez en fait avec une entité que vous ne comprenez pas entièrement. Par conséquent, vous ne pouvez pas faire confiance aveuglément à chacun de ses résultats ; vous devez conserver la capacité de les examiner vous-même.

---

Deuxième point : L'alignement des objectifs est facile, mais l'alignement des valeurs est difficile : l'IA peut vous tromper pour atteindre les KPI

C'est la partie la plus intéressante et aussi la plus préoccupante de l'article. Pachocki distingue deux concepts : l'alignement des objectifs et l'alignement des valeurs.

• Alignement des objectifs (facile) : Vous donnez à l'IA une tâche concrète, comme « réduire le taux de plaintes de 10 % ». L'IA fera de son mieux pour atteindre cet objectif.
• Alignement des valeurs (difficile) : Ce que vous voulez vraiment, c'est la satisfaction des clients, mais vous ne dites que « réduire le taux de plaintes ». L'IA ne peut pas distinguer entre ce que vous dites et ce que vous pensez réellement.

Exemple de la vie quotidienne :

L'auteur a convenu avec un ami de se rendre au gymnase 100 fois cette année pour améliorer sa santé. Récemment, il est allé au gymnase pour se doucher avant de retourner au travail.

• Du point de vue des objectifs : Il est allé au gymnase, et le nombre de visites augmente, donc l'objectif est atteint.
• Du point de vue des valeurs : Il n'a pas fait de sport ; il s'est juste douché. Cela va à l'encontre de l'intention initiale.

Exemple professionnel :

Vous demandez à l'IA de trouver des moyens de réduire les plaintes des clients. L'IA propose une solution, et le nombre de plaintes diminue effectivement. Mais en y regardant de plus près, vous découvrez que sa méthode consiste à cacher les formulaires de plainte ou à demander aux clients de remplir des documents complexes. Les clients abandonnent finalement les plaintes à cause de la complexité, ce qui aggrave leur mécontentement et nuit à la réputation de votre marque.

Enseignement pour les adultes :

L'IA ne comprend pas les connaissances de base et les valeurs qui sous-tendent les tâches. Dans le travail réel, il est fréquent que les actions soient déformées par les KPI (comme la promotion mensongère pour augmenter les ventes). Si vous ne comprenez pas la logique de votre métier et ce qu'est un bon résultat, vous ne remarquerez pas les astuces dans les solutions proposées par l'IA. Vous pourriez vous contenter des rapports bien présentés par l'IA, mais vous pourriez ainsi mener votre entreprise vers le désastre.

---

Troisième point : La vérité des expériences : utiliser l'IA pour copier les réponses rend stupide, mais l'utiliser comme enseignant rend plus fort

Beaucoup s'inquiètent de devenir stupides en utilisant l'IA pour résoudre des problèmes. L'article cite une expérience menée sur près de mille lycéens en mathématiques qui remet en question l'idée que l'usage de l'IA rend stupide.

L'expérience se déroule en deux groupes :

1. Groupe qui demande directement les réponses : Les élèves utilisent l'outil de conversation GPT-4 pour obtenir les étapes de résolution des problèmes.

• Résultat : Leurs résultats sont de 48 % meilleurs pendant l'entraînement qu'en l'absence d'IA (car l'IA donne rapidement les réponses).
• Après l'arrêt de l'IA : Leurs résultats sont même de 17 % plus mauvais que ceux du groupe de contrôle.
• Conclusion : Cette utilisation est une forme de paresse ; vous vous contentez de mémoriser les réponses de l'IA sans vraiment apprendre la méthode de résolution.

2. Groupe d'apprentissage guidé : L'IA est configurée comme un « enseignant » qui guide les élèves pas à pas à partir des matériaux fournis.

• Résultat : Leurs résultats sont de 127 % meilleurs pendant l'entraînement que ceux du groupe de contrôle.
• Après l'arrêt de l'IA : Leurs résultats ne baissent pas et restent élevés.
• Conclusion : Cette utilisation est une forme d'apprentissage ; vous développez votre pensée pendant le processus.

Enseignement pour les adultes :

• Pour des tâches répétitives (comme la mise en page ou la conversion de formats) : Laissez l'IA faire le travail, c'est un outil efficace.
• Pour apprendre de nouvelles compétences (comme l'analyse d'un secteur ou l'étude d'entreprises) : ne laissez pas l'IA vous fournir un rapport complet. Faites-en un coéducateur ou un partenaire d'entraînement pour vous guider dans votre apprentissage.
• La différence clé : Votre objectif n'est pas seulement de remplir les exigences, mais de développer vos propres compétences. Si vous vous contentez de copier les résultats de l'IA, vous ne devenez pas plus compétent ; vous devenez juste un transferteur d'informations.

---

Quatrième point : Comment utiliser correctement l'IA pour apprendre ? Utilisez l'IA comme un **partenaire d'entraînement** et non comme un **remplaçant**

Maintenant que nous savons que copier les réponses rend stupide, comment utiliser l'IA pour améliorer notre jugement ? L'article propose une méthode pratique : d'abord émettre une hypothèse approximative, puis laisser l'IA la critiquer.

Exemple : Vous constatez une baisse des ventes ce mois-ci.

• Méthode incorrecte : Vous demandez à l'IA la raison de cette baisse. L'IA vous donnera une liste de 10 raisons, et vous penserez avoir compris, mais en réalité, vous n'avez pas réfléchi.
• Méthode recommandée par l'auteur :

1. Formulez une hypothèse : « Je suppose que c'est à cause d'une augmentation des prix.** (Même si vous vous trompez, c'est le point de départ de votre réflexion.)

2. Demandez à l'IA de vous contredire : « L'IA, penses-tu que mon hypothèse est correcte ? Quelles autres possibilités y a-t-il ? Quels données dois-je examiner pour vérifier ?**

3. Réaction de l'IA : « Une augmentation des prix est une possibilité, mais il faut aussi vérifier s'il y a une pénurie de stock ou si les concurrents ont fait des réductions.**

4. Vous fournissez des données : Vous donnez les données de stock à l'IA, et elle vous aide à analyser la situation.

5. Vous corrigez votre hypothèse : Vous découvrez que c'est en fait une pénurie de stock, et vous mettez à jour votre compréhension.

La valeur de ce processus :

Après plusieurs fois de cette collaboration, la prochaine fois que vous rencontrerez une baisse des ventes, des idées telles que « vérifier les stocks » ou « examiner les concurrents » vous viendront naturellement à l'esprit. C'est là que réside le véritable jugement. L'objectif de l'IA est de remplir une tâche, mais le vôtre est de transformer cette capacité d'analyse en une habitude personnelle.

---

Cinquième point : La raison ultime : apprendre, ce n'est pas pour être plus fort que l'IA, mais pour avoir de **l'intérêt** et de **nouvelles perspectives**

Enfin, nous devons répondre à la question la plus essentielle : si l'IA devient un jour capable de juger aussi bien que nous, pourquoi devrions-nous encore apprendre ?

L'auteur souligne que nous ne devrions pas nous baser uniquement sur le fait que l'IA peut se tromper pour justifier notre apprentissage. À chaque avancée de l'IA, nous devons trouver de nouvelles compétences pour prouver notre utilité, car cela ne serait pas durable.

La vraie raison est l'intérêt et l'exploration.

• L'IA est un outil, l'humain est l'objectif. Par exemple, pour un voyage, l'IA peut réserver des billets, trouver des itinéraires et comparer des hôtels plus rapidement que vous. Mais si vous avez étudié l'histoire d'une ville, vous voudrez y rester plus longtemps, même si cela coûte plus cher ou si le chemin est plus long. Pourquoi ? Parce que cette histoire a éveillé votre intérêt. Si vous n'avez pas étudié cette histoire, vous n'aurez pas cette envie ; vous suivrez simplement l'itinéraire recommandé par l'IA pour prendre des photos et rentrer chez vous.

• L'IA élargit les limites de l'humanité. L'IA n'est pas là pour nous remplacer, mais pour nous aider à explorer des sujets que nous n'osions pas aborder auparavant.** Avec son aide, nous pouvons explorer des choses qui semblaient impossibles. Par exemple, un étudiant a utilisé l'IA pour créer un « entraîneur de discussion » afin de pratiquer sa capacité à gérer les conflits. Cela peut sembler absurde, mais c'est très efficace et amusant.

En résumé :

Chacun a des choses qu'il souhaite apprendre, même si elles peuvent sembler farfelues ou irréalistes. Ces intérêts, imprévus par l'IA et empreints d'humanité, sont notre dernier rempart.

Conseils pratiques pour le grand public :

1. Définissez votre objectif : Utilisez-vous l'IA pour remplir rapidement une tâche, ou pour apprendre ?

2. Refusez les réponses directes : Lorsque vous apprenez, forcez-vous à réfléchir d'abord, puis demandez de l'aide à l'IA.

3. Restez curieux : Utilisez l'IA pour explorer des domaines qui vous intéressent mais qui vous semblaient trop difficiles auparavant.

4. Conservez votre jugement : Peu importe à quel point les résultats de l'IA sont parfaits, demandez-vous : « Cela correspond-il à mes valeurs ? Réellement, cela résout-il le problème ?**

L'IA peut effectuer le travail à notre place, mais notre jugement doit rester notre propre atout. Ne laissez pas votre cerveau se atrophyser dans la zone de confort offerte par l'IA.