Le lauréat du prix Fields, Terence Tao, met en garde contre le risque que l’IA “épuise” les mathématiques ; les universitaires réfutent : les humains ne sont pas au chômage, ils ont juste changé de métier
Bonjour à tous, je suis votre journaliste financier et économiste. Aujourd’hui, nous ne parlerons pas de l’augmentation ou de la baisse des cours boursiers, ni de l’introduction en bourse d’une entreprise, mais d’un sujet qui semble complexe et qui concerne en réalité le destin professionnel de chacun : Quelle est la valeur qui reste aux humains lorsque l’IA commence à “produire” des réponses de manière débridée, comme une machine à imprimer ?
Récemment, Terence Tao, le lauréat du prix Fields et une figure de proue dans le monde des mathématiques, a publié une série de posts sur les réseaux sociaux, puis a joint ses forces à celles de 24 autres chercheurs de premier plan pour déclarer que l’IA “exploite de manière excessive” les problèmes mathématiques, risquant d’épuiser les fondements de la recherche mathématique humaine.
L’auteur de cet article (Zhao Bin de l’université Fudan) a réfuté les arguments de Tao de manière très pertinente et pratique. Il estime que Tao s’inquiète que l’“eau du fleuve” (la capacité à résoudre des problèmes) soit épuisée, mais en réalité, ce qui a de la valeur, ce n’est pas l’eau elle-même, c’est la personne qui tient le robinet (celle qui décide quelle eau prendre, pour qui la prendre et à quoi l’utiliser).
Ci-dessous, je vais décomposer ce débat entre les deux experts en cinq points pour que vous compreniez pleinement ce jeu de pouvoir entre l’IA et l’intelligence humaine.
---
Un : De quoi a peur Terence Tao ? – Les “réponses inutiles” submergent les “bonnes questions”
Tout d’abord, il est important de comprendre ce qui inquiète vraiment Tao. Beaucoup pensent qu’il s’oppose à l’IA, mais ce n’est pas le cas. Il s’oppose plutôt à l’impact négatif des productions de basse qualité de l’IA sur l’écosystème de la recherche scientifique.
Tao a fait une comparaison très illustrative : les banques alimentaires d’aujourd’hui ne peuvent plus accepter n’importe quel don. Si une caisse de nourriture avariée et moisie est donnée, elles ne peuvent pas la distribuer directement ; elles doivent consacrer des ressources à la trier, à la stocker, voire à la jeter. Cette “déchets” ne sert à rien, consomme des ressources et crée l’illusion que les besoins sont satisfaits, excluant ainsi ceux qui ont vraiment besoin de nourriture fraîche.
En matière de mathématiques :
1. Trop de problèmes, trop peu de bonnes questions : Il y a tant de problèmes mathématiques que l’eau douce est rare.
2. L’IA “mine” des réponses : Les modèles d’IA actuels (comme ceux d’OpenAI) peuvent générer des preuves et des réponses en nombre. Mais beaucoup de ces réponses sont “brutes” – elles n’ont que des résultats, pas de processus, et il est même impossible de les vérifier.
3. L’écosystème est perturbé : Si les laboratoires ne publient que les succès de l’IA et pas les échecs, ou si ils diffusent de nombreuses réponses inutilisables, cela détache l’attention des chercheurs des problèmes vraiment difficiles et précieux.
Résumé simple : Tao craint que l’IA, comme une imprimante sans fin, ne produise des textes incompréhensibles qui remplissent les bibliothèques, empêchant les vrais scientifiques de se concentrer sur les questions vraiment intéressantes. Ce n’est pas que l’IA est trop puissante, c’est qu’elle est trop “bruyante” (elle génère trop d’informations inutiles).
---
Deux : Le réfut de l’auteur : Vous utilisez la mauvaise mesure – La “carte de la difficulté” n’est pas pertinente pour l’IA
L’auteur pense que, bien que les inquiétudes de Tao soient justifiées, il commet une erreur fondamentale : il utilise les critères de l’ère humaine pour mesurer les changements de l’ère de l’IA.
Tao dispose de deux “vieilles mesures” :
1. La carte de la difficulté : Cette carte indique aux humains où les problèmes sont difficiles à résoudre. Par exemple, une preuve peut nécessiter trois ans de réflexion et est donc considérée comme précieuse.
- Réfutation de l’auteur : Cela n’a aucun sens pour l’IA ! L’IA ne se fatigue pas, elle ne se soucie pas de la difficulté du problème pour l’humain. C’est comme donner à une voiture une carte des routes difficiles ; la voiture n’a pas besoin de cette information. Tao confond la difficulté perçue par l’humain avec la valeur du problème en soi, ce qui est obsolète.
2. Le critère des bonnes questions : Dans le monde des mathématiques, ce qui est considéré comme une bonne question est souvent déterminé par les goûts, les traditions et le pouvoir d’un petit cercle.
- Réfutation de l’auteur : C’est comme au jeu du go. Auparavant, certaines stratégies étaient considérées comme “orthodoxes” par les humains, mais AlphaGo Zero a ignoré tous les schémas existants pour trouver des solutions meilleures. Cela montre que les “bonnes stratégies” accumulées par les générations humaines peuvent être des “optima locaux”. Si le jugement des mathématiciens sur les bonnes questions reste limité à leur cercle, l’IA peut être bénéfique en brisant ces limites.
Résumé simple : Tao craint que l’IA égalise les niveaux de difficulté des mathématiques, mais l’auteur souligne que la difficulté est le résultat des limites physiologiques humaines, pas l’essence même des mathématiques. L’IA ne se soucie que de la logique et des résultats. Ainsi, utiliser les critères humains pour définir la valeur est dépassé dans l’ère de l’IA.
---
Trois : Le différend fondamental : Quelle est la compétence humaine qui reste : “exploration” ou “curation” ?
C’est la partie la plus intéressante et la plus profonde de l’article. Le différend fondamental entre l’auteur et Tao est de savoir si la compétence humaine qui reste après que l’IA a pris en charge la résolution des problèmes peut encore être appelée “exploration” :
- Point de vue de Tao : Oui. Il pense que l’exploration pure pour le plaisir de la mathématique est sacrée et au cœur de l’intelligence humaine. L’IA peut résoudre des problèmes, mais la capacité humaine à identifier les bonnes questions reste précieuse.
- Point de vue de l’auteur : Non. Cette compétence ressemble plus à de la “curation” (choix des informations utiles).
L’auteur introduit le concept de ancrage des intérêts :
- L’IA n’a pas d’intérêts personnels : L’IA n’a pas de désirs ; elle ne sait pas pourquoi elle résout un problème, elle exécute simplement des instructions.
- Les humains ont des intérêts : La recherche scientifique a toujours un but – comprendre l’univers, développer la cryptographie, obtenir un prix Nobel, ou simplement par curiosité. Mais le but provient de l’humain.
Ainsi, l’IA prend en charge la recherche de directions et la résolution des problèmes (la production d’informations), tandis que les humains doivent conserver le droit de choisir ces informations (déterminer leur utilité).
- Avant : Les humains devaient trouver des directions, résoudre des problèmes et juger de leur valeur.
- Maintenant : L’IA génère des données en masse, et les humains doivent sélectionner celles qui correspondent à leurs intérêts, ont une valeur esthétique ou pratique.
Résumé simple :
Avant, les humains étaient des “mineurs” qui extraiaient le charbon, le transformaient et jugeaient eux-mêmes la qualité du métal. Aujourd’hui, l’IA est comme une “grue géante” qui peut tout extraire ; les humains ne sont plus des mineurs, mais des “expert en bijoux” ou des “curateurs”. Vous n’avez plus besoin de creuser vous-mêmes ; vous avez besoin de discernement pour identifier ce qui est précieux et à qui le vendre ou à quoi l’utiliser.
L’auteur pense que qualifier cette compétence de “réflexion” est une exagération ; elle est en réalité plus proche de la “curation”. Mais cela ne signifie pas qu’elle a perdu de valeur ; au contraire, avec l’infinité de choix offerts par l’IA, le “choix” devient plus important que jamais.
---
Quatre : Un argument concret : Les laboratoires ne montrent que les succès, pas les échecs
Bien que l’auteur ait réfuté les arguments philosophiques de Tao, il reconnaît que Tao a raison sur un point très concret et urgent :
Tao souligne que les laboratoires d’IA ne publient que les succès, pas les échecs. Cela pose un problème : nous ne pouvons pas voir où se trouve la “ligne de front” de la recherche mathématique.
- Qu’est-ce que la “ligne de front” ? Dans la recherche mathématique, c’est la frontière entre les problèmes que l’IA peut et ne peut pas résoudre.
- Pourquoi est-ce problématique ? Si les laboratoires ne publient que des succès, les chercheurs ne peuvent pas évaluer la véritable capacité de l’IA.
- Conséquence : Ils peuvent essayer des problèmes que l’IA ne peut pas résoudre, ou ignorer ceux que l’IA peut déjà résoudre. C’est comme pendant une guerre : si vous ne voyez que les victoires de l’ennemi, vous ne pouvez pas évaluer sa véritable force et ses faiblesses.
Résumé simple : C’est un problème d’asymétrie d’information. Les entreprises d’IA, comme les assureurs, ne vous disent que combien de maisons elles ont protégées, pas combien d’incendies elles ont évités. Cela fausse la perception de la capacité de l’IA dans le monde académique. L’auteur pense que c’est le point le plus concret et le plus facile à corriger. Si les laboratoires publiaient également les échecs, la compréhension de l’IA pourrait s’améliorer.
---
Cinq : Conclusion : Ne vous inquiétez pas de l’épuisement des ressources, inquiétez-vous de celui qui tient le robinet
Enfin, l’auteur résume le tout avec une métaphore :
- Tao s’inquiète que l’IA épuise les ressources mathématiques.
- L’auteur se concentre sur celui qui tient le robinet :
- L’eau (les problèmes et les solutions) : L’IA peut en générer sans fin, tout comme l’eau peut être pompée mécaniquement ou synthétisée. L’eau n’est plus rare.
- Le robinet (le droit de choisir) : Ce qui est vraiment précieux, c’est la personne qui décide quelle eau prendre, pour qui et à quoi l’utiliser.
Enseignement pour le grand public :
1. Ne vous inquiétez pas d’être remplacé : Si votre travail consiste seulement à exécuter des tâches répétitives, vous serez probablement remplacé par l’IA.
2 Améliorez votre capacité de “curation” : La compétence clé de l’avenir n’est pas le nombre de lignes de code que vous pouvez écrire ou de données que vous pouvez calculer, mais votre capacité à identifier ce qui est précieux dans les informations générées par l’IA et à déterminer leur utilité.
3 L’ancrage des intérêts est crucial : Peu importe l’évolution de la technologie, le “pourquoi” et le “pour qui” restent entre les mains de l’humain. L’IA est un outil, l’humain est le maître. Tant que vous avez le pouvoir de définir la valeur, vous n’êtes pas au chômage ; vous êtes passé d’un simple “ouvrier” à un “architecte”.
En une phrase :
Tao craint que l’IA épuise les ressources mathématiques, mais je vois que celui qui tient le robinet n’est pas le véritable acteur de ce processus. Lorsque l’IA prend en charge la production d’informations, la compétence humaine reste de choisir ces informations. Cela ne signifie pas que cette compétence a perdu de valeur ; au contraire, elle devient encore plus importante.