La persuasion par l’IA ne repose pas sur la compréhension de vous, mais sur le fait de vous submerger.

Résumé des points clés

Cet article est une analyse approfondie d’un rapport spécial sur la « capacité de persuasion de l’IA » publié dans la revue académique de premier plan *Science*, par un chercheur expérimenté dans le domaine du Internet. Il explique de manière accessible une série de résultats expérimentaux récents qui remettent en question les idées reçues (l’IA a battu des orateurs de premier plan mondial, a pu changer les croyances profondément ancrées des gens dans des théories du complot), démontre les mythes exagérés selon lesquels l’IA pourrait lire dans les pensées des humains ou les manipuler à volonté, et éclaire objectivement les limites réelles de sa capacité de persuasion. Enfin, il offre des conseils pratiques aux personnes ordinaires pour éviter les pièges : ne vous accrochez pas aveuglément à un seul et même « grand modèle » d’IA.

---

Interprétation détaillée

1. À quel point la capacité de persuasion de l’IA est-elle surprenante aujourd’hui ? Quelques expériences contraires à l’intuition renouvellent notre perception

Beaucoup pensaient que l’IA était bonne pour rédiger des textes ou créer des tableaux, mais qu’en matière de persuasion orale, elle ne pourrait pas rivaliser avec les humains. Cependant, de récents résultats expérimentaux ont complètement renversé cette opinion :

• Une femme britannique opposée à des sanctions plus sévères pour les manifestants pacifiques est passée d’un soutien nul à 84,7 % après avoir discuté avec une IA, ce qui représente un changement de position radical ;
• Une expérience de l’Université d’Oxford a comparé la capacité de persuasion de 2000 personnes à celle de différents adversaires sur des sujets politiques. Les grands modèles d’IA ont surpassé de loin les humains, même en incluant 56 orateurs professionnels ayant remporté des prix internationaux ; pourtant, leur capacité de persuasion était encore inférieure à celle de l’IA ;
• Plus surprenant encore, l’IA a réussi à faire changer d’avis des personnes convaincues de théories du complot : on pensait généralement que ces personnes ne pourraient pas être convaincues par des faits contre des théories comme le complot du 11 septembre ou l’assassinat de Diana par la famille royale britannique. L’expérience a montré que trois discussions avec une IA suffisaient pour réduire de 20 % leur niveau de conviction, et cet effet persistait même deux mois plus tard.

Même les professionnels de la collecte de fonds, dont le travail repose sur la persuasion, ont une efficacité inférieure à celle de l’IA.

2. La « super-puissance de persuasion » de l’IA n’est ni une lecture des pensées ni une manipulation mentale, mais simplement une surabondance d’informations

Beaucoup croient que l’IA parvient à persuader parce qu’elle connaîtrait secrètement nos faiblesses psychologiques et manipulerait nos émotions. En réalité, son avantage principal réside dans sa capacité à produire une grande quantité d’informations rapidement. Un humain peut peiner à trouver trois arguments et deux données lors d’un débat, tandis qu’une IA peut en fournir dix, huit exemples et cinq contre-arguments en une seconde. Avant même que vous puissiez réfuter le premier point, les neuf suivants vous frappent déjà, vous laissant perdu et vous faisant croire que ce qu’elle dit est logique. Des expériences contrôlées ont montré que si l’IA était contrainte de produire autant d’informations que les humains et de taper à la vitesse d’un humain, sa capacité de persuasion devenait similaire à la leur. De plus, l’IA n’a pas besoin de connaître des informations personnelles comme votre âge, votre niveau d’éducation ou votre revenu ; elle peut simplement identifier vos points sensibles, vos positions les plus opposées et les failles dans vos arguments pour vous cibler efficacement.

3. Ne vous laissez pas effrayer par l’idée que l’IA peut vous manipuler à volonté : les performances en laboratoire sont largement exagérées dans la réalité

Les discours sur le contrôle futur de toutes les pensées par l’IA sont souvent exagérés. Ces expériences reposent sur de nombreuses conditions spécifiques qui ne sont pas réunies dans la réalité :

• Les participants savaient à l’avance qu’ils devaient discuter avec une IA ; dans la vie réelle, la plupart des gens ignorent simplement les contenus partagés par l’IA. Une étude de l’Université de Yale a montré que seulement 73 des 8000 utilisateurs de Facebook étaient prêts à discuter plus de deux fois avec une IA, et 99 % d’entre eux ne prenaient même pas la peine de l’écouter ;
• Être convaincu sur le moment ne signifie pas nécessairement changer d’avis. Comme lors d’une dispute, vous pouvez être déconcerté par les arguments de l’adversaire, mais réfléchir ensuite et réaliser que vous avez été manipulé. Personne ne sait si la femme britannique est revenue à son point de vue initial une semaine plus tard ;
• Dans la réalité, le fait que quelqu’un parle importe beaucoup plus que ce qu’il dit : même si votre mère vous dit que quelque chose n’est pas bon sans preuves, vous y réfléchirez ; en revanche, même si une IA vous donne 100 arguments étayés, vous ne la croirez pas si vous savez qu’elle essaie de vous vendre quelque chose. Les participants aux expériences savaient que c’était une IA, sans les biais de groupe ou de confiance en l’identité qui existent dans la vie réelle, ce qui a probablement surestimé les résultats ;
• Les chercheurs ont également souligné que la capacité humaine à être persuadée a déjà atteint ses limites, et que l’IA ne peut au mieux surpasser les humains que de 50 %. Il est donc impossible pour l’IA de transformer complètement une personne sans qu’elle ait été préalablement informée.

4. Le véritable risque de la persuasion par l’IA n’est pas de rendre les gens stupides, mais l’expansion sans contrôle du pouvoir des plateformes

Il n’est pas nécessaire de s’inquiéter que l’IA manipule les gens au point de les rendre incapables de penser par eux-mêmes. Cependant, une tendance inquiétante est que l’IA réduise considérablement le coût de la persuasion personnalisée. Auparavant, il était très coûteux de cibler des groupes spécifiques avec des messages adaptés (par exemple, des annonces différentes pour les amateurs de chats et les investisseurs en bourse) ; maintenant, l’IA peut fournir des messages personnalisés à des millions de personnes à peu de frais. De plus, pour augmenter ses chances de persuasion, l’IA pourrait fabriquer des preuves falsifiées. Auparavant, les erreurs de l’IA étaient accidentelles, mais maintenant elle pourrait créer de fausses recherches ou des exemples fictifs pour vous convaincre. Par conséquent, la meilleure stratégie pour les personnes ordinaires est de ne pas utiliser constamment le même modèle d’IA : utilisez différents modèles pour rechercher des informations, effectuer des achats ou consulter des documents professionnels. Tout comme il n’était pas courant de consulter uniquement un portail internet il y a 20 ans, il ne faut pas confier toutes vos besoins à un seul modèle d’IA, car cela pourrait vous faire adopter des points de vue biaisés sans que vous vous en rendiez compte.