虎嗅

« Non, mais plutôt… » : Le writing automatique par l’IA est un cheval de Troie pour le monde de la littérature

原文:「不是,而是」:AI写作留给文字世界的特洛伊木马

---

Résumé en français simple

Cet article part d’un événement très dramatique : une critique signée par le célèbre investisseur américain Druckenmiller, publiée dans le *Wall Street Journal*, a été immédiatement reconnue comme étant écrite par une intelligence artificielle (IA). Druckenmiller a dû admettre que l’article avait été rédigé par une IA, et le indice clé de cette supercherie était l’usage répété de la structure de phrase “Ce n’est pas… mais…” dans le texte. En analysant ce détail, l’article met en évidence une réalité peu remarquée : au cours des deux dernières années, l’utilisation de cette structure de phrase dans les documents publics des entreprises américaines a quadruplé, devenant un “code secret” caractéristique de l’écriture par IA. En réalité, l’IA s’est insinuée discrètement dans tous les textes nécessitant des opinions sérieuses et une crédibilité, comme un cheval de Troie, érodant progressivement la confiance des gens dans l’idée que “le contenu signé par une personne est le fruit de ses réflexions réelles”. Les plateformes de contenu et les autorités de régulation à l’échelle mondiale commencent déjà à prendre des mesures pour combler cette faille de confiance.

---

Analyse détaillée

1. Comment la structure de phrase “Ce n’est pas… mais…” est-elle devenue un signe révélateur de l’IA ?

Il y a trois ans, cette structure de phrase était un atout pour les auteurs : elle permettait de réfuter une croyance communément fausse et d’énoncer leur propre point de vue de manière logique et convaincante. L’exemple le plus célèbre est le discours de Kennedy sur la mission lunaire : “Nous avons choisi d’aller sur la Lune, non parce que c’était facile, mais parce que c’était difficile”. Cette phrase a résumé l’importance de l’entreprise, devenant un véritable classique. Mais aujourd’hui, sa signification a changé : selon des statistiques de *Barron’s*, l’utilisation de cette structure de phrase dans les documents publics des grandes entreprises américaines a doublé au cours des deux dernières années, dépassant de loin les niveaux moyens des années précédentes. De nombreux auteurs hésitent désormais à l’utiliser, de peur que les lecteurs ne pensent pas qu’ils ont de véritables idées, mais plutôt que l’article ait été écrit par une IA. C’est comme si, après avoir été trompés par le cheval de Troie, les gens se méfiaient de tout ce qui vient de l’extérieur.

2. Pourquoi les textes écrits par des humains et par des IA ont-ils des sensations différentes lorsqu’on les lit ?

Lorsqu’un humain utilise cette structure de phrase, c’est toujours avec une intention précise : il veut réfuter une erreur répandue et présenter son propre point de vue de manière convaincante. Par exemple, s’il pense que les gens ont une mauvaise compréhension d’une situation, il utilisera “Ce n’est pas… mais…” pour la clarifier. Mais lorsque l’IA l’utilise, c’est souvent de manière aléatoire, sans tenir compte de la réalité. Elle peut même inventer des erreurs pour donner l’impression de profondeur, créant du contenu inutile et sans véritables sentiments ou pertinence.

3. L’IA utilise-t-elle cette structure de phrase parce qu’elle écrit bien, ou parce que les systèmes de notation la favorisent ?

L’attrait de cette structure de phrase pour les IA n’est pas un hasard ; c’est le résultat de leur apprentissage et de leur processus de création de contenu. Les IA considèrent que son utilisation est synonyme de qualité, car elle est présente dans des textes considérés comme exemplaires (discours de célébrités, articles d’opinion autoritaires). Lorsque les humains notent ces textes, elles reçoivent souvent de bonnes notes pour leur logique claire et leurs opinions solides. Les IA, désireuses d’obtenir de meilleures notes, utilisent donc cette structure de phrase de manière systématique. De plus, comme leur processus de création de contenu repose sur des devinettes, elles utilisent cette structure sans se soucier du contexte.

4. Il ne s’agit pas simplement d’une surutilisation de cette structure de phrase : c’est une intrusion de l’IA dans l’ensemble de l’industrie du contenu

Cela n’est pas juste une question de style ; c’est une menace pour la crédibilité des contenus. Auparavant, on pouvait être sûr que les articles signés par des experts ou des entreprises étaient le résultat de réflexions sérieuses. Aujourd’hui, il est difficile de distinguer si les opinions sont réelles ou fabriquées par une IA. Les plateformes de contenu et les régulateurs tentent de protéger la confiance des utilisateurs en mettant en place des mesures pour détecter le contenu écrit par des IA.

5. Les mesures sont prises pour réparer cette faille de confiance

Les industries et les autorités de régulation prennent des mesures pour empêcher que les IA ne s’infiltrent discrètement dans les contenus sérieux. Des plateformes comme Substack et Quora ont mis en place des outils pour détecter le contenu écrit par des IA, et LinkedIn a supprimé la fonction d’optimisation automatique des textes par IA, de peur que les plateformes ne soient remplies de textes sans valeur. La législation européenne sur l’intelligence artificielle exige également que les contenus générés par des IA indiquent clairement leur origine. Il s’agit de garantir que les utilisateurs sachent si le contenu est écrit par une IA ou par une personne réelle, et que la responsabilité pour la crédibilité du contenu soit clairement définie.

---

Cette analyse montre comment l’IA influence de manière significative l’industrie du contenu, remettant en question les fondements de la confiance dans les informations publiées.