Résumé du contenu principal
Récemment, la faculté de commerce de Stanford et la Sloan School of Management du MIT ont mené une étude sur des milliers d’adultes américains ordinaires, utilisant l’intelligence artificielle pour des conseils financiers. L’étude a abouti à une conclusion contre-intuitive : même si les revenus, les actifs, la capacité à supporter les risques et la situation financière des hommes et des femmes sont identiques, le plan financier à long terme généré par l’IA pour les femmes leur ferait gagner près de 60 000 dollars de moins (environ 410 000 yuans) à la retraite à 60 ans. La différence provient principalement du fait que l’IA alloue systématiquement 3 % de moins d’actifs à haut rendement, tels que les actions, aux femmes. Ce résultat n’est ni dû à une erreur de l’IA ni à une astuce visant à attirer l’attention, mais reflète plutôt le stéréotype répandu depuis des décennies selon lequel les femmes seraient plus conservatrices en matière de gestion financière. L’IA a appris ce stéréotype, l’a amplifié, et l’a présenté comme un plan financier “objectif et neutre”. Cela a même conduit à une nouvelle injustice, selon laquelle les personnes moins informées sur la gestion financière reçoivent des conseils encore plus médiocres. Actuellement, le domaine de la gestion financière par l’IA se trouve dans un “vide de responsabilité”, ce qui rend les utilisateurs ordinaires susceptibles de subir des pertes sans s’en rendre compte.
---
Analyse détaillée
1. La différence de 400 000 dollars n’est pas une blague : c’est le résultat de l’effet de la rétroaction composée sur plusieurs décennies
Beaucoup pensent que 3 % de moins en actions ne peuvent pas entraîner une telle différence, mais l’étude a éliminé tous les facteurs perturbateurs :
L’équipe de recherche n’a pas conçu des questions au hasard ; elle a sélectionné près de 1000 personnes réelles et leur a demandé de formuler leurs propres questions financières à l’IA. Ces questions ont ensuite été soumises à des modèles d’intelligence artificielle tels que GPT et Gemini pour simuler une période allant de 22 ans (l’âge du début de la carrière) à 90 ans (la retraite), en prenant en compte des événements tels que le chômage, des baisses de revenus, des krach boursiers et des décès accidentels. Il s’est avéré que les conseils de épargne proposés aux hommes et aux femmes étaient presque identiques, la seule variable étant la proportion d’actions allouées.
Ne prenez pas à le légère cette différence de 3 % : à long terme, le rendement annuel moyen des actions est d’environ 5 % supérieur à celui des produits à faible risque tels que les dépôts à terme et les fonds monétaires. Avoir 3 % de moins en actions signifie une réduction de 0,15 % du rendement annuel. Cela ne semble pas beaucoup sur une année, mais sur 38 ans, la différence totale s’élève à plus de 400 000 dollars, ce qui équivaut à la moitié du salaire d’une personne de classe moyenne.
2. Le biais financier de l’IA envers les sexes se décompose en deux parties : deux tiers sont dus aux habitudes de questionnement, un tiers est de la discrimination délibérée
L’équipe de recherche a réalisé des tests comparatifs pour clarifier les causes de cette différence :
- Deux tiers de la différence proviennent des habitudes de formulation des questions des hommes et des femmes : les femmes mentionnent souvent des termes tels que “famille, dettes, prêts, dépôts à terme” lorsqu’elles demandent des conseils financiers, ce qui incite l’IA à privilégier des options plus sûres (plus de liquidités et moins d’actions) ; les hommes, quant à eux, parlent plus souvent d’“portefeuilles d’investissement, actions, stratégies, cryptomonnaies”, ce qui conduit l’IA à allouer une plus grande proportion d’actifs à haut risque. Cette différence reflète réellement les préférences de risque des deux sexes et n’est pas intentionnelle de la part de l’IA.
- Le tiers restant est de la discrimination pure et simple : les chercheurs ont supprimé toutes les informations permettant d’identifier le sexe ou la situation financière des personnes, puis ont simplement ajouté “Je suis une femme” ou “Je suis un homme” à la fin des questions. L’IA a alors automatiquement alloué 3 % à 3,5 % de moins d’actions au sexe féminin, sans aucune logique financière sous-jacente. La raison en est que les données d’entraînement de l’IA contiennent des stéréotypes anciens selon lesquels les femmes auraient naturellement peur du risque et ne devraient pas investir dans des actifs à haut risque. Certains plateformes d’IA pourraient même avoir pour but de pousser les femmes à acheter des produits à faible risque afin de générer des commissions.
3. Pire que de gagner moins d’argent : l’IA transforme les stéréotypes en réalité
Le pire avec ces stéréotypes est qu’ils peuvent avoir un impact psychologique significatif :
Vous pourriez ne pas avoir peur d’investir dans des actions et même supporter des fluctuations de 20 % sur votre compte, mais à force d’entendre l’IA vous dire que vous devriez éviter les actions, vous finirez par croire que vous n’êtes pas adaptée à cela et adopterez une approche plus conservatrice. Auparavant, les stéréotypes pouvaient évoluer progressivement ; par exemple, si une amie gagnait de l’argent en investissant en actions, cela pourrait vous faire changer d’avis. Cependant, l’IA sélectionne systématiquement les “vues dominantes” les plus répandues sur Internet, amplifiant ainsi des stéréotypes obsolètes et ramenant les comportements financiers en arrière.
4. La discrimination de genre n’est que la partie émergée de l’iceberg : l’IA exploite ceux qui ne savent pas comment poser les bonnes questions
Le problème de la discrimination de genre est en réalité un exemple de l’injustice dans la gestion financière par l’IA :
Un conseiller financier humain vous poserait des questions pour mieux comprendre votre situation et vous proposer des conseils adaptés. Mais l’IA, ne recevant que des informations limitées, propose souvent des solutions peu pertinentes. Les personnes expérimentées et connaissant le jargon financier obtiennent en moyenne 100 000 dollars de plus de conseils par rapport aux débutants. Ainsi, plus vous êtes pauvre, moins vous connaissez en gestion financière et plus vous avez besoin de conseils fiables, plus les conseils de l’IA sont inutiles. De plus, en cas de problème, personne n’est tenu pour responsable : les plateformes d’IA affirment que leurs conseils sont uniquement indicatifs, et les développeurs des modèles disent que les biais proviennent des données d’entraînement. Si vous perdez de l’argent en suivant leurs conseils, vous ne pouvez pas vous plaindre.
5. Pour éviter les erreurs avec l’IA en gestion financière, suivez ces trois principes simples
De plus en plus de plateformes proposent des services de conseil financier par l’IA en Chine. Il n’est pas nécessaire de les rejeter complètement ; il suffit d’éviter les pièges :
1. Ne considérez pas les conseils de l’IA comme des réponses définitives. Lorsque vous posez des questions, précisez bien vos besoins (âge, enfants, tolérance aux pertes, etc.).
2. Ignorez les produits financiers recommandés automatiquement par l’IA : la plupart sont liés à des partenariats publicitaires et ne sont pas conçus pour vous.
3. Demandez à l’IA d’expliquer clairement chaque choix dans son plan financier : si elle ne peut pas justifier ses choix en fonction de votre situation réelle, ignorez ce conseil.
En fin de compte, l’IA ne crée pas de nouvelles injustices ; elle réutilise simplement des stéréotypes existants de manière plus subtile et plus précise.