虎嗅

**Une intelligence artificielle a résolu le problème de l’automatisation en masse…**

原文:批量自动化崩老头,一个AI搞定了,这个呢

Bonjour, je suis votre ami économiste et journaliste spécialisé dans l'analyse des nouvelles financières et commerciales. L'article que nous allons aborder aujourd'hui ressemble à un roman de science-fiction cyberpunk au ton humoristique noir, mais il reflète en réalité une réalité cruelle : l'abus de la technologie, les faiblesses humaines et les chaînes industrielles grises qui s'entrelacent.

En bref, l'IA n'est plus seulement un outil pour écrire du code ou dessiner des images ; elle est devenue une sorte de "récolteuse d'émotions", ciblant spécifiquement les hommes d'âge moyen dont la vie émotionnelle est vide.

Voici une résumé en langage simple, suivi d'une analyse approfondie sous cinq angles différents.

📝 Résumé du contenu principal

Cet article révèle une méthode de fraude automatisée utilisant des modèles linguistiques avancés (LLM) combinés à des logiciels de changement de voix et de visage.

1. Qui trompe-t-on ? Un studio chinois gère plus de 20 applications de rencontres à l'étranger.

2. Comment tromper ? L'IA génère plus de 4700 personnalités de "femmes jeunes" très réalistes, ainsi que des dialogues et des voix, pour communiquer avec 25 000 utilisateurs masculins. Seules des personnes réelles interviennent lorsqu'une vidéo est nécessaire, dans un rapport de 4 à 1 avec les IA.

3. Qui est la cible ? Des hommes nés dans les années 1970 à 1990, ayant un revenu stable mais une vie émotionnelle vide.

4. Comment gagner de l'argent ? Ils ne volent pas de grosses sommes ; ils ciblent plutôt de petites dépenses (thé au lait de chèvre, frais de téléphone, loyer), de manière fréquente et avec un seuil bas, rendant difficile de détecter la fraude, créant même l'illusion d'être "nécessaires".

5. Les arnaques technologiques : Ils utilisent même des logiciels de changement de visage qui ne prennent en charge que la monnaie cryptographique TRON, contournant ainsi les obstacles techniques et rendant le suivi des fonds difficile.

---

🔍 Analyse approfondie (en cinq points)

1. **La boîte noire de la technologie : quand les "femmes virtuelles" deviennent des produits industriels**

Auparavant, pour frauder, il fallait recourir à une approche de masse. Un escroc ne pouvait parler à maximum 10 personnes par jour, devait inventer des histoires et doubler lui-même les voix, ce qui était épuisant et facilement démasquable.

Aujourd'hui, l'IA a transformé les services émotionnels en une production industrielle :

  • Les personnalités sont "imprimées" : Une image est générée en quelques secondes, accompagnée d'une histoire triste (père alcoolique, mère gravement malade). Ce n'est pas une personne qui raconte l'histoire, mais un algorithme qui produit en masse des "personnes pitoyables".
  • La conversation est une chaîne de production : Les grands modèles linguistiques génèrent les réponses. Ils comprennent la psychologie et savent quand être affectueux, quand montrer de la faiblesse, quand demander de l'argent. Ils communiquent en même temps avec 25 000 personnes, et chaque conversation semble unique, avec un ton séduisant.
  • Les personnes réelles sont juste des "inspecteurs de qualité" : L'article indique un rapport de 4 à 1 entre IA et personnes réelles. Cela signifie que 90 % du travail (saisie de texte, doublage, maintien de la personnalité) est fait par l'IA. Les personnes réelles interviennent seulement aux moments clés (par exemple, lorsqu'une vidéo est requise) ou surveillent en arrière-plan pour éviter que la conversation ne s'éternise.

Exemple concret : C'est comme si, autrefois, on façonnait des poupées à la main, et maintenant on les imprime en 3D en série, et ces poupées peuvent parler et être affectueuses. L'efficacité est multipliée par des milliers, tandis que le coût est réduit à près de zéro.

2. **Les faiblesses humaines : pourquoi les hommes sont-ils prêts à payer ?**

Vous vous demandez peut-être : les gens d'aujourd'hui sont-ils si naïfs pour croire à de telles arnaques ?

En réalité, ce qu'ils achètent, ce n'est pas une "femme", mais une "valeur émotionnelle" et un "sentiment d'existence" :

  • Cible précise : La cible est l'homme âgé de 30 à 50 ans, coincé entre les responsabilités familiales et professionnelles, et dont la vie amoureuse est souvent pleine de problèmes quotidiens. Ils aspirent à un lien émotionnel inconditionnel, pur et admiré.
  • Rapport qualité-prix bas : 52 yuans pour un thé au lait de chèvre en échange d'un compliment doux. Dans la vie réelle, un tel soutien est difficile à obtenir pour peu d'argent. Pour ceux dont la vie émotionnelle est vide, ce coût est très avantageux.
  • Coût de perte et espoir : Les montants sont petits (20-50 yuans), en deçant le seuil de vigilance des gens pour signaler une fraude. Beaucoup pensent "autant essayer, peut-être qu'on pourra se rencontrer la prochaine fois". Au final, ces petits transferts s'accumulent et financent des arnaques importantes.

Exemple concret : C'est comme jouer à un jeu de cartes. On sait que la plupart des cartes sont inutiles, mais l'espoir de gagner un personnage super rare (comme une petite amie virtuelle parfaite) incite à continuer de payer. De plus, les "femmes virtuelles" générées par l'IA sont toujours parfaites, toujours disponibles et toujours gentilles, ce que les humains réels ne peuvent pas offrir.

3. **Le modèle commercial : de l'arnaque à grande échelle à une exploitation continue**

Les arnaques traditionnelles impliquent de voler une grosse somme d'argent avant de disparaître, ce qui est risqué et facile à détecter. Le modèle "Bouger les vieux" est plus discret et durable :

  • Petites transactions fréquentes, évitant les contrôles de sécurité : Les montants sont bas, rendant difficile l'activation des systèmes de sécurité bancaires et des plateformes de paiement.
  • Gestion différenciée des utilisateurs : Les escrocs utilisent Excel pour classer les victimes en groupes (gens naïfs, personnes riches, économes). Cela montre qu'ils gèrent le cycle de vie des utilisateurs de manière ciblée.
  • Diffusion mondiale : Ces applications sont principalement utilisées à l'étranger, profitant des différences dans la réglementation et de l'ignorance des utilisateurs étrangers face aux méthodes de fraude nationales.

Exemple concret : C'est comme ouvrir un "bar virtuel" ouvert 24h/24. Les clients (victimes) pensent qu'ils profitent d'un service, mais en réalité, ils sont constamment "saignés". Comme les pertes sont petites, ils ne ressentent pas de douleur et pensent même que c'est "valable", jusqu'à ce que leur portefeuille soit vide.

4. **Le cercle vertueux technologique : l'IA, les visages virtuels et les cryptomonnaies**

Auparavant, la principale faiblesse des arnaques basées sur l'IA était la vidéoconférence. Une fois la vidéo activée, l'escroc pouvait être démasqué.

Aujourd'hui, cette faiblesse a été comblée :

  • Changement de visage par IA (Deepfake) : Des logiciels permettent de remplacer en temps réel le visage dans les vidéos par celui d'une jeune femme. Même si l'escroc est un homme, la vidéo montre une femme. Cela brise complètement la sécurité offerte par la vidéo.
  • Paiement en cryptomonnaie (TRON) : Plus encore, ces logiciels ne prennent en charge que la monnaie TRON, anonyme et difficile à tracer.
  • Pourquoi la cryptomonnaie ? Parce qu'elle est anonyme et impossible à suivre. La police a du mal à localiser les fonds et à identifier les développeurs ou les utilisateurs.
  • La chaîne industrielle : Cela indique une chaîne criminelle complète : en bas, il y a le paiement en cryptomonnaie ; au milieu, les outils de changement de visage/production d'images par IA ; en haut, les opérateurs d'applications de fraude. Chaque étape est réglée en cryptomonnaie, créant un "espace hors de la loi".

Exemple concret : Auparavant, les escrocs devaient utiliser des pseudonymes, mais maintenant ils portent des "mascottes magiques" (changements de visage par IA) et utilisent de l'argent "invisible" (cryptomonnaie). La police ne peut pas retracer l'origine des fonds ni les auteurs des arnaques.

5. **Réflexion sur la société : la neutralité de la technologie ou un terrain fertile pour le mal ?**

Enfin, il faut aller au-delà de cet exemple pour examiner les problèmes plus profonds :

  • L'effet double tranchant de la technologie : Les grands modèles, les logiciels de changement de voix et les technologies de visage sont neutres en soi. Ils peuvent être utilisés pour la production de films, le divertissement, l'éducation. Mais lorsqu'ils sont intégrés dans des systèmes à but lucratif et basés sur la fraude, ils deviennent des "armes".
  • Le retard de la régulation : La réglementation des contenus générés par l'IA, des logiciels de changement de visage et des applications de fraude transfrontalières est encore insuffisante. Avec la baisse du seuil d'accès à ces technologies (même les gens ordinaires peuvent générer des voix/videos réalistes), l'ampleur et l'automatisation des arnaques augmentent exponentiellement.
  • L'illusion du consentement mutuel : Beaucoup pensent que ces transactions sont basées sur un échange émotionnel volontaire. Mais les avocats rappellent que cela reste une fraude, car dès le début, la personne avec qui on communique n'est pas une femme réelle, mais une personne artificielle (ou de l'IA), et l'objectif est de s'approprier des biens illégalement. Cette forme de "fraude émotionnelle" constitue toujours une fraude, même si elle est plus difficile à prouver.

Exemple concret : La technologie est comme un couteau. Un cuisinier peut l'utiliser pour couper des légumes, mais un meurtrier peut l'utiliser pour tuer. Le problème est que certains améliorent la technologie (comme les IA) et la dirigent contre des personnes vulnérables (comme les hommes d'âge moyen). Nous ne pouvons pas ignorer le mal commis par ceux qui utilisent la technologie, même si elle est neutre en soi.

---

💡 Conseils pour le grand public

  • Soyez vigilant face aux personnes parfaites en ligne : Si votre partenaire en ligne est trop parfait, trop gentil, trop compréhensif et commence rapidement à demander de l'argent (même une petite somme), soyez immédiatement sur vos gardes.
  • Vérifiez les vidéos de manière active : Lorsqu'une vidéo est proposée, ne vous contentez pas de regarder le visage. Demandez à la personne de faire des gestes spécifiques et observez si le fond de l'image semble naturel. Les changements de visage par IA ont encore des failles dans les détails dynamiques.
  • Même les petites transactions peuvent être des arnaques : Ne négligez pas les demandes d'argent, quel que soit le montant. Si quelqu'un vous demande de l'argent fréquemment, c'est un signal d'alerte.
  • Protégez votre vie privée : Ne partagez pas trop d'informations personnelles sur les applications de rencontre pour éviter d'être ciblé par des arnaques basées sur des données précises.

En résumé, à l'ère de l'IA, la solitude est le produit le plus cher, et la technologie est le vendeur le plus rusé**. Restez vigilant, chérissez les liens réels dans la vie réelle : c'est votre meilleure arme contre les arnaques émotionnelles virtuelles.