Résumé des principaux points
Cet article dévoile l’« état d’évolution » actuel des parcs de fraude par téléphonie dans le Sud-Est asiatique : l’intelligence artificielle a complètement industrialisé tout le processus de fraude, le transformant en une chaîne de production efficace. Depuis la recherche de victimes potentielles en masse, en la construction de relations de confiance grâce à des personnalités fictives, jusqu’à la vérification visuelle par vidéo ou par reconnaissance faciale officielle, chaque étape est assurée par des outils d’IA disponibles à bas coût et à haute efficacité. La dernière ligne de défense, qui reposait sur l’idée que « la vidéo prouve que la personne est bien réelle », a été complètement déjouée.
---
Analyse détaillée des points clés
1. La technologie de changement de visage en temps réel par l’IA a évolué au point de tromper les systèmes de détection professionnels et de contourner les systèmes de reconnaissance faciale des banques
Auparavant, lorsque l’on recevait une demande d’argent de la part d’un proche ou d’une personne rencontrée en ligne, la première réaction était de demander une vidéo pour s’assurer de la véracité de l’identité de l’autre partie. Cette méthode est désormais totalement inefficace. L’outil « Hao Tian AI », pour moins de 2000 dollars de frais annuels, permet de réaliser des changements de visage en temps réel dans tous les principaux logiciels de vidéo. Il suffit de soumettre une photo de soi pour que l’IA génère un visage virtuel identique au vôtre, avec des mouvements de clignement des yeux, de haussement de sourcils et de toucher du visage parfaitement reproduits, y compris des détails tels que la barbe ou les cernes. De plus, les modèles d’IA spécialisés dans la détection des faux visages considèrent ces vidéos comme authentiques. Même des ajustements mineurs dans les mouvements peuvent permettre de tromper les systèmes de reconnaissance faciale des banques. Le seul défaut de cette technologie est que l’IA ne comprend pas bien les notions d’espace 3D ; lorsque la personne bouge les doigts devant son visage, les traits du visage peuvent se déformer et les yeux peuvent sembler bouger de manière anormale. Dans ce cas, demander à l’autre partie de jouer à un jeu comme « pierre-papier-ciseaux » peut aider à détecter la supercherie.
2. Les fraudeurs « entièrement automatisés » n’ont même plus besoin d’une personne réelle en arrière-plan
Auparavant, les systèmes de changement de visage en temps réel nécessitaient au moins une personne réelle dont la taille et la stature correspondaient à celles de la personne à imiter. Les nouveaux modèles d’IA éliminent cette contrainte : il suffit de fournir une photo, et l’IA génère une personne virtuelle capable de réagir en fonction du contenu de la conversation, d’exprimer des émotions et de créer des environnements réels en temps réel. Par exemple, si la personne en ligne prétend avoir acheté une voiture de luxe, l’IA peut se déplacer près de la voiture et en prendre des photos sans aucune faille, sans que le fraudeur ait besoin de posséder réellement la voiture ou une villa. Le coût de cette mise en scène est presque nul.
3. Les fraudeurs n’ont même plus besoin de parler des langues étrangères ; l’IA leur permet de séduire 50 000 victimes par mois
Auparavant, les gangs de fraude devaient se charger eux-mêmes de créer des personnalités fictives pour différents pays et cultures, apprendre les connaissances de base correspondantes et parler les langues locales, ce qui ralentissait considérablement leur activité. L’IA a éliminé ce coût humain. Les fraudeurs, même s’ils ne parlent que leur langue maternelle, peuvent utiliser des outils tels que GPT et Gemini pour générer des conversations crédibles. Ils peuvent ainsi simuler des conversations sur des sujets variés, sans avoir besoin de connaissances réelles. Un fraudeur peut ainsi contacter 50 000 victimes issues de plus de dix pays en un mois.
4. Il existe désormais des « boutiques d’achat en une seule étape » pour la fraude, et ouvrir un parc de fraude est aussi simple que de créer une entreprise ordinaire
On pourrait penser que la fraude nécessite des compétences techniques et des systèmes complexes. En réalité, il existe des plateformes spécialisées comme 007TG, qui ressemblent à des services de commerce électronique normal. On y trouve tous les outils nécessaires : des outils pour créer des comptes sociaux dans plusieurs pays, des IP fictives pour masquer l’origine des utilisateurs, et des logiciels de gestion des employés (y compris des analyses des émotions des victimes). Il suffit de payer pour mettre en place un système de fraude entièrement géré par l’IA.
5. Ces outils d’IA ne nécessitent aucune compétence technique et permettent de gagner de l’argent sur les informations des victimes
Beaucoup pensent que ces technologies de changement de visage et de conversation sont très avancées. Cependant, une analyse des logiciels utilisés par Hao Tian AI a révélé que toutes les fonctionnalités clés proviennent de logiciels open source disponibles gratuitement en ligne. Les vendeurs n’ont pas effectué de développement réel, mais ont simplement assemblé plusieurs outils gratuits pour en créer une interface facile à utiliser. Plus de 10 entreprises dans le marché gris du Sud-Est asiatique vendent de tels outils, et Hao Tian AI a déjà généré plus de 4 millions de dollars en six mois. L’IA est devenue une infrastructure essentielle pour l’industrie de la fraude.
---
Mise en garde pour le grand public
Cessez de croire que la vidéo prouve automatiquement l’authenticité de la personne. Lorsqu’on vous demande de payer de l’argent, que ce soit de la part d’un proche, d’une personne rencontrée en ligne ou d’une institution officielle, vérifiez d’abord les informations par téléphone ou en personne avec des connaissances. Ne vous fiez pas uniquement à la vidéo.