第一财经

Banque Ping An lance son propre algorithme de routage de grands modèles, qui se classe en tête d'un classement international reconnu

原文:平安银行自研大模型路由算法登顶国际权威评测榜单

Le “ dispatcher AI” de la Banque Ping An se classe premier au classement mondial : Ce n’est pas la question de “l’esprit le plus puissant”, mais de savoir gérer les dépenses avec précision

Résumé des points clés

En bref, un algorithme AI développé en interne par la Banque Ping An, appelé Paix2, a remporté la première place dans une évaluation internationale réputée sur le “ routage des grands modèles” et occupe cette position depuis près d’un mois.

Qu’est-ce que cela signifie concrètement ?

Auparavant, on considérait que l’IA était puissante en fonction de la complexité de ses grands modèles (comme GPT-4 ou Wenxin Yiyan). Mais la Banque Ping An a démontré que “l’intelligence” n’est pas le seul critère : savoir dépenser et gérer efficacement les tâches est la véritable compétence.

Paix2 fonctionne comme un “dispatcher” ou un “réceptionniste” ultra-intelligent. Lorsqu’un utilisateur pose une question, il ne transmet pas toutes les demandes au modèle le plus coûteux et le plus lent. Au contraire, il évalue d’abord la difficulté de la question :

  • Questions simples (par exemple, savoir la date de la facture) : il les confie à des modèles plus économiques et rapides.
  • Questions complexes (comme analyser des rapports de plusieurs dizaines de pages) : il n’utilise alors que les modèles les plus puissants et les plus coûteux.

Quels en sont les résultats ?

Malgré une baisse quasi négligeable du taux de réponse (seulement de 0,07 %), les coûts ont été réduits de 61 %. Pour une banque qui traite un nombre énorme de transactions chaque jour et qui est extrêmement sensible aux coûts, c’est une percée technologique de grande valeur commerciale. Cela marque le passage de l’application de l’IA d’une approche axée sur la “quête de la puissance absolue” à une approche axée sur le “rapport qualité-prix et l’efficacité”.

---

Analyse approfondie : Comprendre cette percée technologique à travers cinq dimensions

1. Qu’est-ce que le “routage des grands modèles” et pourquoi est-il plus important que les “grands modèles” eux-mêmes ?

Beaucoup pensent encore que l’IA se résume à utiliser le modèle le plus intelligent. Mais dans les applications commerciales réelles, cette approche est comme “envoyer des livraisons en hélicoptère” : c’est possible, mais très coûteux et peu efficace.

Le “routage des grands modèles” (Model Routing) résout ce problème. Imaginez-le comme un “guichet d’accueil” dans un hôpital :

  • Pour un simple rhume ou une fièvre (tâche simple), on va directement au cabinet médical régulier, c’est rapide et peu cher.
  • *Pour des cas complexes*, il faut un spécialiste, ce qui prend plus de temps, mais est nécessaire.

Le classement RouterArena évalue non pas qui est le plus capable de résoudre les problèmes, mais qui fait le meilleur tri des demandes, qui économise le plus d’argent et qui répond le plus rapidement.

  • Approche traditionnelle : toutes les demandes sont envoyées au modèle le plus puissant, entraînant un gaspillage de ressources et des réponses lentes pour les tâches simples.
  • Approche de routage : les demandes sont d’abord analysées, puis orientées vers le modèle le plus approprié. Paix2 a trouvé un équilibre parfait entre précision, coût et efficacité. Pour une banque, cela signifie que des millions de requêtes peuvent être traitées chaque jour, et utiliser le modèle le plus puissant à chaque fois entraînerait des coûts exorbitants. L’apparition de Paix2 rend l’application de l’IA plus durable et scalable.

2. Quel est le secret derrière les 77,63 points obtenus par Paix2 ?

Voici les données clés de Paix2, expliquées simplement :

  • Taux de précision de 79,7 % :
  • Le modèle le plus précis du classement atteint 79,77 %. Paix2 n’a que 0,07 point de retard.
  • En termes simples : c’est comme si deux cuisiniers préparaient un plat ; le plat de l’un est jugé “délicieux” tout comme celui de l’autre.
  • Coût de 0,27 dollar par millier de requêtes :
  • Cela représente une réduction de 61 % par rapport au modèle le plus précis.
  • En termes simples : si le modèle le plus précis était un restaurant trois étoiles Michelin, chaque plat coûterait 100 dollars ; Paix2, c’est comme un restaurant de qualité à prix abordable, avec des plats à 39 dollars. Pour une institution qui traite de grandes quantités de données, cette économie est considérable.
  • Score de sélection de modèle de 89,67 sur 100 :
  • Cela signifie que Paix2 sait non seulement quel modèle utiliser, mais qu’il le fait presque toujours correctement.
  • En termes simples : le “guichetier” est très professionnel ; il dirige chaque utilisateur vers le service approprié, évitant de gaspiller les ressources des experts.

Conclusion : Paix2 gagne grâce à son “rapport qualité-prix”. Cela prouve que dans le domaine de l’IA, être “suffisamment performant et économique” est souvent plus rentable que d’être “extrêmement coûteux”.

3. Comment Paix2 parvient-il à ces performances incroyables ?

La Banque Ping An n’a pas recouru à des techniques mystérieuses, mais à une architecture technologique solide et complète. Voici les trois étapes de son fonctionnement, comme celui d’un “intendant intelligent” :

1. Première étape : Comprendre le langage humain (compréhension sémantique avec BERT) :

  • Rôle : déterminer ce que l’utilisateur veut vraiment.
  • Exemple : L’utilisateur demande “Pourquoi ma carte n’a-t-elle pas reçu d’argent ?”
  • Comment BERT fonctionne : il identifie que il s’agit d’une question de transaction, impliquant des flux de fonds et nécessitant l’accès à une base de données et des jugements logiques, pas juste une conversation banale.

2. Deuxième étape : Respecter les règles fondamentales (règles expertes) :

  • Rôle : dans le secteur bancaire, certaines règles strictes ne doivent pas être enfreintes.
  • Exemple : Si l’utilisateur demande de falsifier une facture ou si la question concerne la sécurité des données financières, la demande est immédiatement interceptée ou redirigée vers le modèle le plus sûr et le plus conforme.
  • Rôle des règles expertes : elles assurent la sécurité et la conformité, servant de “freins” pour l’IA bancaire.

3. Troisième étape : Gérer les dépenses avec précision (utilisation de modèles de recommandation classiques) :

  • Rôle : parmi les modèles disponibles, choisir celui qui offre le meilleur rapport qualité-prix.
  • Exemple : Après identification de la nature de la question et vérification de la conformité, les modèles A (rapide mais peu efficace), B (lent mais intelligent) et C (moyen) sont évalués. Le modèle C est sélectionné car il répond rapidement et à bas coût.
  • Comment Paix2 fonctionne : il prend en compte la charge des serveurs, la vitesse de réponse des modèles et le coût par appel pour optimiser les choix.

Conclusion : Ce n’est pas la victoire d’un seul algorithme, mais le résultat d’une combinaison de compréhension sémantique, de règles commerciales et d’optimisation des opérations. Cette architecture est solide, à la fois technique et adaptée aux besoins du secteur bancaire.

4. Pourquoi les banques ont-elles particulièrement besoin de cette technologie ?

Vous vous demandez peut-être pourquoi les entreprises technologiques ne s’en occupent pas elles-mêmes. La raison est que les scénarios commerciaux bancaires sont complexes, volumineux et sensibles :

  • Diversité des tâches :
  • Le matin, un utilisateur demande le taux de change ; l’après-midi, un conseiller client analyse les rapports financiers d’une entreprise et donne des recommandations de crédit ; le soir, un agent clientèle traite une plainte. Chaque tâche nécessite des approches différentes.
  • Sensibilité aux coûts :
  • Les entreprises technologiques ont des millions d’utilisateurs, mais les banques ont des millions de transactions et de données, avec des exigences élevées en termes de stabilité.
  • Utiliser un seul grand modèle entraînerait des coûts élevés. Paix2 permet d’économiser des millions, ce qui est déterminant pour la rentabilité des projets d’IA.
  • Indépendance et contrôle :
  • En tant que banque d’État de grande envergure, il est essentiel de maîtriser ses propres capacités en IA. Dépendre d’API externes est coûteux et expose aux risques de sécurité des données. Le développement interne de Paix2 permet à la banque de gérer elle-même ses stratégies d’optimisation de l’IA.

5. Perspectives pour l’avenir : De la “démonstration de technologie” à une “valeur réelle”

L’objectif final de cette percée n’est pas seulement de se classer haut dans les classements, mais de mettre en œuvre cette technologie dans de nombreux scénarios concrets :

  • Applications concrètes :
  • Paix2 est déjà utilisé par l’assistant numérique de la Banque Ping An, “Xiaopai”. Cela signifie que lorsque vous interagissez avec l’IA de la banque, un système intelligent travaille en arrière-plan pour vous faire économiser de l’argent et accélérer les processus.
  • À l’avenir, cette technologie sera étendue à des domaines tels que le contrôle de risque intelligent, la conseil en investissement et l’assistance à la rédaction de code.
  • Avantages pour les utilisateurs :
  • Réponses plus rapides : les questions simples sont traitées rapidement, sans attendre que les modèles les plus puissants soient disponibles.

Service plus fiable : les ressources du système sont mieux allouées, réduisant les risques de panne pendant les périodes de pointe.

Coûts plus bas : les économies réalisées par la banque peuvent se traduire par des services financiers plus avantageux ou des frais d’exploitation plus bas, bénéficiant ainsi aux utilisateurs.

  • Enseignements pour l’industrie :
  • Ce succès rappelle à l’ensemble de l’industrie de l’IA que la compétition ne se fera plus seulement sur la taille des modèles, mais aussi sur la capacité de conception et de gestion des systèmes.
  • Ceux qui utiliseront efficacement les ressources, choisiront les bons modèles et contrôleront au mieux les coûts réussiront dans la mise en œuvre à grande échelle de l’IA. La Banque Ping An montre ainsi une voie de développement de l’IA pragmatique, efficace et durable.

En résumé :

La première place de Paix2 marque l’entrée de l’application de l’IA dans une “ère de gestion précise des dépenses”. Cela indique que la compétition future en matière d’IA ne se fera pas seulement sur la puissance des modèles, mais aussi sur leur efficacité et leur rentabilité. Pour les banques et les utilisateurs, cela signifie l’arrivée de services AI plus abordables, plus rapides et plus fiables.