Résumé des principaux points
Alors que l'IA contribue au développement économique, elle complique également les risques de sécurité en ligne. Le Congrès mondial sur l'économie numérique de 2026 a porté son attention sur le thème "L'ère de l'IA : la défense doit précéder l'attaque". Les experts ont souligné que les attaques menées par l'IA présentent de nouvelles caractéristiques : une plus grande intelligence, une efficacité accrue et une portée plus large. Notre pays s'efforce de construire un système de sécurité intelligente à partir de trois aspects : la réglementation, la technologie et l'écosystème. Parallèlement, l'industrie de la sécurité en ligne connaît des opportunités considérables, avec des villes comme Pékin qui ont déjà pris les devants dans le développement de cette industrie.
Les trois caractéristiques des attaques en ligne à l'ère de l'IA
L'IA rend les attaques de hackers plus difficiles à détecter, principalement grâce à trois changements :
1. Les attaques deviennent plus "intelligentes" : auparavant, les hackers utilisaient du code fixe ; aujourd'hui, l'IA leur permet d'apprendre automatiquement à trouver des vulnérabilités et même d'imiter le comportement humain pour contourner les défenses (par exemple, les e-mails de phishing générés par l'IA sont plus crédibles).
2. La vitesse des attaques est exponentielle : l'IA peut scanner des milliers de systèmes en quelques minutes, ce qui accélère considérablement le processus et réduit le temps de réaction des défenseurs.
3. La portée des attaques s'étend : elles ne se limitent plus aux ordinateurs et aux téléphones portables traditionnels, mais touchent également les équipements industriels, les voitures intelligentes et les systèmes financiers. Tous les domaines utilisant l'IA sont potentiellement cibles.
En somme, l'IA transforme les hackers d'opérateurs manuels en agents automatisés, augmentant ainsi la difficulté des défenses.
Les trois directions pour construire un système de sécurité intelligente
Face à ces nouvelles menaces, notre pays met en place une "réseau de protection complète", en suivant trois approches :
1. La réglementation ouvre la voie : l'élaboration de règles (par exemple, des lois relatives à la sécurité de l'IA) pour définir les comportements interdits et fixer des limites pour les entreprises et les utilisateurs.
2. La technologie devient une arme : utilisation de l'IA pour contrer les attaques menées par l'IA, comme le développement de systèmes capables d'identifier automatiquement ces dernières.
3 Collaboration entre tous : entreprises spécialisées dans l'IA, sociétés de sécurité et universités doivent travailler ensemble, du développement à la maintenance quotidienne des technologies, afin de détecter et de gérer les vulnérabilités dès leur apparition.
Ce système couvre tout le cycle de vie de l'IA, équivalant à lui fournir une sorte d'"armure anti-balles".
Quatre stratégies concrètes pour faire face aux risques de sécurité liés à l'IA
Les experts proposent des directives pratiques axées sur une approche proactive et le renouvellement technologique :
1. Comprendre les menaces : étudier activement les risques potentiels posés par l'IA et élaborer des plans préventifs.
2 Utiliser l'IA pour la défense : intégrer l'IA dans les processus de protection (par exemple, analyser le trafic en ligne pour détecter rapidement les attaques anormales) et mettre en place des systèmes de décision pilotés par l'IA pour répondre automatiquement aux attaques.
3 Corriger les failles des modèles d'IA : ces derniers peuvent contenir des vulnérabilités ; il est nécessaire de collaborer avec les sociétés de sécurité pour les identifier et les corriger (par exemple, en simulant des attaques lors du processus d'entraînement des modèles).
4 Renforcer ses propres capacités : soutenir la recherche en technologie de sécurité de l'IA par les universités et les entreprises (par exemple, mettre en place des mécanismes de protection pour empêcher que l'IA ne soit utilisée à des fins malveillantes).
En somme, il s'agit d'utiliser les mêmes outils technologiques pour contrer les attaques.
L'IA ouvre des opportunités considérables pour l'industrie de la sécurité en ligne
L'IA offre de grandes perspectives pour cette industrie :
- Un marché en croissance : l'industrie de la sécurité en ligne connaîtra une expansion significative, avec des clients gouvernementaux et industriels qui devront mettre à niveau leurs systèmes de sécurité (par exemple, les banques et les usines doivent investir dans de nouvelles protections face aux attaques menées par l'IA).
- Les entreprises traditionnelles bénéficient également : elles peuvent saisir ces opportunités en améliorant leurs technologies (en intégrant l'IA à leurs produits existants).
- Des objectifs de défense plus clairs : les gouvernements et les entreprises doivent mettre en place des systèmes de défense intégrés et approfondis, afin d'empêcher les attaques de pénétrer efficacement.
En somme, l'IA représente une opportunité majeure pour l'industrie de la sécurité en ligne.
Comment les régions peuvent-elles se positionner ? Le cas de Pékin
Pékin est déjà un leader dans ce domaine :
- La plus grande échelle du pays : l'économie numérique de Pékin dépasse le milliard, et la ville est l'un des principaux pôles technologiques du pays.
- Pionnière dans plusieurs domaines : elle a été parmi les premières à mener des recherches sur l'évaluation des modèles d'IA (détectage de vulnérabilités) et la gouvernance de la sécurité.
- Objectif pour 2030 : Pékin vise à devenir une référence mondiale en économie numérique et continuera à développer des technologies clés pour construire un écosystème de sécurité solide.
D'autres régions pourraient suivre l'exemple de Pékin en augmentant leurs investissements dans l'industrie de la sécurité en ligne.
Conclusion
À l'ère de l'IA, la sécurité ne consiste pas à attendre passivement les attaques, mais à mener une course entre la défense et l'attaque. Les gouvernements établissent des systèmes, les entreprises améliorent leurs technologies, et l'industrie se développe. L'objectif final est de permettre à l'IA de stimuler l'économie tout en évitant qu'elle ne devienne une menace pour la sécurité. Pour le grand public, cela signifie pouvoir utiliser des produits basés sur l'IA avec plus de confiance.