Résumé des points clés
Au cours de la semaine passée, deux personnalités clés du monde technologique de la Silicon Valley (Amodei, PDG d’Anthropic, et Sax, conseiller en technologie à la Maison Blanche) se sont affrontées ouvertement sur la question de savoir si le pouvoir lié à l’intelligence artificielle de pointe devrait être concentré ou dispersé. Ce débat reflète en réalité une profonde division au sein de la Silicon Valley concernant la voie à suivre pour la régulation de l’IA : d’un côté, il est soutenu par ceux qui prônent un contrôle strict et des mécanismes de réglementation afin que l’IA soit entre les mains d’un petit nombre d’entités régulées et ainsi limitée dans ses risques ; de l’autre, on estime que l’IA est trop puissante et que sa concentration pourrait conduire à un abus de pouvoir, et qu’elle devrait être dispersée par la concurrence sur le marché. Cette controverse s’est étendue à plusieurs dimensions, telles que la “capture par la régulation”, les mécanismes de censure préalable, la narration des médias et les oppositions entre camps industriels.
I. Le faux dilemme entre “concentration” et “dispersion” du pouvoir de l’IA
Amodei (Anthropic) affirme que simplifier le choix en disant “soit entre les mains de quelques entreprises/politiciens, soit une distribution complètement libre” est erroné. Il souligne que des règles de régulation équitables peuvent ancrer le pouvoir dans un système plutôt que dans des individus, ce qui peut prévenir les monopoles – tout comme le système judiciaire protège mieux les plus faibles que la justice privée. Il insiste également sur le fait que l’IA a une tendance naturelle à se concentrer en raison de la “loi de l’échelle” (plus le modèle est grand, plus il est puissant et nécessite davantage de ressources informatiques), et que des modèles ouverts (comme ceux avec des poids définis de manière publique) ne font que transférer le pouvoir à ceux qui disposent du plus grand nombre de puces et de ressources, sans résoudre le problème fondamental.
Sax réplique directement : “Vous pensez que l’IA est trop puissante pour être dispersée ; moi, je pense qu’elle est trop puissante pour être concentrée.” Il craint que la concentration du pouvoir ne donne à un petit nombre d’entités le contrôle de la technologie, augmentant ainsi les risques ; au contraire, une dispersion par la concurrence sur le marché pourrait éviter le monopole d’une seule entité.
II. La “capture par la régulation” : des règles équitables ou un mur construit par l’industrie ?
C’est l’un des points de confrontation les plus intenses entre les deux parties :
- La défense d’Amodei : Il distingue clairement entre “régulation” et “capture par la régulation”, affirmant que certains dans la Silicon Valley assimilent directement la régulation à un contrôle industriel, ce qui est trop simpliste. Le projet de loi californien soutenu par Anthropic prévoit des exemptions pour les petites entreprises, montrant qu’ils ne cherchent pas à construire de barrières, mais plutôt à rendre les règles plus équitables.
- La réplique de Sax : Il cite la théorie de la “capture par la régulation” du prix Nobel en économie Stigler, selon laquelle un secteur peut utiliser ses ressources et son influence pour faire servir les règles de régulation à ses propres intérêts au détriment du public. Il pointe spécifiquement Anthropic, soulignant qu’ils ont embauché de nombreux anciens responsables des politiques sur l’IA de l’administration Biden, créé un vaste département chargé des affaires gouvernementales et mobilisé de nombreuses organisations pour promouvoir le cadre réglementaire de leur choix, ce qui constitue un exemple typique de “capture par la régulation”, utilisant les règles pour exclure les concurrents.
III. Les mécanismes de censure préalable : un “barrage de sécurité” ou un frein à l’efficacité ?
Les deux parties ont des opinions complètement opposées sur la nécessité et la manière de procéder à une vérification des modèles d’IA avant leur déploiement :
- La logique de la “faction sécurité” d’Amodei : L’IA est comparable aux avions ou aux médicaments ; si elle n’est pas bien gérée, cela peut entraîner de graves conséquences. Il propose donc des tests techniques et des audits avant le déploiement, similaires à ceux réalisés par la FDA (Food and Drug Administration) ou la FAA (Federal Aviation Administration), et soutient la création d’organisations autonomes comme FINRA dans le secteur financier pour assurer la sécurité.
- La critique de l’“faction efficacité” de Sax : Il compare ces vérifications au système américain DMV (Department of Motor Vehicles), connu pour sa lenteur et ses procédures complexes. Il affirme que tout type de contrôle entraînera des entreprises à attendre l’approbation, ce qui affaiblira les modèles commerciaux et ralentira la compétitivité des États-Unis sur le marché mondial de l’IA.
IV. Les camps de régulation au sein de la Silicon Valley : d’un débat sur “sécurité” à une lutte multidimensionnelle
Ce débat ne concerne pas seulement deux personnes, mais toute la Silicon Valley :
1. Le moment et l’intensité de la régulation :
- Amodei (Anthropic) : Il prône des tests obligatoires avant le déploiement et considère que le gouvernement a le droit d’arrêter les modèles à haut risque.
- Google DeepMind : Il soutient une gouvernance conjointe de l’industrie et la création d’une institution indépendante sous la supervision fédérale (une sorte de FINRA pour l’IA).
- Meta et Nvidia : Ils s’opposent à des restrictions préalables au niveau des modèles de base, préférant une gestion ciblée au niveau des applications.
2. La voie législative :
- OpenAI : Il souhaite que les grandes états comme la Californie et New York adoptent d’abord des lois similaires sur la sécurité, avant de promouvoir une réglementation fédérale unifiée (fédéralisme inverse).
- Anthropic : Il soutient que les États devraient élever les normes de sécurité et que les lois fédérales ne doivent pas annuler facilement celles des États.
- Les grandes entreprises (comme Microsoft et Nvidia) : Elles s’opposent à la fragmentation législative des États et préfèrent un cadre fédéral souple et uniforme.
3. La distribution de la technologie :
- Microsoft, Meta, Nvidia et d’autres : Ils signent une pétition en faveur des poids définis de manière publique (pour permettre à davantage de personnes d’utiliser les modèles), estimant que cela améliorera la compétitivité des États-Unis.
- Anthropic : C’est le seul laboratoire majeur à ne pas avoir signé cette pétition ; il pense que l’ouverture des poids ne fera que transférer le pouvoir aux géants de l’informatique, sans résoudre le problème de la concentration.
V. La bataille médiatique : les risques de l’IA sont-ils une “préoccupation réelle” ou du “marketing de la peur” ?
Sax attaque également Anthropic, affirmant que sa description des risques liés à l’IA et à la perte d’emplois relève de “marketing de la peur”, et que cela crée un manque de confiance du public envers l’IA, due au fait que quelques élites pensent qu’“seules elles peuvent contrôler la technologie”. Amodei, quant à lui, soutient que souligner les risques vise à promouvoir une régulation plus sûre et à éviter un dérapage technologique.
Enfin, des experts du Forum économique mondial ont souligné que le monde entier cherche un équilibre raisonnable dans la régulation de l’IA : une bonne régulation ne doit pas entraver l’innovation, mais il faut trouver un juste équilibre entre sécurité et efficacité. La clé est la coopération – personne ne peut tout gérer seul, sinon on perd en compétitivité.
Ce débat porte essentiellement sur la question de savoir qui devrait contrôler le pouvoir technologique : croire que quelques entités régulées pourront utiliser l’IA de manière responsable, ou croire que la concurrence sur le marché peut disperser les risques ? Pour l’instant, la Silicon Valley n’a pas trouvé de réponse claire, mais ce débat influencera certainement l’orientation future de la régulation de l’IA.