**Anthropic, Dario Amodei, et la “dernière entreprise privée”**

Résumé des points clés

Dario Amodei, le fondateur d’Anthropic, est une personnalité pleine de contradictions : d’un côté, il met en garde à haute voix contre les dangers potentiels de l’intelligence artificielle supérieure, tels que les armes biologiques et le chômage de masse, tout en menant son entreprise dans la recherche et le développement des modèles d’IA de pointe ; il est convaincu que l’IA finira par apparaître et qu’il vaut mieux en prendre le contrôle plutôt que de la laisser entre les mains d’autres ; il utilise une approche basée sur une “constitution pour l’IA” et des structures de fiducie dans le but de garantir sa sécurité, mais se retrouve dans la situation difficile de détenir à la fois le rôle d’athlète et celui d’arbitre, ce qui entraîne une concentration du pouvoir ; il imagine que l’IA pourrait guérir le cancer et bénéficier à toute l’humanité, tout en cachant des ambitions hégémoniques centrées sur les États-Unis ; il serait même prêt à faire d’Anthropic “la dernière entreprise privée au monde”. Bien qu’il évite de répondre directement à ces rumeurs, sa logique fondamentale reste la même : seul celui qui détient le pouvoir peut vraiment assurer la sécurité.

I. Dario, plein de contradictions : d’un côté il crie “un abîme devant nous”, de l’autre il accélère

Les contradictions de Dario ne sont pas feintes ; elles proviennent de deux obsessions :

1. Une peur de la lenteur : son père est décédé du virus de l’hépatite C avant que le nouveau médicament ne soit approuvé, sept ans plus tard. Cet événement l’a convaincu que “la lenteur est un péché” et que la science doit avancer rapidement pour sauver davantage de vies.

2. Le dilemme du prisonnier dans l’industrie : il est conscient des dangers de l’IA, mais OpenAI et Google sont également engagés dans ce domaine, et d’autres pays ne s’arrêteront pas non plus. S’Anthropic s’arrête, d’autres moins fiables créeront peut-être l’IA supérieure en premier. Donc, sa logique est : “Puisque tout le monde veut la développer, autant que ce soit nous qui le faisons pour pouvoir ensuite la contrôler.”

D’un côté, il énumère dans ses articles les 100 dangers de l’IA ; de l’autre, il utilise l’IA pour que son entreprise code plus rapidement. Pour lui, il s’agit non pas d’une contradiction, mais d’un “risque nécessaire” : il faut prendre le contrôle avant de pouvoir parler de sécurité.

II. Les stratagèmes de sécurité d’Anthropic : seuls ceux qui tiennent le volant sont rassurés

Dario a quitté OpenAI parce que les personnes qui développent les modèles n’ont pas le dernier mot. Après la création d’Anthropics, il a intégré le concept de “contrôle” dans l’ADN même de l’entreprise :

• Une “constitution pour l’IA” : il a rédigé un ensemble de “valeurs” pour que les modèles vérifient eux-mêmes si leurs réponses sont conformes à ces principes. Mais cette “constitution” a été établie par Anthropic elle-même, ce qui revient à une entreprise décidant à la place de toute l’humanité de la nature de l’IA.
• Un fiduciaire pour les intérêts à long terme : il a recruté des personnes extérieures pour créer un fiduciaire qui, en théorie, empêcherait l’entreprise de sacrifier la sécurité au profit du profit. Cependant, le pouvoir reste entre les mains d’Anthropic ; il s’agit essentiellement de “se surveiller soi-même”.
• Être à la fois athlète et arbitre : Anthropic développe les modèles, évalue les risques, fixe les normes et propose des conseils aux autorités de régulation… tout est fait en interne. Comme un joueur qui se met également en tant qu’arbitre et prétend être “équitable”… vous y croyez ?

Sa vision de la sécurité repose sur le principe : “Seul moi comprends vraiment l’IA, donc seul moi peux la gérer.”

III. L’“hégémonie américaine” pour l’avenir de l’IA : des ambitions unipolaires

Dario affirme que l’IA pourrait guérir le cancer et permettre aux pays pauvres de sauter l’étape de l’industrialisation, mais son idée de “bénéficier à toute l’humanité” est conditionnée par le fait que les États-Unis soient les premiers à obtenir l’IA :

• Il prône que les États-Unis et leurs alliés bloquent l’accès aux puces avancées pour empêcher des concurrents stratégiques tels que la Chine d’obtenir les ressources nécessaires au développement de modèles performants.
• Il utilise l’image d’un “1991 éternel” pour décrire l’avenir idéal : après la dissolution de l’Union soviétique, les États-Unis auraient une supériorité militaire et économique grâce à l’IA, qu’ils partageraient ensuite avec les autres.
• Lorsque la société chinoise DeepSeek réussit à créer des modèles compétitifs avec des ressources limitées, il affirme que cela prouve la puissance de la Chine et justifie encore plus le blocus des technologies… une logique typique du “plus l’adversaire est fort, plus il faut le bloquer”.

Son idée d’un monde “à tous” n’est en réalité qu’une vision où “les États-Unis prennent les devants, puis Anthropic gère”.

IV. “La dernière entreprise privée au monde” : l’imaginaire ultime du pouvoir

Il y a des rumeurs selon lesquelles Dario voudrait que Anthropic devienne “la dernière entreprise privée au monde”, ne laissant plus qu’elle et les gouvernements nationaux. Il n’a pas répondu directement, mais ses actions parlent pour lui :

• Il a éliminé tous ceux qu’il considère comme “non fiables” : le marché (par crainte de l’appétit pour le profit), le public (qui ne comprend pas la technologie), les autres entreprises (pas assez prudentes) et les gouvernements non occidentaux (autoritaires). Il ne reste donc qu’Anthropic.
• Lorsqu’il a répondu aux rumeurs, il a parlé de “guérir le cancer” comme d’un objectif noble pour éviter de aborder la question fondamentale de la concentration du pouvoir.

Cela rappelle beaucoup le pharaon dans “Les Gardiens de la Terre” : il se considère comme un sauveur, mais créant en même temps le désastre. Dario pense également être le seul capable de sauver l’humanité… sans réaliser que confier tout le pouvoir à une entreprise représente le plus grand danger.

Conclusion

Dario est un idéaliste sincère, mais la sincérité ne signifie pas nécessairement avoir raison. Il veut protéger le monde en contrôlant l’IA, mais il se transforme peu à peu en centre du pouvoir. Comme la fin de “Les Gardiens de la Terre” l’indique : “Rien n’est terminé, et rien ne finira jamais.” Lorsqu’une entreprise pense pouvoir décider à la place de toute l’humanité, elle risque de devenir l’“abîme” qu’elle-même a prévenu.