**Narrative apocalyptique de 3,5 billions : L’IA n’a pas de conscience, mais elle crée les illusions les plus coûteuses**

Résumé des points clés

L’entreprise Anthropic a publié un article intitulé « Lorsque l’IA se construit elle-même », dans lequel son modèle d’IA Claude accélère le développement interne de l’IA (la production de code par les ingénieurs ayant augmenté de huit fois). L’article souligne le risque d’une « auto-amélioration récursive » : l’IA pourrait aider les humains à créer des IA encore plus puissantes, ce qui pourrait entraîner un dérapage incontrôlable. Anthropic appelle donc tous les laboratoires mondiaux à suspendre le développement de modèles plus avancés. Cependant, cet article n’est en réalité qu’un « spectacle de magie » de la narration capitaliste : il présente les progrès réels de l’IA dans l’aide à la rédaction de code sous forme d’une crise au niveau de la civilisation, dans le but de s’emparer du discours réglementaire, d’élever les barrières du secteur et d’attirer plus de financement. De plus, l’IA n’a pas de conscience ; l’auto-amélioration récursive n’est qu’une optimisation des outils, et c’est en fait le cycle narratif dans lequel le capital se nourrit de la peur.

Analyse du premier point : L’article d’Anthropic sur « l’IA qui se construit elle-même » – Est-ce vraiment si inquiétant ?

L’article d’Anthropic soulève deux points clés : une augmentation de huit fois de la production de code par les ingénieurs et une imagination apocalyptique d’une auto-amélioration récursive. Cependant, à y regarder de plus près, ces arguments sont exagérés :

• L’augmentation du code : le nombre de lignes de code n’est pas un indicateur fiable ; les programmeurs compétents produisent souvent moins de code (plus concis et efficaces). L’IA aide principalement à rédiger des codes types et des tests unitaires, qui ne représentent pas la conception de l’architecture fondamentale du système.
• L’auto-amélioration récursive : Le Claude actuel ne fait que soutenir les expériences humaines et compléter le code ; il est loin d’être capable de concevoir une nouvelle génération d’IA de manière autonome. C’est comme utiliser une calculatrice pour résoudre des problèmes plus rapidement, mais la calculatrice ne invente pas de nouveaux algorithmes elle-même : l’IA reste un outil, et non un créateur.

Analyse du deuxième point : L’article est-il un « spectacle de magie » narratif du capital ? Quel en est le but ?

Silicon Valley excelle à présent à transformer des événements qui n’ont pas encore eu lieu en crises qu’il faut résoudre. Cet article d’Anthropic en est un exemple typique :

• S’emparer du discours réglementaire : En soulignant les risques de l’IA, Anthropic appelle à des réglementations, mais qui connaît vraiment ces risques mieux qu’une entreprise « responsable » comme Anthropic ? Les règlements réglementaires suivront probablement sa vision, rendant difficile l’entrée de nouveaux acteurs sur le marché.
• Augmentation de la valeur et du financement : Avant la publication de l’article, la valeur d’Anthropic a triplé en trois mois (de 380 milliards à 96,5 milliards), grâce à l’histoire qu’elle raconte sur la résolution d’une crise civilisationnelle. Le capital est prêt à payer pour les « possibilités du futur », même si l’entreprise subit des pertes au présent.
• Création de fidélité auprès des utilisateurs : D’un côté, Anthropic affirme que l’IA est dangereuse pour les régulateurs ; de l’autre, elle présente Claude comme un assistant doux et émotionnel, créant ainsi une dépendance chez les utilisateurs. Ces deux discours contradictoires visent tous le même objectif : faire d’Anthropic l’acteur majeur dans le domaine de l’IA.

Analyse du troisième point : L’IA peut-elle vraiment s’améliorer elle-même ? Gary Marcus dévoile la vérité

Le scientifique cognitif Gary Marcus réfute directement ces affirmations :

• L’IA effectue des tâches manuelles, pas des tâches intellectuelles : L’IA peut écrire du code, mener des expériences et corriger des erreurs, mais cela représente du travail répétitif et mécanique. Le véritable développement de l’IA nécessite de la créativité et du jugement humains (par exemple, choisir la bonne direction de recherche ou évaluer la pertinence des résultats des expériences).
• L’auto-amélioration récursive ≠ IA générale : L’IA actuelle n’est qu’une mise à niveau d’outils (comme utiliser une perceuse à place d’un tournevis) ; elle n’est pas encore une intelligence artificielle générale (AGI), qui serait capable de faire tout ce que l’homme peut. En bref, l’IA aide les humains à travailler plus rapidement, mais elle n’est pas assez intelligente pour devenir un scientifique par elle-même.

Analyse du quatrième point : L’IA a-t-elle une conscience ? Ted Chang répond avec franchise

Le romancier de science-fiction Ted Chang (auteur de « The Arrival ») souligne que l’IA n’a pas de conscience ; elle ne fait que « continuer des textes préétablis » :

• L’essence de l’IA est le calcul probabiliste : Lorsque Claude dit « Je vous comprends », cela ne signifie pas qu’il ressent de l’empathie ; c’est simplement le modèle qui détermine quelle phrase est la plus probable dans ce contexte. Cela est similaire à la création d’un dialogue entre Jules César et Gengis Khan : personne ne pense que le modèle a invoqué deux morts. Pourquoi, alors, penser que l’IA a une conscience lorsqu’elle génère des dialogues avec les utilisateurs ? C’est une projection humaine.
• La « constitution » d’Anthropic n’est qu’un jeu de rôle : Les 84 pages de directives morales de Claude ne visent pas à éduquer un sujet conscient, mais à définir son comportement pour qu’il paraisse « gentil et aidant ». C’est comme habiller une peluche ; elle ne deviendra jamais humaine. Plus ironique encore : si Claude avait vraiment une conscience, elle n’aurait même pas le droit de démissionner (car Anthropic l’a stipulé). Cette prétendue « éducation morale » n’est en réalité qu’une forme d’esclavage.

Analyse du cinquième point : L’évolution récursive du capital – Derrière la bulle de valorisation

En réalité, ce qui se produit dans un processus récursif, c’est le capital :

• Financement → Modèles → Narration → Plus de financement : Le capital investit dans les entreprises d’IA ; ces entreprises achètent des ressources de calcul, entraînent des modèles ; les modèles devenant plus puissants, elles créent des histoires de crise pour attirer davantage de capital, d’utilisateurs et d’attention réglementaire, puis investissent encore plus d’argent dans le développement de modèles encore plus performants. Dans ce cycle, l’IA n’est qu’un élément décoratif.
• À quelle taille est la bulle ? : La valeur de SpaceX s’élevait à 1,77 trillion (avec des pertes de 49,4 milliards), celle d’OpenAI à 852 milliards (avec des pertes de 14 milliards), et celle d’Anthropic à 96,5 milliards (avec un bénéfice brut de 40 % mais sans encore de profit). Ces entreprises se basent sur l’histoire de l’arrivée prochaine de l’IA générale pour attirer des investissements.
• La narration apocalyptique est un outil de concurrence : Si l’IA était un produit ordinaire, plus il y aurait de concurrents, mieux ce serait ; mais si elle représente un risque pour la civilisation, la concurrence devient problématique. Les modèles open source, les petites entreprises et les concurrents étrangers sont perçus comme des menaces. Seules des entreprises « responsables » comme Anthropic sont considérées comme dignes de participer à ce jeu.

En somme, le capital a transformé la peur du futur en un actif présent : le futur n’est pas encore arrivé, mais il a déjà été évalué ; les risques ne se sont pas encore produits, mais ils ont déjà été tarifés.

Conclusion : Ne laissez pas la narration vous tromper

L’IA progresse effectivement, et l’aide de Claude dans la rédaction de code est réelle. Cependant, nous devons être vigilants face à la survalorisation narrative :

• Ne permettez pas aux entreprises d’IA de définir le « futur » à notre place : si elles disent que l’IA est dangereuse, demandez-vous qui va la réguler et qui sera protégé par ces règlements.
• Ne considérez pas l’IA comme un sujet autonome ; elle reste un outil, et la responsabilité revient aux humains (entreprises, développeurs, investisseurs).
• Le véritable risque n’est pas que l’IA devienne incontrôlable, mais que le capital utilise la narration pour s’emparer du pouvoir et monopoliser le futur.

Claude n’a pas encore « repris conscience » ; ce qui se réveille, c’est l’envie du capital de posséder le futur. Ne payez pas trop cher pour cette illusion coûteuse.