虎嗅

Titre français : Sexe, IA et l’apocalypse

原文：性、AI与末日浩劫

阅读原文

Bonjour ! Je suis votre ami journaliste financier et économiste.

Cet article de fond intitulé « Sex, AI, and the Apocalypse », écrit par Ian Duncan, ressemble à un roman d’horreur mêlant « Silicon Valley », « Le Parrain » et « Matrix ». Il ne s’agit pas seulement de discuter de la question de savoir si l’IA pourrait détruire l’humanité, mais plutôt d’un rapport d’analyse sociologique qui dévoile, sous le vernis de « rationalité » brillant du cercle des spécialistes de la sécurité de l’IA à Silicon Valley, des intérêts complexes, des émotions, des croyances et même de la violence.

Pour que vous compreniez facilement cet article complexe, je l’ai découpé en résumés clés et en une analyse approfondie sous cinq dimensions.

---

📝 Résumé des points clés

En une phrase :

En 2026, le démissionnement d’un chercheur en IA de premier plan, avertissant que l’IA pourrait détruire l’humanité, a provoqué un choc mondial. Mais derrière cela ne se cache pas simplement une mise en garde scientifique ; il s’agit d’un cercle d’élites fermé qui a évolué au fil de plus de 20 ans à partir d’une sous-culture rationaliste. Ce cercle, grâce à son système de pensée unique (comme les romans fanfics de « Harry Potter »), à ses réseaux sociaux et sexuels complexes, au soutien financier massif (de milliardaires tels que Peter Thiel) et à son influence politique sur les gouvernements, a construit une sorte d’empire invisible cherchant à contrôler le destin futur de l’IA. L’article se demande : comment pouvons-nous croire à leurs promesses de sécurité lorsque le « sauveur », le « régulateur », l’investisseur » et l’évaluateur** font tous partie du même petit groupe ?

---

🔍 Analyse approfondie : cinq aspects détaillés

1. Origines et croyances : de la « rationalité » à une « nouvelle religion »

Interprétation simple : comment ces personnes sont-elles passées de « gens intelligents » à des « adeptes » ?

L’histoire commence avec Eliezer Yudkowsky, un jeune génie extrêmement arrogant qui se croyait le seul à voir clairement les risques de l’IA. Il a fondé le « Machine Intelligence Research Institute » (MIRI) et a écrit un célèbre roman fanfic de « Harry Potter » intitulé « Harry Potter and the Path of Reason ».

  • Pourquoi « Harry Potter » ? Parce que le personnage principal, Harry, est un génie entouré de gens insignifiants, ce qui touche un point sensible chez les geeks de Silicon Valley : se sentir intelligent mais exclu.
  • En quoi le « rationalisme » est-il devenu autre chose ? À l’origine, il prônait l’utilisation de la logique pour surmonter les préjugés, mais il est devenu une **identité ». Rejoindre ce cercle signifiait « surmonter la stupidité humaine » et être considéré comme un « élu ».
  • Ritualité : Ils célèbrent une « fête du solstice d’hiver » avec des rituels, des lectures de textes sacrés et des méditations dans le noir. Lorsqu’une personne commence à traiter une hypothèse scientifique (comme la fin du monde par l’IA) avec une dévotion proche de celle d’une religion, et qu’elle pense que seul son cercle peut comprendre cette « vérité », la sous-culture se transforme en une sorte de religion.

Commentaire du journaliste : Lorsqu’un groupe commence à diviser les gens en « amis » et en « ennemis » en fonction de leur rationalité ou de leur intelligence, et qu’il utilise des rituels exclusifs pour se rassembler, il s’éloigne de l’esprit scientifique et entre dans le domaine de la croyance.

2. Socialisation et émotions : un réseau relationnel inévitable

Interprétation simple : pourquoi est-il si difficile pour eux de dire « non » ? Parce que leurs collègues, leurs patrons, leurs partenaires sont tous les mêmes personnes ?

C’est la partie la plus choquante de l’article. Les membres de ce cercle sont très concentrés dans la Silicon Valley, vivent dans le même immeuble, sont collègues, colocataires, partenaires financiers et même partenaires sexuels.

  • Polyamorie et pouvoir : L’article mentionne une femme nommée Aella, une figure de proue du groupe qui a organisé des parties avec une censure idéologique stricte. Si vous ne croyez pas en l’accélérationnisme de l’IA, vous n’avez peut-être même pas le droit d’être avec elle. Le sexe devient ici un test de loyauté et une monnaie sociale.
  • Enlèvement émotionnel : En raison de la petite taille de leur réseau social, si vous remettez en question un point de vue ou refusez une demande, vous risquez de perdre votre emploi, votre logement et tous vos amis. Cette structure sociale de tout ou rien rend très difficile le maintien d’une pensée critique indépendante.
  • Manipulation psychologique : L’article révèle que des organisations comme le CFAR (Center for Applied Rationality) auraient mené des « débogages » sur leurs employés, c’est-à-dire des interventions psychologiques. Si vous ressentez de l’anxiété ou de l’hésitation, vous êtes considéré comme ayant un « défaut mental » et devez être « corrigé ».

Commentaire du journaliste : Dans un environnement professionnel normal, vous pouvez détester votre patron mais trouver des amis pour en parler. Mais dans ce cercle, votre patron, votre thérapeute, votre partenaire sexuel et votre propriétaire peuvent être la même personne. Cette intégration profonde d’intérêts et d’émotions rend presque impossible toute surveillance interne.

3. Capital et politique : le « business de l’apocalypse » des milliardaires

Interprétation simple : qui finance tout cela ? Et où va l’argent ?

La recherche sur la sécurité de l’IA est très coûteuse ; l’argent provient principalement de milliardaires de la technologie comme Peter Thiel.

  • Les motivations de Thiel : Thiel est non seulement un investisseur, mais aussi un militant politique. Il a financé MIRI ainsi que Curtis Yarvin, un blogueur prônant l’abolition de la démocratie et l’établissement d’un régime dirigé par les entreprises. Thiel pense que la démocratie et la régulation traditionnelles sont des obstacles au « Antéchrist », et que seuls une minorité d’élites peuvent maîtriser l’IA.
  • Influence politique : Thiel a financé la campagne électorale de JD Vance, l’actuel vice-président, dont les idées sont fortement influencées par Yarvin. Cela signifie que les responsables de la politique de sécurité de l’IA pourraient être des alliés politiques de ces théoriciens de l’apocalypse.
  • Conflits d’intérêts : Thiel finance à la fois des recherches sur la façon dont l’IA pourrait détruire le monde et des entreprises qui créent les IA les plus puissantes (comme Palantir, Anduril). Il s’inquiète à la fois d’un contrôle incontrôlé de l’IA et favorise sa militarisation et sa commercialisation.

Commentaire du journaliste : C’est un exemple typique de « capture réglementaire » (Regulatory Capture). Lorsque les financeurs, les chercheurs et les responsables politiques proviennent du même cercle et partagent la même vision du monde basée sur l’hégémonie des élites, la sécurité n’est plus destinée à protéger le public, mais à protéger les intérêts et le pouvoir de ce cercle.

4. Violence et division : lorsque la « rationalité » devient extrême

Interprétation simple : ce cercle est-il vraiment aussi « rationnel » ? Regardez ces fins sanglantes.

L’article cite des cas choquants montrant que l’intérieur de ce cercle n’est pas du tout pacifique et rationnel, mais plutôt plein de paranoïa et de violence.

  • Les « Zizians » : Un groupe extrémiste qui s’est séparé du cercle rationaliste. Ils croient en une position intransigeante et ont développé une théologie déformée, affirmant que leur corps contient un « hémisphère maléfique ». Finalement, ce groupe a été impliqué dans plusieurs meurtres, y compris l’assassinat de leur propriétaire et de policiers.
  • Effondrement psychologique : De nombreux anciens membres (« post-rationalistes ») ont dénoncé ouvertement que ce cercle avait détruit leur santé mentale, les plongeant dans des hallucinations et la dépression.
  • Nettoyage interne : Les attaques contre les dissidents au sein du cercle sont très brutales. Si vous ne partagez pas la théorie de la fin du monde par l’IA ou l’accélérationnisme, vous pouvez être marginalisé ou étiqueté comme participant à une « guerre cognitive ».

Commentaire du journaliste : Si un groupe qui prétend être rationnel et logique développe des comportements violents et des meurtres, il y a certainement de graves failles dans sa logique de base. Ce type de pensée binaire noir ou blanc est caractéristique des cultes et de l’extrémisme, et non de l’esprit scientifique.

5. La question fondamentale : qui surveillera les « superviseurs » ?

Interprétation simple : si l’IA est vraiment dangereuse, à qui devrions-nous faire confiance ?

L’article se termine par une question pratique : le courrier de démission de Jacob Coxon est-il vrai ? Anthropic cache-t-ils vraiment les risques ?

  • Crise de confiance : L’auteur souligne que, en raison de la nature fermée de ce cercle et de ses conflits d’intérêts, il est difficile pour le public de savoir si leurs avertissements sont motivés par la conscience ou par des stratégies commerciales (comme créer de la panique pour établir des barrières industrielles, permettant aux seuls géants de supporter les coûts de conformité et d’éliminer la concurrence).
  • Manque de système : Les évaluations actuelles de la sécurité de l’IA sont souvent réalisées par les laboratoires eux-mêmes ou par des organisations à but non lucratif (comme METR) étroitement liées à eux. C’est comme si les joueurs étaient également les arbitres.
  • Le vrai risque : L’auteur pense que, plutôt que la peur science-fictionnelle d’une destruction soudaine du monde par l’IA, le risque réel est que l’IA soit monopolisée par une minorité d’élites, devenant un outil pour contrôler la société, la politique et l’économie. Comme la technologie est trop complexe pour le grand public, la société accepte progressivement l’idée que seuls quelques-uns comprennent, et donc seuls quelques-uns peuvent décider.

Commentaire du journaliste : C’est là le vrai danger. Si la sécurité de l’IA devient un jeu de privilèges pour une minorité d’élites, même si l’IA ne détruit pas l’humanité, la démocratie, la liberté et l’égalité pourraient être discrètement éliminées au nom de la sécurité.

---

📊 Conclusion et leçon à retenir

Cet article n’a pas pour but de nier la technologie de l’IA ni l’existence de ses risques. Il nous met en garde contre :

1. La dépendance aux experts : Ne croyez pas aveuglément en ceux qui prétendent être les seuls à voir la vérité.

2. Prêtez attention aux chaînes d’intérêts : Qui finance ces recherches ? Qui établit les normes ? Y a-t-il des transferts d’intérêts entre eux ?

3. Les systèmes sont plus fiables que les individus : Nous devons mettre en place des mécanismes de surveillance indépendants, transparents et protégés par la loi, plutôt que de nous fier à la conscience morale d’un petit cercle.

Conseil pour le grand public :

Lorsque vous entendez des affirmations grandioses telles que « l’IA va détruire le monde » ou « seuls nous pouvons le sauver », posez-vous ces questions : « Qui le dit ? Qui écoute ? Qui finance ? Qui en bénéficie ? Restez sceptique et indépendant ; c’est le meilleur moyen de résister à la manipulation de l’information et au monopole des élites.

---

Merci de votre attention !