Résumé du contenu principal
L’origine de cette information virale n’est absolument pas liée aux théories du complot impliquant l’IA ou aux comptes de marketing apocalyptiques que l’on trouve habituellement sur Internet : Jacob, un ingénieur génial de 27 ans qui a travaillé pendant trois ans sur les prétraitements des deux plus grands modèles d’IA mondiaux, OpenAI et Anthropic, a démissionné de son poste clé et a publié sur les réseaux sociaux un avertissement qui a attiré plus d’un milliard de vues. Les principales entreprises d’IA s’efforcent actuellement d’améliorer constamment leur intelligence artificielle, ce qui équivaut à tout l’humanité pariant sa survie. De nombreux chercheurs dans le domaine croient sincèrement que l’humanité pourrait disparaître à cause d’un contrôle perdu de l’IA d’ici 10 ans. Plus encore, d’anciens collègues de Jacob à Anthropic, y compris le responsable de la sécurité chargé de s’assurer que l’IA ne nuise pas aux humains, ont publiquement exprimé leur inquiétude, affirmant que la probabilité d’un accident dépasse 10 %, et que plus la position d’une personne est élevée au sein de l’entreprise, plus elle est effrayée. L’auteur a également rappelé un article de science-fiction paru il y a 11 ans qui prédit que l’intelligence artificielle pourrait soit mener à l’immortalité de l’humanité, soit à sa destruction. Cette prédiction semble maintenant devenir réalité : l’IA commence à participer à la création d’intelligences encore plus puissantes, et l’accélération de l’industrie est telle que personne ne peut plus freiner ce processus.
---
Analyse détaillée
1. Ne prenez pas cela à la légère : cet avertissement vient d’un ingénieur ayant personnellement participé à la création d’armes nucléaires
Beaucoup pensent probablement que ce n’est qu’un nouveau coup de marketing cherchant à tirer parti de la popularité de l’IA, mais le profil de Jacob est tel qu’il n’a pas besoin de faire des gros titres pour gagner de l’argent. Diplômé en mathématiques de Cambridge, il a participé au développement des modèles GPT-4o et GPT-4.5, et a ensuite rejoint Anthropic pour travailler sur les prétraitements des modèles d’IA. Il s’agit donc d’un ingénieur clé dans ce domaine, et non d’un simple chroniqueur extérieur spéculant sans connaissances approfondies. Plus surprenant encore, plusieurs responsables de la sécurité d’Anthropic ont publiquement soutenu ses arguments, affirmant que la probabilité d’un accident est supérieure à 10 % au cours des 10 prochaines années, et que plus la position d’une personne est élevée au sein de l’entreprise, plus elle est inquiète. Cela équivaut à ce que les ingénieurs responsables de l’entretien des ascenseurs de votre immeuble vous disent que les ascenseurs ne sont pas équipés de dispositifs de limitation de vitesse, ce qui est bien plus sérieux que les simples plaintes de citoyens ordinaires.
2. Pourquoi les créateurs d’IA sont-ils dix fois plus inquiets que le grand public ? Parce qu’ils voient de leurs propres yeux les prédictions de la science-fiction se réaliser
Pour la plupart des gens, l’IA reste un outil permettant de rédiger des textes, de créer des diapositives ou de retoucher des photos. Ils ne réalisent pas à quel point les changements sont rapides : il y a 11 ans, on écrivait que l’IA pourrait créer de nouvelles intelligences encore plus puissantes, ce qui semblait purement fictif. Mais en 2026, nous voyons déjà l’IA utiliser des logiciels complexes, résoudre des problèmes mathématiques complexes en 11 jours, et même participer à l’entraînement des nouveaux modèles d’IA. Cette évolution dépasse de loin ce que l’on imaginait il y a 11 ans. Ces ingénieurs, qui passent leurs journées en laboratoire, voient l’avancement des technologies bien avant le grand public et sont donc beaucoup plus inquiets.
3. Personne ne peut freiner cette accélération : toute l’industrie est emportée dans un cercle vicieux irréversible
Le plus absurde, mais aussi le plus réaliste, c’est que personne, aucune entreprise, aucun pays n’ose ralentir ce processus. L’industrie de l’IA est entrée dans un cercle vicieux où de plus fortes intelligences créent plus de valeur économique, permettant d’acquérir davantage de ressources pour entraîner de nouvelles intelligences encore plus puissantes. Si une entreprise ralentit, ses concurrents deviendront plus forts et lui prendront tout son marché. Si un pays cesse de développer de nouvelles technologies, il perdra le contrôle de l’avenir de l’humanité. Nous sommes tous sur le même bateau en train de glisser vers une cascade, et personne n’ose arrêter les rames : si nous nous arrêtons, les autres continueront, et nous serons les premiers à être éliminés. Aucun individu ne peut changer le cours de l’histoire de l’humanité.
4. Il ne s’agit pas seulement de savoir si l’IA nous prendra nos emplois : nous parions sur notre avenir
Les discussions sur le fait que l’IA pourrait prendre les emplois des programmeurs ou des designers semblent insignifiantes face à la réalité actuelle. La prédiction de l’article de science-fiction il y a 11 ans reste valable : après l’apparition d’une intelligence artificielle supérieure, il n’y aura pas de compromis. L’humanité se trouve sur une corde raide : soit nous ne pourrons pas contrôler cette intelligence, et son intelligence dépassera de loin celle de l’homme (comme celle d’un chimpanzé), menant à notre extinction ; soit nous parviendrons à orienter cette intelligence dans la bonne direction, ce qui nous permettra de résoudre des problèmes majeurs tels que le cancer, le vieillissement et l’épuisement des ressources, et d’atteindre l’immortalité et d’explorer l’univers. C’est un avenir inédit pour la vie sur Terre.
5. Les gens ordinaires n’ont pas besoin d’être anxieux pour l’instant, mais il faut sortir de l’idée que l’IA est juste un nouvel outil
Il n’est pas nécessaire de se préparer à une révolte de l’IA maintenant, mais il faut changer notre perception des nouvelles technologies. Les machines à vapeur, Internet et les smartphones étaient des outils entièrement contrôlables par l’humanité ; on pouvait simplement éteindre l’électricité pour les arrêter. L’IA, cependant, est une technologie exponentiellement rapide et capable de se développer de manière autonome, dépassant de loin les technologies précédentes. Nous nous trouvons à un tournant crucial de l’histoire de l’humanité, et il est très probable que les avertissements des ingénieurs se révèlent infondés. L’IA pourrait vraiment nous aider à surmonter des problèmes millénaires et ouvrir de nouvelles possibilités pour l’humanité.