Résumé des idées principales
Cet article se concentre sur les prédictions du livre “Out of Control” de Kevin Kelly (KK), comparant les attentes optimistes de KK il y a 30 ans concernant le concept d’“déscontrôle” avec l’anxiété provoquée par ce même phénomène dans l’ère de l’IA aujourd’hui. À l’époque, KK croyait que l’abandon du contrôle centralisé de l’ère mécanique et laisser les systèmes se développer de manière décentralisée, comme une colonie d’abeilles ou un écosystème, libérerait la liberté individuelle et une intelligence distribuée. Cependant, avec l’avènement de l’IA et des algorithmes, si les systèmes deviennent hors de contrôle, les humains passent du rôle d’utilisateurs d’outils à celui de “points de feedback” pour ces systèmes : nos jugements, nos choix, même nos désirs sont influencés par l’IA, et notre sensation de contrôle disparaît progressivement. L’article analyse les causes de ce changement (le transfert du pouvoir vers les plateformes, la substitution des processus, l’érosion du sens) et propose des solutions pour préserver notre subjectivité.
I. Le “déscontrôle” selon KK il y a 30 ans : un romantisme technologique vers la liberté
En 1994, lorsque KK parlait de “déscontrôle”, il ne s’agissait pas d’une rébellion des machines, mais plutôt du fait que les systèmes se libèrent d’un contrôle centralisé pour se développer de manière autonome, comme la vie. Il a donné plusieurs exemples :
- Internet, sans interrupteur principal, est devenu un réseau mondial ;
- Les communautés open source, sans structure hiérarchisée, ont créé le système Linux ;
- Wikipédia, sans comité de révision, est devenue la plus grande œuvre de génie intellectuel.
Il estimait que le “contrôle” de l’ère industrielle (comme les chaînes de montage dans les usines ou les plans des ingénieurs en chef) était trop rigide, tandis que la vie se caractérise par l’adaptation, la variation et l’aut Organisation. Il a donc énoncé plusieurs principes, tels que “la survie distribuée” (ne pas mettre tous ses œufs dans le même panier”) ou “encourager les erreurs” (les petites erreurs évitent les gros problèmes), qui sont devenus des guides pour l’industrie technologique (par exemple, les microservices sont une approche distribuée, et les tests A/B encouragent l’erreur).
L’optimisme de KK reposait sur le fait que l’abandon du contrôle centralisé rendrait la liberté aux individus. À cette époque, les utilisateurs étaient actifs dans le fonctionnement des systèmes : vous effectuiez des recherches, postiez des messages, programmiez du code.
II. Le “déscontrôle” d’aujourd’hui a changé de nature : les humains sont devenus des “pièces” des systèmes
Le “déscontrôle” d’aujourd’hui est différent de ce que KK envisageait : les systèmes sont effectivement hors de contrôle, mais les humains ne sont plus au centre. Auparavant, vous cherchiez des réponses ; aujourd’hui, l’IA vous en fournit directement. Auparavant, vous choisissiez le contenu ; maintenant, les algorithmes le trient pour vous. Auparavant, vous utilisiez des outils pour mettre en œuvre vos idées ; aujourd’hui, l’IA divise les tâches et utilise ces outils à votre place.
L’IA est passée d’un simple “outil” à un “agent” : elle amplifie vos intentions, mais c’est elle qui définit finalement ce que vous faites. Par exemple, lorsque vous vous disputez, l’IA peut générer des réponses “rationnelles”, ce qui semble efficace, mais vous perdez le processus de expression de vos émotions.
L’article utilise une métaphore frappante : les humains sont comme si on leur avait mis un chapeau vert – les algorithmes prennent la majeure partie de notre “capacité d’action”, et nous ne faisons que cliquer ou glisser sur l’écran, votant pour les machines. Nous ne sommes plus les abeilles qui dirigent la colonie ; nous sommes plutôt la bouche qui est nourrie par elle.
III. Le pouvoir n’a pas disparu, il a simplement changé de “costume”
KK pensait que l’abandon du contrôle centralisé rendrait le pouvoir aux individus, mais en réalité, il a été transféré vers les plateformes capables de gérer ces systèmes décentralisés. Par exemple, l’IA réduit les coûts des produits à près de zéro, mais celui qui détient les utilisateurs, leur attention et les canaux de distribution possède un avantage concurrentiel. Un petit nombre de plateformes (comme Google, Meta, ByteDance) contrôlent la puissance de calcul, les données et les modèles. Elles n’ont pas besoin de vous donner d’ordres ; elles suffisent à modifier le contenu que vous visionnez : ce que vous regardez, combien de temps vous restez sur une page, ce que vous sautez… Le système enregistre tout et vous propose ensuite du contenu “plus adapté à vos préférences”, vous enfermant progressivement dans une “salle d’écho”. Vous pensez choisir ce que vous aimez, mais en réalité, c’est le système qui conditionne votre comportement.
Le fondateur de la cybernétique, Wiener, avait déjà averti : lorsque vous confiez les boucles de feedback à des systèmes automatisés, ces derniers peuvent “enseigner” comment vous agir. Ce type de contrôle est plus subtil ; vous ne vous sentez pas contrôlé, vous pensez simplement que c’est ce que vous voulez.
IV. Les raisons de la perte du sentiment de contrôle : les processus sont simplifiés, le sens est érodé
Pourquoi nous sentons-nous impuissants ? Parce que l’IA prend en charge les processus “difficiles” pour nous, et c’est justement à travers ces processus que nous ressentons le contrôle :
- Écrire n’est pas simplement transmettre des idées ; c’est aussi découvrir ce que nous voulons dire au milieu des difficultés ;
- Lire n’est pas seulement télécharger des informations ; c’est également former des jugements dans la confusion ;
- Choisir n’est pas simplement trouver la meilleure option ; c’est aussi assumer les conséquences de nos décisions.
L’IA rend tout plus “facile”, mais ce confort a un prix : nous sommes plus rapides, mais nous ne savons plus pourquoi nous choisissons ainsi ; nous savons beaucoup de choses, mais nous ne savons plus en quoi nous croyons.
Il y a aussi un changement caché : notre connexion avec le monde réel s’est rompue. Avant d’aller quelque part, nous consultons des guides ; avant de connaître quelqu’un, nous laissons l’IA analyser sa psychologie ; avant de créer quelque chose, nous obtenons des plans préétablis. Nous interagissons avec une “version calculée” du monde, et non avec la réalité (les odeurs, les expressions, les situations gênantes). Ces éléments “inefficaces” sont pourtant essentiels à la qualité de notre vie.
V. Que devrions-nous faire ? Préserver quelques “interrupteurs” cruciaux
Refuser l’IA est irréaliste ; l’important est de préserver notre subjectivité dans un monde hors de contrôle. L’article propose quatre “interrupteurs” à garder :
1. Le droit de définir les problèmes : ne demandez pas directement à l’IA “Que dois-je faire” ; réfléchissez d’abord à “Quel problème je veux vraiment résoudre”. Par exemple, avant de changer de travail, demandez-vous “Qu’est-ce qui ne me satisfait pas dans mon emploi actuel”, plutôt que de laisser l’IA vous recommander des professions.
2. Le droit de prioriser les valeurs : L’IA peut vous indiquer quel choix est le plus efficace, mais elle ne peut pas décider pour vous de “ce qui en vaut la peine”. Par exemple, lorsque vous choisissez un travail, devez-vous gagner de l’argent ou préserver votre temps ?
3. Le droit de prendre les dernières décisions : L’IA peut vous aider à organiser les informations, mais les choix importants (comme changer de travail ou se marier) doivent être faits par vous-même, car vous en assumez les conséquences.
4. Des retours du monde réel : rencontrez des gens réels, faites des choses concrètes ; utilisez votre expérience personnelle pour corriger celle offerte par les systèmes. Par exemple, au lieu de lire seulement des guides sur la cuisine, allez manger une soupe dans la rue et ressentez l’atmosphère locale.
Il est également important de préserver certains comportements “inefficaces” : marcher sans but, discuter physiquement avec des amis, écrire pour le plaisir… Ces activités sont les points d’ancrage qui nous permettent de “vivre” dans ce monde.
Conclusion
Le “déscontrôle” n’est pas la fin du monde ; c’est plutôt la perte de notre identité. Les prédictions de KK se sont réalisées, mais nous ne ressentons pas plus de liberté. Le véritable problème n’est pas de savoir si les systèmes ont une “vie”, mais de savoir si, lorsque les systèmes prennent vie, nous perdons notre propre sens de l’existence.
L’examen de l’ère de l’IA ne porte pas sur la question de savoir si les machines peuvent surpasser les humains, mais plutôt sur celle de savoir : “Quand l’IA fait le travail à votre place, exprime vos pensées, prend vos décisions, savez-vous encore qui vous êtes, celui que l’IA ne peut pas remplacer ?”
Lâcher prise n’est pas abandonner tout ; être hors de contrôle ne signifie pas perdre son âme. En gardant les choix qui doivent être faits par soi-même, vous ne vous perdez pas dans les systèmes.
(Tout le texte a été traduit en français avec un langage naturel et adapté aux habitudes de lecture des lecteurs non spécialisés en finance et en affaires.)