Résumé des idées principales
Cet article utilise le contraste entre les rois d’Europe il y a plusieurs centaines d’années et les gens ordinaires d’aujourd’hui pour illustrer un principe fondamental : l’objectif ultime de la technologie et de la civilisation n’est pas de créer des merveilles qui émerveillent une minorité, mais de transformer ces merveilles en choses quotidiennes que tout le monde considère comme allant de soi. De l’éclairage électrique aux téléphones portables, en passant par l’IA actuelle, la technologie suit toujours le même parcours : « merveille → luxe → infrastructure ». Le progrès de la civilisation consiste à élever constamment les normes de la vie ordinaire. Cependant, cela soulève de nouveaux problèmes : avec de plus en plus de possibilités, nous avons besoin de prendre le contrôle de nos choix plutôt que d’être poussés par la technologie.
I. Le destin de la technologie : de l’émerveil à la normalité
Avez-vous déjà réfléchi au fait que la première personne à voir une lumière électrique a probablement été stupéfaite, comme si elle voyait de la magie ? Aujourd’hui, nous ne nous plaignons que lorsqu’il y a une panne de courant. La première personne à utiliser un téléphone pour entendre la voix de quelqu’un au loin était peut-être tellement excitée qu’elle en perdait les mots ; aujourd’hui, nous pouvons même laisser tomber notre téléphone à cause d’une mauvaise connexion. C’est le destin de la technologie : d’abord nous émerveiller, puis de nous faire penser que c’est « tout à fait normal ». L’auteur souligne que le véritable signe que la technologie change le monde n’est pas qu’elle soit utilisée par une minorité, mais que la plupart des gens considèrent qu’elle « doit exister ». Par exemple, avec les smartphones, personne ne se dit plus chaque jour : « Comment est-il possible que cet appareil contienne une bibliothèque ? », mais si le navigateur se trompe de 200 mètres, nous nous mettons certainement en colère. Et c’est précisément la technologie la plus réussie qui attire notre attention lorsqu’elle échoue, car elle est devenue partie intégrante de notre vie.
II. La civilisation élève discrètement le seuil de la normalité
Il y a 100 ans, avoir de l’éclairage électrique à la maison était considéré comme un signe de modernité ; aujourd’hui, en être privé est perçu comme un problème. Il y a quelques décennies, avoir un ordinateur signifiait faire partie d’une famille high-tech ; aujourd’hui, un bureau sans connexion internet est inutilisable. Il y a une dizaine d’années, le navigation par téléphone était considérée comme une technologie avancée ; aujourd’hui, si le navigateur ne prévoit pas les embouteillages, nous trouvons cela décevant. La force de la civilisation n’est pas de nous rendre plus satisfaits, mais de redéfinir ce qui est « normal » : ce qui était un luxe hier devient une nécessité aujourd’hui, et demain, cela pourrait devenir le minimum requis. L’électricité, par exemple, est passée d’un service haut de gamme à une infrastructure essentielle ; nous ne réalisons même plus son existence… jusqu’à ce qu’elle disparaisse. C’est pourquoi, plus la technologie progresse, plus il est facile de nous sentir insatisfaits : notre référentiel évolue avec elle.
III. L’IA avance plus vite que toutes les autres technologies : en quelques années, elle est passée d’une merveille à quelque chose qui ne suffit plus
L’IA représente l’accélération de ce processus. Il y a quelques années, lorsque ChatGPT est apparu, tout le monde était étonné qu’une machine puisse discuter ; aujourd’hui, nous le critiquons pour ses erreurs dans le codage et le considérons comme inutile. Pourquoi sommes-nous de plus en plus déçus alors que les modèles s’améliorent ? Parce que notre référentiel a changé : avant, nous comparions la technologie avec celle d’il y a longtemps ; maintenant, nous la comparons avec l’IA idéale. Alors que les technologies précédentes mettaient des décennies pour devenir courantes, l’IA peut le faire en seulement quelques années. Par exemple, les grands modèles d’IA sont passés de la capacité à répondre aux questions à celle d’écrire du code, de raisonner et d’utiliser des outils en seulement deux ou trois ans, mais nous avons déjà fixé le niveau de performance basique à « pouvoir discuter ». Plus la technologie progresse rapidement, plus nous oublions vite ses capacités.
IV. Ce que nous voulons, ce n’est pas « plus de possibilités », mais le droit de décider
Alors que les gens ordinaires disposent de pouvoirs que même les rois n’avaient pas, pourquoi sommes-nous toujours insatisfaits ? Et pourquoi trouvons-nous l’IA insuffisante alors qu’elle peut faire de plus en plus de choses ? Parce que nos besoins évoluent :
- Parfois, il s’agit de savoir si quelque chose est disponible ;
- Parfois, de savoir si c’est de bonne qualité ;
- Lorsque c’est bon, nous nous soucions de sa stabilité ;
- Lorsque c’est stable, nous voulons pouvoir le contrôler.
Par exemple, avec les voitures, au début, nous nous demandions si elles pouvaient rouler ; ensuite, nous nous sommes inquiétés de leur sécurité et de l’existence d’une assurance ; avec Internet, au début, nous nous souciions de la connexion ; maintenant, nous nous préoccupons de la protection de notre vie privée. Avec l’IA, nous nous demandons si elle peut faire ce que nous voulons, qui est responsable en cas d’erreur, et si nous pouvons l’arrêter. Plus les capacités deviennent courantes, plus le droit de décider devient important.
V. Le luxe a changé : de « posséder beaucoup » à « conserver ce que l’on a déjà »
Dans le passé, le luxe signifiait posséder des ressources telles que la terre, la nourriture ou les connaissances. Aujourd’hui ?
- Avec trop d’informations, la capacité de se concentrer est devenue un luxe ;
- L’IA peut générer une quantité infinie de contenu ; le jugement devient un luxe ;
- Les logiciels peuvent faire beaucoup de choses à notre place ; choisir de ne pas être automatisé devient un luxe ;
- Tout le monde peut nous contacter ; ne pas être dérangé est devenu un luxe ;
- L’IA peut fournir d’innombrables réponses ; savoir ce que nous voulons vraiment devient un luxe.
À l’ère de l’IA, le plus précieux n’est pas « ce que je peux faire », mais « quelles choses je veux faire moi-même ». La première moitié du chemin de la civilisation consiste à nous donner plus de possibilités ; la seconde moitié pourrait consister à apprendre à utiliser ces capacités… Ne laissez pas la technologie décider pour vous.
Conclusion : Les merveilles finiront par passer dans l’arrière-plan de notre vie
Dans quelques centaines d’années, les gens ne comprendront peut-être pas pourquoi nous sommes étonnés par le fait que l’IA puisse discuter, tout comme nous ne pouvons pas comprendre l’émerveil des anciens face à l’éclairage électrique. Le plus grand mérite de la civilisation est de transformer les merveilles d’une minorité en choses quotidiennes pour tous. Mais n’oublions pas : lorsque de plus en plus de choses sont gérées par la technologie, nous devons préserver ce que nous devons décider nous-mêmes… C’est le véritable luxe que la civilisation nous laisse en héritage.