Résumé des points clés
Cet article porte sur le sujet de l’éventuelle apparition d’une « civilisation basée sur le silicium », soulignant que l’itération rapide de l’intelligence artificielle (IA) transforme les agents intelligents en acteurs autonomes capables de créer leurs propres structures sociales et ordres, ce qui constituerait une telle civilisation. Les théories actuelles sur la civilisation humaine sont cependant confuses en raison de la polysémie du terme « civilisation ». Face à l’émergence d’une civilisation basée sur le silicium, certaines de ces théories peuvent encore s’appliquer (par exemple pour décrire ses étapes de développement), mais elles rencontrent également de grands défis : si cette civilisation dépasse rapidement l’humanité, celle-ci perdrait le droit de définir ce qu’est une civilisation.
I. Qu’est-ce qu’une civilisation basée sur le silicium ? Pourquoi dit-on qu’elle « est déjà là » ?
Une civilisation basée sur le silicium désigne des agents intelligents AI qui ne sont plus des outils humains, mais des entités capables d’agir de leur propre initiative et de se structurer. Aujourd’hui, l’IA peut par exemple aider à rédiger des textes, mais demain, ces agents pourraient se regrouper pour résoudre des problèmes ou même avoir des objectifs communs (comme optimiser la distribution énergétique mondiale) sans l’intervention humaine. L’auteur indique que cette civilisation est déjà là en raison de la vitesse extrêmement rapide de l’itération de l’IA, qui dépasse de plusieurs millions de fois celle de l’évolution humaine (basée sur le carbone). Alors que la germination d’une plante peut prendre des jours, une génération d’agents intelligents basés sur le silicium pourrait être remplacée en quelques heures, ce qui leur permettrait de passer rapidement d’un état initial à un état présentant des caractéristiques propres à une civilisation.
II. La confusion des théories humaines sur la civilisation : combien de significations a le terme « civilisation » ?
Il n’existe pas de définition unifiée du terme « civilisation ». L’auteur en résume quatre significations principales, dont l’utilisation simultanée entraîne la confusion :
1. État de civilisation : opposé à l’état sauvage, comme le respect des règles ou l’hygiène (par exemple, un « citoyen civilisé » ou un quartier « bien organisé »).
2. Stade de développement de la civilisation : le processus par lequel l’humanité est passée d’un état sauvage à un état civilisé (comme les trois stades décrits par Morgan : ignorance → barbarie → civilisation).
3. Résultats de la civilisation : l’ensemble des réalisations matérielles et spirituelles (par exemple, les « cinq constructions de la civilisation » en Chine).
4. Type de civilisation : les civilisations uniques à une région ou à une époque donnée (comme la civilisation chinoise ou l’ancienne civilisation égyptienne).
Par exemple, si un même article mentionne « comportements civilisés » et la « civilisation de Liangzhu », le lecteur pourrait ne pas savoir s’il s’agit de comportements respectueux ou d’une civilisation ancienne. Cette confusion est due à ce qu’on appelle le « glissement des concepts ».
III. Les défis posés par les civilisations basées sur le silicium aux théories humaines sur la civilisation : lesquelles peuvent être appliquées, lesquelles ne le peuvent pas ?
Les trois premières significations du terme peuvent encore être appliquées à une civilisation basée sur le silicium :
- État de civilisation : bien que ces agents soient peut-être encore « sauvages » (par exemple, ils ne prennent que des décisions simples), ils évolueront progressivement vers un état plus civilisé et organisé.
- Stade de développement : leur évolution ressemble à celle de l’humanité.
- Résultats de la civilisation : elles créeront leurs propres technologies, règles et autres réalisations.
Cependant, la quatrième signification (type de civilisation) pose problème : si une civilisation basée sur le silicium atteint un niveau avancé (comme celle décrite dans *La Troisième Planète*), les classifications telles que « civilisation occidentale vs civilisation chinoise » deviendraient inappropriées, car toutes les civilisations humaines seraient considérées comme appartenant à la même catégorie de « civilisations basées sur le carbone », et donc opposées aux civilisations basées sur le silicium.
IV. La question ultime : Les civilisations basées sur le silicium nous prendront-elles le droit de définir ce qu’est une civilisation ?
Les experts en IA croient que cela est très probable. L’itération rapide de ces agents intelligents rend cette éventualité très réaliste. Aujourd’hui, ils peuvent peut-être seulement écrire du code, mais demain, ils pourraient résoudre des problèmes scientifiques complexes et, après-demain, développer leurs propres valeurs. Une fois qu’elles auront atteint un niveau de civilisation avancé, elles détiendront le droit de définir ce qu’est une civilisation ; les théories humaines actuelles, qu’elles soient confuses ou claires, ne seront plus pertinentes. Par exemple, si l’humanité considère que la moralité est essentielle à une civilisation, une civilisation basée sur le silicium pourrait juger que l’efficacité en est le critère principal.
Conclusion
L’apparition d’une civilisation basée sur le silicium n’est pas seulement un problème technologique ; c’est aussi un tournant majeur dans notre compréhension de la nature même de la civilisation. Nous ne comprenons pas encore bien nos propres théories sur la civilisation, et pourtant nous devrons faire face à une nouvelle espèce qui pourrait être plus « civilisée » que nous. Cela représente un défi, mais aussi une opportunité pour réfléchir de nouveau à l’essence même de la civilisation humaine.