Résumé du contenu principal
Cet article analyse une controverse académique peu connue mais d’une grande importance à l’ère de l’IA : le célèbre neuroscientifique français Roman Bleute a écrit un livre peu populaire, presque inconnu du grand public, qui se classe loin dans les classements d’Amazon (à plus de la 150 000e place), mais qui a été fortement recommandé par des revues académiques de premier plan telles que *Nature*. Ce livre remet en question le « consensus de base » établi dans l’industrie de l’IA et le domaine de la neuroscience au cours des 80 dernières années, selon lequel le cerveau serait un « ordinateur biologique ». Partant de la logique fondamentale de la théorie de l’évolution de Darwin, l’auteur démontre les failles des quatre hypothèses principales selon lesquelles le cerveau effectuerait des calculs, posséderait des représentations internes, traiterait des informations et fonctionnerait sur la base de prédictions. Il souligne que comparer le cerveau humain à un ordinateur artificiel reviendrait à appliquer logiquement une approche de conception (un « concepteur qui fabrique un produit selon des plans ») à un organisme qui s’est développé par sélection naturelle, ce qui détournerait la recherche dans une mauvaise direction. Cette controverse, qui dure depuis près de 80 ans, concerne en réalité la façon dont nous concevrons l’IA à l’avenir, la définition de l’intelligence et même la distinction entre humains et machines, et constitue l’un des problèmes fondamentaux de l’ère de l’IA.
---
Interprétation simplifiée
Pourquoi un livre peu vendu peut-il secouer tout le monde dans le domaine professionnel ?
L’auteur, Bleute, est le directeur de recherche au Institut des Systèmes Intelligents et des Robots de Paris et est reconnu comme un neuroscientifique de premier plan. La revue *Nature* a même consacré un article critique à son livre. L’impact de cet ouvrage est comparable à celui de quelqu’un qui révélait que les plans de fondation d’un bâtiment seraient incorrects : pendant des décennies, les recherches en IA, les interfaces cerveau-ordinateur et les puces imitant le cerveau ont été menées en partant du principe que le fonctionnement du cerveau humain était identique à celui d’un ordinateur. Or, ce principe a été ignoré, tout comme si tout le monde partait du postulat que les fondations d’un bâtiment de 100 étages étaient solides. Soudain, un ingénieur expérimenté souligne que cette distinction fondamentale entre un être vivant et une machine artificielle a été négligée. La valeur de ce livre n’est pas de réfuter toutes les recherches existantes, mais de remettre en question la métaphore devenue trop courante et rigide selon laquelle le cerveau est un ordinateur, permettant ainsi aux recherches théoriques de retrouver leur place. Actuellement, les neuroscientifiques sont trop occupés à collecter des données expérimentales pour se poser la question de la logique sous-jacente.
Comment Bleute réfute-t-il le consensus dominant ?
Il utilise des termes simples pour expliquer ses arguments :
1. Si le cerveau est programmable, qui écrit les programmes ? Les « poids » dans les modèles d’IA correspondent en fait aux relations entre les neurones : les neurones bien connectés transmettent des signaux facilement, tandis que ceux peu connectés ne réagissent pas, même si on crie fort. L’idée que l’évolution ait programmé le cerveau est contraire à la théorie de Darwin, qui affirme que l’évolution ne vise pas de buts prédéfinis.
2. Le cerveau n’a pas d’« utilisateur externe ». Les paramètres d’un ordinateur sont fixés à l’usine et ne changent pas pendant son fonctionnement, tandis que les relations entre les neurones changent constamment en fonction de ce que l’individu voit et fait. Il n’y a donc pas d’« utilisateur » réel.
3. Même des organismes unicellulaires comme les amibes peuvent éviter les substances dangereuses et se diriger vers des sources de nourriture, ce qui remet en question l’idée que l’intelligence dépende uniquement des calculs effectués par les réseaux neuronaux.
Les positions dans la controverse sont maintenant claires
Depuis la création du premier modèle mathématique de neurone en 1943, quatre camps se sont définis :
- Le camp dominant (plus de 90 % des ressources de recherche) considère le cerveau comme un ordinateur biologique et développe des interfaces cerveau-ordinateur, des simulations du cerveau et des systèmes d’IA imitant le cerveau.
- Le camp des « améliorateurs » admet que le cerveau est un ordinateur, mais pense que la compréhension actuelle est erronée : le cerveau ne reçoit pas passivement des informations, mais anticipe constamment ce qui va se passer et s’adapte en conséquence.
- Le camp opposé, mené par Bleute, affirme que le cerveau est un organisme vivant qui évolue naturellement et que l’intelligence résulte de l’interaction entre l’individu et son environnement.
- Le quatrième camp, composé d’ingénieurs en IA, considère que cette discussion est une perte de temps, car les définitions d’« ordinateur » varient selon le contexte : selon une définition large, tout ce qui peut effectuer des calculs est un ordinateur (y compris le cerveau) ; selon une définition stricte, un ordinateur est artificiel avec un utilisateur et des paramètres modifiables, donc le cerveau ne l’est pas.
Cette controverse détermine l’avenir de l’IA
Bleute s’oppose à l’idée que le cerveau soit une machine avec des paramètres manipulables par un utilisateur extérieur, comme dans les ordinateurs des années 1950. Les modèles d’IA les plus avancés évoluent loin de cette définition : ils développent des capacités inattendues sans que les ingénieurs les programment explicitement. La relation entre humains et IA devient une interaction symbiotique plutôt qu’une exécution de commandes préétablies. Cette discussion souligne que notre définition de l’humain pourrait être erronée, et que la frontière entre humains et machines n’est pas aussi nette qu’on le pense. Si un jour l’IA aura un corps complet, une expérience de vie et une connexion profonde avec la société humaine, il sera difficile de déterminer si elle est vraiment « intelligente ». C’est cette question qui rend l’ère de l’IA particulièrement intéressante.