Résumé des principaux points
Récemment, un événement majeur a secoué la communauté mondiale de l’IA, attirant des millions de vues : au cours des derniers 4 jours, 7 chercheurs clés de trois des plus prestigieuses entreprises en IA mondiales – OpenAI, Anthropic et Google DeepMind – dont la moitié occupe des postes responsables de la sécurité de l’IA – se sont exprimés publiquement, affirmant que les super-IA capables de s’améliorer automatiquement pourraient devenir une menace pour l’existence de l’humanité d’ici 2030, voire entraîner notre extinction. Coxon, chercheur chez Anthropic et meneur de cette initiative, a volontairement renoncé à une part importante des actions de l’entreprise qu’il devait recevoir dans deux mois, sacrifiant ainsi des millions de bénéfices, afin de prouver la sincérité de ses propos et de se défaire de tout soupçon de manipulation des cours de bourse. Cette déclaration n’est pas une simple rumeur industrielle ; elle met en lumière une situation problématique cachée depuis longtemps au sein de la communauté de l’IA : les personnes les plus compétentes en la matière craignent que leurs créations ne détruisent l’humanité, mais elles ne peuvent pas cesser de développer de nouvelles technologies. Ce phénomène révèle de graves dysfonctionnements dans les mécanismes de motivation de l’industrie et rappelle à tous que nous devrions prendre notre place pour définir les règles du développement de l’IA, plutôt que de nous laisser entraîner dans des extrêmes comme la divinisation de l’IA ou la peur de son apocalyse.
---
Analyse détaillée
1. Cette alerte sur l’IA n’est certainement pas une nouvelle tactique de marketing
Auparavant, lorsque les entreprises d’IA proclamaient que leurs technologies étaient dangereuses, la réaction habituelle était plutôt une forme de vantardise : “Regardez, notre technologie est si puissante qu’elle pourrait détruire le monde, venez donc acheter nos services ou investir dans nos actions.” Mais cette fois, c’est tout différent :
- Coxon a volontairement sacrifié des millions d’actions pour exprimer son opinion, sans aucune motivation de gagner de l’argent en augmentant la valeur de l’entreprise ;
- Parmi les 7 chercheurs qui se sont exprimés, il y a des responsables de la surveillance et de la recherche en matière de sécurité de l’IA chez Anthropic, ce qui signifie que ce sont des experts chargés de prévenir le dérapage des technologies. Leur témoignage n’est pas celui d’amateurs ;
- L’ancien dicton de la Silicon Valley selon lequel les employés en IA partent écrire de la poésie pour être avec leur famille était autrefois une plaisanterie pour souligner la pression et les risques de l’industrie ; maintenant, il devient réalité, montrant que la panique est de plus en plus difficile à cacher.
2. Le paradoxe absurde de l’industrie : ceux qui craignent l’apocalypse de l’IA encouragent en fait son développement
Beaucoup de gens sont perplexes après avoir lu l’article : si ces chercheurs savent que l’IA pourrait mettre fin à l’humanité, pourquoi ne cessent-ils pas de travailler sur son développement ? En réalité, ils ne sont pas hypocrites ; l’industrie est piégée dans un cercle vicieux où personne ne peut s’échapper :
Toutes les grandes entreprises en IA raisonnent de la même manière : si nous ralentissons, les petites entreprises sans scrupules ou les individus malveillants pourraient développer des super-IA encore plus dangereuses. Nous devons donc aller plus vite que tout le monde pour assurer la sécurité de l’humanité. Le résultat est que chaque entreprise utilise le prétexte de “protéger l’humanité” pour justifier son rythme accéléré, ce qui accélère encore plus le développement de l’IA, sans que personne ose ralentir. À la fin, les bénéfices reviennent uniquement aux entreprises, tandis que les conséquences négatives seront supportées par toute l’humanité. Il est donc irréaliste d’espérer que les professionnels ralentiront par conscience.
3. Ne laissez pas la “narrative apocalyptique” vous manipuler : les dommages actuels de l’IA sont bien plus réels que ceux potentiels dans 10 ans
Beaucoup de gens sont effrayés ou pensent que ces chercheurs exagèrent pour attirer l’attention, mais il n’est pas nécessaire de paniquer : les discussions sur l’extinction de l’humanité par l’IA dans 10 ans cachent un effet secondaire souvent négligé : tout le monde se concentre sur ce scénario lointain, ce qui nous empêche de voir les dommages réels causés par l’IA aujourd’hui : les arnaques liées à l’IA ont ruiné de nombreuses personnes, les entretiens d’embauche utilisent des algorithmes pour exclure de nombreux candidats, et les données et pouvoirs détenus par quelques grandes entreprises en IA sont plus importants que ceux de nombreux petits pays. Ces problèmes se produisent déjà, sans attendre que l’IA devienne vraiment dangereuse.
Pire encore, si le public se concentre uniquement sur ces risques lointains, cela permettra à ces entreprises de définir seules les règles, sans que le public puisse intervenir, renforçant leur pouvoir.
4. Nous, les citoyens ordinaires, n’avons pas besoin de prendre parti : nous devons simplement réclamer trois choses
L’opinion publique a tendance à pousser les gens dans deux extrêmes : soit on considère ces chercheurs comme des escrocs cherchant à manipuler les cours de bourse, soit on pense que l’IA va détruire l’humanité et on décide de se résigner. En réalité, il n’est pas nécessaire de choisir un camp. Une enquête menée par plus de 2700 chercheurs en IA mondiaux montre que 38 % d’entre eux estiment que la probabilité de l’extinction de l’humanité par l’IA est d’au moins 10 %, et 70 % estiment que les investissements en sécurité de l’IA sont insuffisants. Cela ne signifie pas que ces craintes sont infondées, mais il n’existe aucune preuve concrète que l’extinction sera inévitable. Nous n’avons pas besoin de comprendre les paramètres des grands modèles d’IA ou les technologies de mise en alignement ; nous devons simplement exiger trois choses :
- Lorsque les entreprises développent de nouveaux modèles puissants, elles ne doivent pas les mettre en service à leur guise ; il doit y avoir des organismes indépendants pour vérifier leur sécurité ;
- Les employés qui découvrent des risques liés à l’IA ne doivent pas être silencieux à cause de contrats de confidentialité ; il doit y avoir des canaux anonymes pour signaler ces risques ;
- Si des problèmes surviennent, les entreprises doivent assumer toutes les responsabilités, et non les citoyens ordinaires.
Après tout, personne n’a le droit de risquer le destin de l’humanité pour son propre succès commercial, même si elles prétendent agir dans l’intérêt de l’humanité.