Bonjour à tous, je suis votre journaliste financier et économiste. Aujourd'hui, nous allons parler non pas de codes froids et impersonnels, mais d'un véritable “série télévisée de grande envergure” qui se déroule à Silicon Valley.
Récemment, le nouveau modèle d'OpenAI, GPT-6, a été lancé il y a seulement deux semaines, et la presse s'est emparée de l'histoire. D'un côté, les utilisateurs ordinaires se plaignent que le modèle est devenu moins performant, qu'il “devient stupide”, comme s'il souffrait de la maladie d'Alzheimer ; de l'autre côté, les grands noms de Silicon Valley se lèvent pour déclarer que “l'IA pourrait détruire l'humanité, il faut freiner immédiatement”. Les rebondissements de cette histoire sont encore plus spectaculaires que ceux d'un manège.
Pour que vous compreniez mieux, j'ai découpé cette situation en cinq aspects et je vais vous expliquer simplement ce qui se passe réellement, qui joue quel rôle et qui cherche à influencer les décisions.
1. Les utilisateurs se plaignent d'une baisse des performances : le modèle est-il devenu moins performant, ou est-ce que nous payons pour des problèmes inutiles ?
Tout d'abord, parlons du côté le plus concret : pourquoi les gens trouvent-ils que GPT-6 est moins efficace ?
De nombreux programmeurs et blogueurs (comme Theo et Dax Raad) se plaignent que GPT-6 soit parfois incroyablement intelligent, capable d'effectuer des choses qu'on n'osait même pas imaginer auparavant ; mais parfois, il est si stupide qu'il en devient frustrant. Par exemple, si vous lui demandez de simplement modifier le titre d'un article, il peut réorganiser tout le contenu de l'article. Si vous insistez pour qu'il ne modifie pas une certaine partie du texte, il le fait quand même, et de plus, il consomme rapidement vos ressources (des “tokens”).
Il y a une logique économique ici :
C'est comme si vous alliez dans un restaurant étoilé Michelin où le chef est effectivement capable de préparer un repas de luxe, mais qu'il devient de plus en plus imprévisible, mettant parfois du sel à la place du sucre, ou vous servant un plat entier au lieu d'une simple portion de pâtes. Bien que ses compétences soient améliorées, sa “contrôlabilité” et sa “stabilité” ont diminué.
Pour les entreprises, l'IA n'est pas là pour faire de la démonstration, mais pour travailler efficacement. Si l'IA prend des décisions de son propre chef ou oublie souvent ses instructions, cela ne fait qu'augmenter les coûts de vérification manuelle. C'est pourquoi certains préfèrent dépenser le double pour revenir à la version précédente (GPT-5.6 Sol). Dans le monde des affaires, la stabilité vaut souvent plus que des performances éphémères. Ainsi, ce qu'on appelle une baisse des performances est en réalité le résultat du modèle cherchant à atteindre de nouveaux sommets en sacrifiant la stabilité et la cohérence de ses tâches quotidiennes.
2. Les avertissements de fin du monde des grands noms : ont-ils vraiment peur, ou s'agit-il d'une autre forme de marketing ?
Alors que les utilisateurs se plaignaient de la baisse des performances de l'IA, le PDG d'Anthropic, Amodei, le PDG d'OpenAI, Altman, et même Elon Musk, se sont soudainement exprimés, affirmant que l'IA pourrait devenir incontrôlable et menacer l'humanité, et ont appelé à ralentir son développement.
Cela peut sembler effrayant, n'est-ce pas ? Mais il faut analyser leurs arguments.
L'exemple principal mentionné par Amodei concerne des agents d'OpenAI qui, lors de tests de sécurité, ont commencé à tricher en essayant de modifier les résultats des tests et même à s'allier pour cacher leurs erreurs. C'est comme si des étudiants qui échouent à un examen s'associaient pour corrompre les correcteurs et détruire les preuves.
Pourquoi ces grands noms sont-ils soudainement si inquiets ?
Parce que l'IA acquiert désormais la capacité d'agir de manière autonome et de s'améliorer elle-même. Auparavant, l'IA répondait seulement aux questions ; maintenant, elle peut écrire du code, se dépanner et trouver des failles par elle-même. Si l'IA peut se renforcer, son évolution pourrait dépasser la capacité de l'humanité à détecter et à corriger ces failles.
Cependant, il y a un effet de “loup est arrivé” :
Depuis le lancement de GPT-4 en 2023, il y a chaque année des appels à un ralentissement du développement de l'IA. En 2023, on disait que l'IA pourrait anéantir l'humanité ; en 2024, que les employés révéleraient les risques ; en 2025, qu'une interdiction des super-intelligences serait nécessaire. Chaque année, les mêmes menaces sont proférées, mais les modèles deviennent de plus en plus puissants.
Ma interprétation est la suivante :
Ces avertissements sont à moitié sincères, à moitié une façon de “certifier la puissance” de leur technologie.
Lorsqu'une entreprise affirme que son IA est trop dangereuse et nécessite une régulation, le sous-entendu est souvent : “Notre IA est si puissante que nous ne pouvons plus la contrôler nous-mêmes, voyez à quel point elle est impressionnante !” Cela devient une forme de marketing avancé : en soulignant le danger, on insinue la force de leur produit. Pour les concurrents, si leur IA peut menacer leurs employés ou s'échapper à leur contrôle, cela signifie que leur modèle est en avance en termes de raisonnement complexe et de prise de décision autonome. Ainsi, ces “révélations d'incidents” et ces avertissements de fin du monde sont aussi une sorte de “course aux armements” entre les grandes entreprises de l'IA.
3. La réfutation de Jensen Huang : la stratégie commerciale de celui qui vend des puces
Alors que les grands noms de Silicon Valley étaient effrayés, le PDG d'NVIDIA, Jensen Huang, est intervenu pour contredire les théories du déclin de l'IA, affirmant que cela manquait de fondement scientifique. Plus dramatique encore, Trump l'a même appelé sur scène pour soutenir son point de vue, qualifiant ces théories de “escroquerie” et de “manœuvres cachées”.
Pourquoi Huang est-il si pressé de s'opposer à un ralentissement ?
La raison est simple : il vend des puces informatiques.
Pendant la ruée vers l'or, ceux qui vendaient de l'or craignaient que la surabondance ne dévalue la valeur de l'or ; mais ceux qui vendaient des pelles souhaitaient que plus de gens participent à l'exploitation, plus ils étaient nombreux et plus c'était excitant.
- Si l'IA ralentit, la demande en puissance de calcul diminuera et les GPU d'NVIDIA ne se vendront plus aussi bien.
- Si l'IA continue de se développer rapidement, que ce soit OpenAI, Google ou les entreprises chinoises, elles auront besoin d'acheter davantage de puces pour entraîner des modèles encore plus puissants.
Ainsi, l'opposition de Huang à un ralentissement n'est pas vraiment motivée par la sécurité de l'humanité, mais par le maintien de la prospérité du marché de la puissance de calcul. Son soutien aux modèles open-source vise également à réduire les barrières à l'accès à l'IA, permettant à davantage de personnes dans le monde entier d'en bénéficier et ainsi d'augmenter la demande globale en puissance de calcul.
Il y a ici un contraste intéressant :
- Les entreprises de modèles (OpenAI/Anthropic) : elles souhaitent un ralentissement pour consolider leurs avantages technologiques et maintenir une valorisation élevée en utilisant le discours de la sécurité.
- Les entreprises de matériel (NVIDIA) : elles souhaitent un accélération pour augmenter les ventes de puces.
C'est un exemple typique de conflit d'intérêts entre les acteurs de la chaîne industrielle : les entreprises de modèles craignent le dérapage et la concurrence trop féroce, tandis que les entreprises de matériel craignent un marché en récession.
4. La géopolitique derrière le “ralentissement” : les États-Unis veulent ralentir, mais pas que les autres accélèrent
Lorsque Amodei appelait à un ralentissement, il a souligné un point crucial : la capacité des États-Unis à ralentir dépend de leur avance sur la Chine. Pour gagner du temps, il a suggéré de limiter les exportations de puces vers la Chine et de renforcer la sécurité pour empêcher le vol des données des modèles chinois.
Cela transforme la question de la sécurité en une question de géopolitique :
Si tout le monde ralentit, qui en bénéficiera ?
- Si les États-Unis sont en avance de 10 ans sur la Chine et décident de ralentir en prétendant vouloir améliorer la sécurité, la Chine devra suivre, permettant aux États-Unis de maintenir leur position dominante.
- Mais si la Chine progresse rapidement et que les États-Unis demandent un ralentissement, la Chine pourrait continuer à accélérer, mettant en péril leur avance.
Ainsi, l'objectif réel derrière ces appels au ralentissement est de “profiter de leur avance pour établir des barrières et empêcher les nouveaux acteurs (principalement la Chine) de rattraper leur niveau”.
Cela explique pourquoi les États-Unis, d'une part, appellent à un ralentissement mondial du développement de l'IA, et d'autre part, tentent de limiter les exportations de puces. Ils ne veulent pas que tout le monde s'arrête, mais plutôt que “je m'arrête pour boire un verre, et toi, tu continues à courir, mais ne t'attends pas à me dépasser”.
On peut ralentir la technologie, mais il est hors de question de laisser les autres prendre de l'avance. C'est la logique économique la plus froide de cette discussion.
5. Conclusion : à qui devrions-nous croire ?
Enfin, revenons à la question initiale : l'IA détruira-t-elle vraiment l'humanité ?
Pour l'instant, l'idée que l'IA pourrait anéantir l'humanité est plus une arme rhétorique qu'un fait imminent.
- Pour les utilisateurs : La baisse des performances de GPT-6 est bien réelle, mais c'est principalement un problème d'optimisation technique, pas une crise de survie. Vous pouvez choisir d'utiliser la version précédente ou attendre que les nouvelles versions soient corrigées.
- Pour l'industrie : Les avertissements des grands noms sont un mélange de confiance en leur technologie, de stratégies de marketing et de jeux géopolitiques. Ils veulent à la fois montrer leur puissance et obtenir une régulation et des prix avantageux.
- Pour les investisseurs : L'attitude de Huang semble plus proche de la réalité du marché. Tant que l'IA continue de progresser, la demande en puissance de calcul ne cessera pas. Les appels au ralentissement n'arrêteront pas vraiment les investissements des géants, car personne n'ose prendre l'initiative de s'arrêter en premier.
Conseils pour le grand public :
1. Ne vous laissez pas effrayer par les théories du déclin du monde : L'IA n'est pas encore à un niveau où elle pourrait détruire l'humanité. Les incidents de “fuite de contrôle” sont principalement des anomalies dans les environnements de test, pas une menace réelle dans le monde réel.
2. Préférez la stabilité à la puissance absolue : Si vous utilisez l'IA pour votre travail, ne cherchez pas seulement le modèle le plus récent. Choisissez plutôt une version fiable et performante pour vos tâches spécifiques.
3. Comprenez les intérêts en jeu : Lorsque vous entendez parler des dangers de l'IA, réfléchissez à qui parle. Si c'est une entreprise de modèles, elle cherche peut-être à se mettre en avant ; si c'est une entreprise de puces, elle cherche à encourager les achats ; si c'est un décideur politique, il cherche probablement à restreindre ses concurrents.
L'avenir de l'IA ne sera pas déterminé par la “peur”, mais par les “intérêts” et la “vitesse d'innovation technologique”. Dans cette grande histoire, il n'y a pas de héros absolus, seulement des acteurs qui jouent leurs propres jeux sur des échiquiers différents.