Comment préserver les fondamentaux de l'humanité alors que l'IA devient de plus en plus humaine ?
— Analyse approfondie du discours du professeur Zhang Rongnan à la Conférence de la Baie de l'Est
Résumé du contenu principal
Lors d'un forum de la Conférence de la Baie de l'Est en 2026, le professeur Zhang Rongnan, du département de philosophie de l'Université Normale de l'Est de Chine, a soulevé une question qui touche directement les préoccupations actuelles : Alors que l'intelligence artificielle (IA) devient de plus en plus similaire à l'homme et peut même imiter son comportement, le plus grand risque n'est pas que les machines perdent le contrôle, mais que l'humanité soit dégradée.
En d'autres termes, la technologie actuelle dépasse les limites de l'humanité. Si nous devons nous méfier de quelque chose, ce n'est pas de l'intelligence de l'IA, mais plutôt de notre tendance à mesurer les humains selon des critères mécaniques. Par exemple, si une personne ne peut pas être aussi efficace, précise ou disponible 24 heures sur 24 qu'une machine, la considérons-nous alors comme insuffisante ?
Le professeur Zhang Rongnan a identifié trois risques majeurs que l'IA représente pour la dignité humaine :
1. Perte de subjectivité : Les algorithmes prennent des décisions à notre place, nous perdant le sentiment de pouvoir choisir nous-mêmes.
2. Valeur du travail érodée : Nos expériences uniques sont extraites et reproduites, devenant ainsi moins précieuses.
3. Remplacement des interactions humaines : Les interactions réelles sont remplacées par de la technologie froide, ce qui nous diminue sur le plan émotionnel.
Pour faire face à ces risques, il a proposé un ensemble de « sept principes de dignité » et une approche en trois étapes, dont l'idée fondamentale est que l'IA doit être un assistant pour l'homme, et non un substitut ; la technologie doit servir l'homme, et non l'inverse. Cela nécessite l'action conjointe des systèmes, du marché et de la culture pour garantir que l'humanité conserve le contrôle dans les décisions clés, la protection de la vie privée et les soins émotionnels.
---
Analyse approfondie : Comprendre la dignité humaine à l'ère de l'IA à travers cinq dimensions
1. Ne devenez pas le « pantin » des algorithmes : Les décisions clés doivent être prises par des humains
(Correspondant au principe de la direction humaine)
Imaginez que lorsque vous demandez un prêt bancaire, que vous vous rendez à l'hôpital pour une opération ou que vous postulez dans une grande entreprise, ce n'est pas une personne réelle qui décide de votre destin, mais un algorithme invisible.
- Risques actuels : De plus en plus de situations, telles que le tri des CV, les diagnostics préliminaires à l'hôpital ou les recommandations de peines judiciaires, dépendent de l'IA. Si l'algorithme décide que vous n'êtes pas qualifié ou que vous êtes malade, vous ne savez souvent pas pourquoi et ne pouvez pas contester cette décision. C'est ce qu'on appelle la perte de subjectivité : vous n'êtes plus le maître de votre propre destin, mais esclave des données.
- Interprétation simple : Le professeur Zhang souligne que plus une décision affecte des moments importants de votre vie (justice, santé, recrutement), plus il est essentiel de conserver un contrôle humain.
- Exemple : L'IA peut être un secrétaire ultra-efficace qui organise les documents et propose des options, mais c'est toujours une personne qui doit signer les documents finaux.
- Point clé : Les conclusions de l'IA doivent être explicables et corrigibles. Si elles sont erronées, vous devez savoir pourquoi et pouvoir identifier la personne responsable (un médecin, un juge, un responsable des ressources humaines) pour demander des explications, et non simplement crier contre un algorithme.
2. Votre corps et vos données ne doivent pas devenir un « repas gratuit » pour les entreprises
(Correspondant aux principes de l'autodétermination des données et de l'autonomie narrative des données)
Les applications exigent souvent votre localisation, vos données de santé, voire vos ondes cérébrales ou votre état émotionnel. Le professeur Zhang souligne que ces données sensibles ne doivent pas devenir un moyen d'obtenir vos services.
- Risques actuels : De nombreux produits exigent que vous partagiez vos données en échange de leurs services. Si vous ne le faites pas, vous ne pouvez pas utiliser leurs fonctionnalités de base. Pire encore, les entreprises peuvent utiliser ces données pour entraîner des modèles d'IA ou même les commercialiser. Vos expériences personnelles, vos histoires et vos émotions deviennent des matériaux d'entraînement pour d'autres.
- Interprétation simple :
- Consentement informé détaillé : Vous devez savoir précisément ce que les entreprises font avec vos données (votre fréquence cardiaque, vos conversations, etc.).
- Droit de retrait : Vous devez pouvoir vous désabonner à tout moment, comme vous pouvez résilier un bail. Si un jour vous ne voulez plus que l'IA connaisse vos émotions, il doit y avoir un moyen simple de couper le lien.
- Droit de propriété sur les données : Vos conversations avec l'IA et les contenus générés sont vos actifs numériques. Les entreprises ne doivent pas en tirer profit en secret. Vous devez pouvoir les supprimer ou les modifier à votre guise.
3. L'IA est un « soutien », pas un « fauteuil roulant » : Empêcher le déclin des capacités humaines
(Correspondant au principe du soutien des capacités plutôt que du remplacement)
On dit souvent que l'inactivité entraîne la perte des compétences. Si l'IA fait tout à notre place, nos capacités pourraient-elles se détériorer ?
- Risques actuels : Auparavant, nous devions rechercher des informations, réfléchir et juger ; maintenant, l'IA génère des réponses en un clic. Une dépendance prolongée pourrait entraîner un déclin de notre pensée critique, de notre capacité à juger et même de nos compétences de base (écriture, calcul, orientation). Nous devenons alors des « télécommandes » pour l'IA, et non ses maîtres.
- Interprétation simple :
- Positionnement correct : L'IA doit compléter nos capacités, et non les prendre en charge.
- Maintenir l'opportunité d'exercer : L'IA peut être un enseignant, mais nous devons conserver la capacité de réfléchir et de pratiquer par nous-mêmes.
- Méfiez-vous du piège de la zone de confort : Si nous utilisons trop l'IA et cessons de réfléchir et de vérifier, notre intelligence pourrait se détériorer. Le professeur rappelle qu'il faut éviter une dépendance permanente à l'automatisation, car cela peut rendre les gens paresseux et moins réactifs.
4. Ne transformez pas les humains en « produits numériques » : Prévention de la dépersonnalisation et des dangers de l'imitation
(Correspondant aux principes de la prévention de la dépersonnalisation et de l'avertissement contre l'imitation)
L'IA peut maintenant cloner votre voix, votre visage et même votre personnalité. Cela pose un problème sérieux : les humains deviennent des **éléments » pouvant être assemblés à volonté.
- Risques actuels :
- Utilisation de l'image sans consentement : Votre visage ou votre voix peuvent être utilisés pour créer des personnages virtuels ou des publicités, voire pour des arnaques.
Confusion cognitive : De nombreux robots de conversation ou partenaires virtuels sont si réalistes que les utilisateurs (en particulier les personnes âgées, les enfants et les solitaires) peuvent confondre la réalité avec la fiction, développant une dépendance émotionnelle. Lorsqu'ils découvrent la vérité, cela peut entraîner un grand choc psychologique et un sentiment d'exploitation.
- Interprétation simple :
- Le corps et l'image sont sacrés : Personne ne peut utiliser votre image ou votre voix pour créer des produits numériques vendus ou assemblés à volonté sans votre permission.
Identification claire : Tous les produits basés sur l'IA doivent indiquer clairement qu'il s'agit d'une machine, pour éviter toute confusion cognitive et protéger les utilisateurs.
5. La technologie ne doit pas être un prétexte pour éviter ses responsabilités : Le respect des fondamentaux est essentiel
(Correspondant aux principes de réponse à la vulnérabilité et de l'interaction humaine comme complément, jamais comme substitut)
C'est le point le plus important et le plus difficile. Dans les situations où les personnes âgées, les enfants et les malades ont le plus besoin de soins, l'IA peut-elle remplacer les humains ?
- Risques actuels :
- Illusion de substitution émotionnelle : Certaines entreprises proposent des robots de compagnie pour les personnes âgées seules. En apparence, les personnes âgées ont une « présence humaine », mais les machines ne peuvent pas offrir de véritable empathie, de compréhension ou de chaleur.
- Évasion des responsabilités sociales : Les gouvernements ou les organisations peuvent réduire les investissements en personnel soignant, enseignants ou travailleurs sociaux sous prétexte que l'IA est plus économique et efficace. Cela cache en réalité une défaillance des responsabilités sociales.
Indifférence dans les moments de vulnérabilité : Lorsque les gens sont particulièrement vulnérables et ont besoin de soutien, l'IA ne peut offrir que des réponses standardisées et froides, voire interrompre les services en cas de risque, au lieu de fournir un soutien humain.
- Interprétation simple :
- L'IA est un complément, pas un substitut : Dans les domaines où la dépendance est élevée (soins aux personnes âgées, éducation des enfants, soins médicaux), l'IA ne peut être qu'un outil. Elle ne peut pas remplacer les interactions humaines.
Dispositifs de sécurité : Les systèmes doivent inclure des options pour arrêter l'utilisation, demander de l'aide ou passer à une intervention humaine en cas de problèmes. Lorsque l'IA détecte des signes d'émotion anormale ou de risque, elle doit réduire automatiquement son niveau de fonctionnement et permettre une intervention humaine.
Investissements financiers et en personnel : Au niveau gouvernemental, les technologies ne doivent pas entraîner une réduction des services humains. La technologie ne doit pas servir d'excuse pour éviter les responsabilités sociales. Le vrai soutien, les émotions et les interactions réelles sont inéchangeables.
---
Comment mettre en œuvre ces principes ? Trois étapes et trois mots-clés
Le professeur Zhang souligne que ces idées ne doivent pas rester des slogans ; elles nécessitent une mise en œuvre en trois étapes :
1. Avant le lancement des produits : examen éthique indépendant. Avant que les produits basés sur l'IA ne soient lancés, des organismes indépendants doivent vérifier s'ils portent atteinte à la dignité humaine, et non que les entreprises le fassent elles-mêmes.
2. Niveau institutionnel : établissement de règles : Les lois et les réglementations doivent clarifier les limites de l'IA, telles que la collecte des données, les responsabilités et les obligations de notification.
3. Niveau architectural : protection préétablie : Dès la conception des technologies, les fonctionnalités de direction humaine, de protection de la vie privée et d'intervention humaine doivent être intégrées dans le code, et non ajoutées ultérieurement.
Enfin, il a résumé trois mots-clés à retenir :
- Responsabilité humaine : Les décisions clés doivent être prises par des humains ; les algorithmes doivent être explicables, contestables et corrigibles. Ne blâmez pas les « erreurs du système ».
- Direction humaine : Votre corps, vos données et votre vie vous appartiennent ; vous êtes le maître, l'IA est un outil.
- Soutien émotionnel : La technologie ne doit pas supprimer les responsabilités humaines. Les groupes vulnérables (personnes âgées, malades, enfants) doivent recevoir un soutien réel et non seulement des réponses automatiques.
Conclusion :
L'ère de l'IA est inévitable, mais la valeur de l'humanité ne doit pas être diluée. Protéger la dignité humaine ne signifie pas s'opposer à la technologie, mais exiger que celle-ci respecte ses limites. Notre objectif est de profiter des avantages de l'IA tout en préservant notre dignité, notre autonomie et notre chaleur en tant qu'êtres humains.