¿Cómo mantenemos los principios fundamentales de ser humano cuando la IA se parece cada vez más a nosotros?
— Análisis en profundidad del discurso del profesor Zhang Rongnan en la Conferencia de la Bund
I. Resumen del contenido principal
En un foro de la Conferencia de la Bund de 2026, el profesor Zhang Rongnan, del Departamento de Filosofía de la Universidad Normal del Este de China, planteó una cuestión que toca de lleno un problema actual: Cuando la inteligencia artificial (IA) se parece cada vez más a los humanos e incluso puede imitar su comportamiento, el mayor riesgo no es que las máquinas se descontrolen, sino que el ser humano sea degradado.
En otras palabras, la tecnología actual está traspasando los límites de lo humano. Si debemos estar alerta a algo, no es a que la IA sea demasiado inteligente, sino a que comencemos a medir a los humanos con los estándares de las máquinas. Por ejemplo, si una persona no es tan eficiente, precisa o está disponible las 24 horas como una máquina, ¿acaso la consideraremos “insuficiente”?
El profesor Zhang Rongnan señaló tres riesgos principales por los que la IA puede dañar la dignidad humana:
1. Pérdida de la subjetividad: Los algoritmos toman las decisiones en lugar nuestro, y perdemos la sensación de ser dueños de nuestras propias vidas.
2. Desvalorización del trabajo: Nuestra experiencia única es extraída y replicada, volviéndose barata.
3. Sustitución de las relaciones: Las interacciones humanas reales son reemplazadas por tecnología fría, lo que nos conduce a una degradación emocional.
Para enfrentar estos riesgos, propuso un conjunto de “siete principios de dignidad” y un enfoque de tres niveles para su implementación, cuyo concepto central es: **la IA debe ser un asistente del ser humano, no un sustituto; la tecnología debe servir al hombre, no que el hombre se adapte a ella*. Esto requiere el esfuerzo conjunto de instituciones, mercados y cultura para asegurar que en decisiones clave, protección de la privacidad y cuidado emocional, el ser humano mantenga el control.
---
II. Análisis en profundidad: Comprendiendo la dignidad humana en la era de la IA desde cinco dimensiones
1. No seas un “marioneta” de los algoritmos: Las decisiones clave deben ser tomadas por personas
(Principio correspondiente: Principio de liderazgo humano)
Imagina que cuando solicitas un préstamo bancario, te sometes a una operación médica o asistes a una entrevista en una gran empresa, la decisión que determina tu destino no la toma una persona real, sino un algoritmo oculto.
- Riesgos actuales: Cada vez más situaciones, como la selección de currículos en empleos, los diagnósticos preliminares en hospitales o las recomendaciones de sentencias judiciales, dependen de la IA. Si el algoritmo decide que no eres adecuado o que estás enfermo, a menudo no sabes por qué y no puedes recurrir a nadie para discutirlo o quejarte. Esto se llama privación de la subjetividad: ya no eres dueño de tu propio destino, sino esclavo de los datos.
- Interpretación sencilla: El profesor Zhang enfatiza que cuanto más importantes sean los asuntos que afectan tu vida (justicia, salud, empleo), más necesario es mantener un punto de revisión humana.
- Ejemplo: La IA puede ser como un secretario extremadamente eficiente que organiza la información y enumera opciones, pero la firma debe estar en manos humanas.
- Punto clave: Las conclusiones de los algoritmos deben ser **explicables y corregibles*. Si cometen un error, debes saber dónde está el problema y poder identificar a una persona responsable (un médico, un juez, un gerente de recursos humanos) para que asuma la responsabilidad, en lugar de gritarle a la nada: “Me quejo de ese código”.
2. Tu cuerpo y tus datos no son un “almuerzo gratuito” para las empresas
(Principios correspondientes: Principio de autodeterminación de datos + Principio de autonomía narrativa de datos)
Las aplicaciones actuales a menudo solicitan tu ubicación, datos de salud e incluso tus ondas cerebrales o estado emocional. El profesor Zhang señala que estos datos altamente sensibles no deben convertirse en un “pase” para utilizar sus servicios.
- Riesgos actuales: Muchos productos funcionan de esta manera: “Quieres usar WeChat/esta aplicación? Primero entrega tu privacidad”. Si no lo haces, no puedes usar las funciones básicas. Lo peor es que las empresas pueden usar tus datos para entrenar modelos de IA o incluso venderlos como productos. Tus experiencias personales, historias y fluctuaciones emocionales se convierten en “material de entrenamiento” para otros.
- Interpretación sencilla:
- Consentimiento informado debe ser claro: No basta con una línea pequeña para que selecciones “Estoy de acuerdo”. Debes saber con precisión para qué usan tus datos.
- Derecho a retirarlos en cualquier momento: Es como alquilar una casa: puedes renunciar en cualquier momento. Si algún día no quieres que la IA conozca tus emociones, debe haber un botón simple para “desconectar la conexión”.
- Los datos te pertenecen: Los registros de tus conversaciones con la IA y el contenido generado son tus “activos digitales”. Las empresas no pueden usarlos para ganar dinero a tus espaldas. Puedes borrarlos o modificarlos cuando quieras; el control debe estar en tus manos.
3. La IA es un “bastón”, no una “silla de ruedas”: Prevence el atrofio de las capacidades
(Principio correspondiente: Principio de apoyo a las capacidades, no de sustitución)
Suele decirse que “no usas algo y lo pierdes”. ¿Perderemos nuestras capacidades si la IA hace todo por nosotros?
- Riesgos actuales: Antes teníamos que buscar información, pensar y juzgar; ahora la IA proporciona respuestas con un clic. La dependencia a largo plazo puede llevar al atrofio de nuestro pensamiento crítico, nuestra capacidad de juicio independiente e incluso habilidades básicas de la vida (escribir, calcular, orientación). Nos convertimos en “controladores remotos” de la IA, no en sus dueños.
- Interpretación sencilla:
- Posicionamiento correcto: La IA debe complementar nuestras capacidades, no sustituirlas.
- Mantén la oportunidad de practicar: La IA puede ser un instructor, pero no debe tomar el control de todo. Debemos mantener el espacio para pensar y practicar de manera independiente.
- Cuidado con la trampa de la zona de confort: Si dejamos de usar nuestro cerebro para cuestionar y verificar porque usamos la IA, nuestro nivel intelectual puede disminuir. El profesor Zhang advierte que debemos evitar la dependencia a largo plazo de la automatización para no volverse perezosos y torpes.
4. No conviertas a las personas reales en “productos digitales”: Advertencia contra la desmaterialización y la simulación
(Principios correspondientes: Principio contra la desmaterialización y la advertencia contra la simulación)
Ahora la IA puede clonar tu voz, tu rostro e incluso tu personalidad. Esto plantea un problema grave: las personas se convierten en “piezas” que se pueden ensamblar a voluntad.
- Riesgos actuales:
- Uso indebido de la imagen: Sin tu consentimiento, tu rostro o voz puede ser utilizado para crear ídolos virtuales, materiales publicitarios o incluso para estafas.
- Confusión cognitiva: Muchos robots de conversación y compañeros virtuales se parecen demasiado a personas reales. Los usuarios (especialmente ancianos, niños y solitarios) pueden confundir si lo que tienen delante es una máquina o una persona real, lo que puede llevar a una dependencia emocional y una gran decepción cuando descubren la verdad.
- Interpretación sencilla:
- El cuerpo y la imagen son sagrados: Nadie puede usar tu imagen o voz para crear “productos digitales” que se puedan comprar y vender a voluntad sin tu permiso explícito.
- Identificación clara: Todos los productos de IA antropomórficos deben tener identificaciones claras y constantes para informar a los usuarios: “Soy una máquina, no una persona real”. Al igual que los actores de efectos especiales en las películas, la IA también debe tener una “licencia” para evitar confusión cognitiva y proteger los límites emocionales de los usuarios.
5. La tecnología no puede ser una excusa para evadir responsabilidades: Los principios de cuidado no pueden ser ignorados
(Principios correspondientes: Principio de respuesta a la vulnerabilidad + Las relaciones humano-máquina son complementarias, nunca pueden reemplazar las interacciones personales)
Este es el punto más conmovedor y a la vez más grave. ¿Puede la IA reemplazar a las personas en situaciones que requieren cuidado especial, como para ancianos, niños o pacientes?
- Riesgos actuales:
- Ilusión de reemplazo emocional: Algunas empresas ofrecen robots de compañía para ancianos solitarios. A primera vista, los ancianos tienen a alguien con quien hablar, pero en realidad, las máquinas no pueden proporcionar empatía, comprensión o calidez verdadera.
- Evasión de responsabilidades sociales: Los gobiernos o instituciones pueden reducir el personal de cuidado humano, maestros o trabajadores sociales debido a la IA, argumentando que es más económico y eficiente. Esto es en realidad usar la tecnología para ocultar la falta de responsabilidad estructural de la sociedad.
- Indiferencia en momentos vulnerables: Cuando las personas están extremadamente vulnerables y necesitan ser “vistas”, la IA solo puede proporcionar respuestas estandarizadas y frías, e incluso puede cortar el servicio al detectar riesgos en lugar de ofrecer un apoyo humano.
- Interpretación sencilla: La IA es solo una ayuda, no la única opción: En cuidado de ancianos, crianza o medicina, la IA debe ser un herramienta auxiliar, no el único interlocutor. Los sistemas deben incluir opciones para “detener”, “pedir ayuda” o “pasar al control humano”. Cuando la IA detecta señales de emociones anormales o riesgos, debe reducir el nivel de automatización y llamar a un cuidador humano.
- No se puede reducir el financiamiento ni el personal: A nivel público, los gobiernos no deben reducir los servicios humanos debido a la IA. La tecnología no puede ser una excusa para evadir responsabilidades sociales. El cuidado real, los abrazos y el contacto visual son cosas que las máquinas nunca podrán reemplazar. Si la IA hace que los ancianos se sientan más solos o los niños más desamparados, entonces esa tecnología ha fallado.
---
III. Cómo implementar estos principios: Tres niveles y tres palabras clave
El profesor Zhang enfatizó que estos conceptos no deben quedar solo en palabras, sino que necesitan una implementación en tres niveles:
1. Antes de la implementación: Revisión ética independiente. Antes de que un producto de IA se lance al mercado, debe ser evaluado por una institución externa para asegurar que no viola la dignidad humana, no que lo haga la empresa misma.
2. A nivel institucional: Establecimiento de restricciones. Las leyes y regulaciones deben definir claramente los límites de la IA, como cómo se recopilan los datos, quién asume la responsabilidad y cómo se deben identificar los productos.
3. A nivel de arquitectura: Previsión de protección desde el diseño. Desde el principio, las funciones de liderazgo humano, protección de la privacidad y control humano deben estar incorporadas en el código, en lugar de agregarlas posteriormente.
Finalmente, resumió tres palabras clave que todos deberían recordar:
- Responsabilidad presente: Las decisiones clave deben ser asumidas por personas; los algoritmos deben ser explicables, cuestionables y corregibles. No culpes a los “errores del sistema”.
- Liderazgo humano: Tu cuerpo, tus datos y tu historia son tuyos; tú eres el dueño, la IA es una herramienta.
- Límites del cuidado: La tecnología no puede eliminar la responsabilidad humana. Los grupos vulnerables (ancianos, pacientes, niños) no deben recibir solo respuestas automatizadas y frías. El cuidado humano real es insustituible.
Conclusión:
La ola de la IA es imparable, pero el valor del ser humano no debe diluirse. Proteger la dignidad humana no significa oponernos a la tecnología, sino exigir que la tecnología **sepa cuáles son sus límites*. Nuestro objetivo es asegurar que, mientras disfrutamos de las conveniencias de la IA, también podamos sentir la dignidad, la autonomía y el calor de ser humanos.