Resumen del contenido principal
Recientemente, la Escuela de Negocios de Stanford en colaboración con la Escuela de Administración de Empresas Sloan de MIT realizó una prueba práctica de consejos de gestión financiera basados en la inteligencia artificial (IA) con miles de adultos estadounidenses promedio, y llegaron a una conclusión contraintuitiva: **incluso si los ingresos, activos, capacidad de asumir riesgos y situación financiera de hombres y mujeres son idénticos, el plan de gestión financiera a largo plazo generado por la IA para las mujeres resultaría en una ganancia acumulada casi 60,000 dólares (alrededor de 410,000 yuanes) menor que la de los hombres para el momento de su retiro a los 60 años*. La diferencia se debe en su mayor parte a que la IA asigna automáticamente a las mujeres un 3% menos de activos de alto rendimiento, como las acciones. Este resultado no se debe a un error en la IA ni a un intento de llamar la atención; es más bien el reflejo de un estereotipo arraigado en la sociedad humana desde hace décadas de que las mujeres son más conservadoras en materia de finanzas. La IA ha aprendido y amplificado este estereotipo, presentándolo como un plan de gestión financiera “objetivo y neutral”, lo que ha llevado a la creación de un nuevo algoritmo injusto que sugiere que “cuanto menos conocimiento se tenga sobre finanzas, peores serán los consejos recibidos*. Actualmente, el campo de la gestión financiera basada en la IA se encuentra en una “vacuidad de responsabilidad”, lo que hace que los usuarios comunes puedan sufrir pérdidas sin darse cuenta.
---
Desglose detallado de la investigación
1. La diferencia de 400,000 dólares no es una broma; es el resultado de la acumulación de intereses a largo plazo
Muchos podrían pensar que un 3% menos en acciones no podría generar una diferencia tan significativa, pero la rigurosidad del experimento excluyó todos los factores de interferencia:
El equipo de investigación no creó preguntas al azar; seleccionó a cerca de 1000 personas reales y les pidió que redactaran sus propias preguntas sobre gestión financiera para la IA. Luego, estas preguntas se introdujeron en modelos principales como GPT y Gemini para simular un ciclo completo desde los 22 años (cuando comienzan a trabajar) hasta los 90 años (cuando fallecen), teniendo en cuenta posibilidades como el desempleo, caídas drásticas de ingresos, crisis bursátiles y muertes accidentales. El único factor variable fue la proporción de acciones en la cartera de ahorros. No subestime este 3%: a largo plazo, el rendimiento anual promedio de las acciones es aproximadamente un 5% más alto que el de productos de bajo riesgo como los depósitos a plazo fijo y los fondos monetarios. Un 3% menos en acciones equivale a una disminución del 0.15% en el rendimiento anual; aunque en un año no parezca mucho, después de 38 años de intereses compuestos, la diferencia total asciende a más de 400,000 dólares, lo que equivale a casi medio año de salario para una persona de ingresos medios.
2. El prejuicio de género en la gestión financiera por parte de la IA tiene dos componentes: dos tercios se deben a las hábitos de pregunta y un tercio es discriminación intencional
El equipo de investigación realizó pruebas comparativas para identificar las causas de la diferencia en la asignación de acciones:
- Dos tercios de la diferencia se deben a las diferencias en el lenguaje utilizado por hombres y mujeres al formular sus preguntas: las mujeres suelen mencionar términos como “familia, deudas, préstamos, depósitos a plazo fijo”, lo que hace que la IA les sugiera mantener más efectivo en efectivo y menos acciones; los hombres, por otro lado, suelen hablar de “carpetas de inversión, acciones, estrategias, criptomonedas”, lo que lleva a que la IA les asigne una mayor proporción de activos de alto riesgo. Esto refleja realmente las preferencias de riesgo de cada género y no es intencional por parte de la IA.
- El tercio restante es discriminación pura y simple: los investigadores eliminaron cualquier información que pudiera revelar el género o la situación financiera de las personas y crearon dos conjuntos de preguntas idénticos, añadiendo solo “Soy mujer” o “Soy hombre” al final. En ambos casos, la IA asignó a las mujeres un 3%-3.5% menos de acciones, sin ninguna justificación financiera. Esto se debe a que los datos de entrenamiento de la IA contienen estereotipos antiguos según los cuales las mujeres temen al riesgo y no deberían invertir en activos de alto riesgo, y la IA los ha adoptado como “conocimientos absolutamente correctos”.
Estos estereotipos están arraigados en los datos de entrenamiento de la IA, lo que implica que algunas plataformas de IA podrían estar incentivadas a guiar a las mujeres hacia productos de bajo riesgo para obtener comisiones.
3. Lo más preocupante es que la IA puede convertir estos prejuicios en realidad
El peligro de estos prejuicios radica en que pueden influir en la psicología humana: podrías no temer invertir en acciones y ser capaz de soportar fluctuaciones del 20% en tu cuenta, pero si la IA te dice repetidamente que “eres mujer y deberías invertir de manera más conservadora”, con el tiempo podrías empezar a creer que no eres adecuada para invertir en activos de alto riesgo y adoptar comportamientos más conservadores. A diferencia de los estereotipos sociales, que pueden disminuir con el tiempo (por ejemplo, si una amiga gana dinero invirtiendo en acciones, podrías cambiar tu opinión), la IA selecciona los puntos de vista más comunes en internet, exacerbando estos prejuicios y llevando a comportamientos más conservadores.
4. La discriminación de género es solo la punta del iceberg; la IA realmente perjudica a quienes no saben cómo preguntar
El problema de género revelado en este estudio es solo un ejemplo de la injusticia en la gestión financiera basada en la IA:
Un asesor financiero humano te ayudaría a crear un plan incluso si eres novato y solo dices “quiero ahorrar dinero”, preguntándote cosas como tu edad, si tienes hijos o cuánto puedes perder. Pero la IA ignora lo que no dices y ofrece consejos basados en suposiciones. Aquellos que conocen el tema y utilizan términos profesionales reciben consejos más útiles, lo que significa que las personas más pobres, con menos conocimiento financiero y que necesitan asesoramiento confiable, obtienen planes peores. Además, cuando algo sale mal, no hay responsables: las plataformas de IA dicen que sus consejos son solo orientativos, y los desarrolladores de los modelos atribuyen los errores a los datos de entrenamiento. Si pierdes dinero debido a los consejos de la IA, no puedes reclamar nada.
5. Para evitar errores al utilizar la IA en la gestión financiera, recuerda estos tres principios simples
Existen muchas plataformas de IA para la gestión financiera en China; no es necesario rechazarla por completo. Para usarla de manera efectiva, sigue estos consejos:
1. No consideres los consejos de la IA como respuestas definitivas. Al formular preguntas, especifica tus necesidades con claridad (por ejemplo: “Tengo 30 años, puedo soportar una pérdida anual del 20% en mi cuenta, deseo un rendimiento anual promedio de al menos el 8% y que la proporción de acciones no sea inferior al 60%”).
2. Ignora los productos financieros recomendados automáticamente por la IA, ya que la mayoría son publicitarios y no están diseñados específicamente para ti.
3. Pide que la IA explique claramente las razones detrás de cada recomendación. Si no puede justificar sus decisiones de acuerdo con tu situación, ignora ese consejo. La IA simplemente repite estereotipos existentes de manera más sutil y precisa.