Zusammenfassung der Kerninhalte
Kürzlich führte die Stanford Business School in Zusammenarbeit mit der Sloan School of Management der MIT eine Umfrage durch, bei der Tausende amerikanischer Erwachsener zu Finanzentscheidungen befragt wurden. Das Ergebnis widerspricht dem gesunden Menschenverstand: Selbst wenn Männer und Frauen gleiches Einkommen, Vermögen, Risikobewusstsein und finanzielle Situation haben, erzielt die von KI erstellte langfristige Finanzplanung für Frauen bis zum Rentenalter im Alter von 60 Jahren insgesamt fast 60.000 US-Dollar (ca. 410.000 Yuan) weniger als die für Männer. Der Unterschied entsteht hauptsächlich dadurch, dass die KI Frauen automatisch 3 Prozent weniger hochrenditefähige Aktien zuweist. Dieses Ergebnis ist weder auf einen Fehler der KI zurückzuführen noch auf eine absichtlich aufmerksamkeitsheischende Aktion – vielmehr spiegelt es ein seit Jahrzehnten bestehendes Stereotyp wider, dass Frauen bei der Finanzplanung konservativer sind. Die KI hat dieses Stereotyp gelernt und mit präzisen Algorithmen zu „objektiven“ Finanzplänen verpackt. Zudem entstand das neue Problem, dass je unerfahrener die Person bei der Finanzplanung ist, desto schlechter die erhaltenen Ratschläge sind. Derzeit herrscht in der KI-basierten Finanzberatung ein „Verantwortungsvakuum“ – normale Nutzer können unbemerkt zu Nachteilen kommen.
---
Detaillierte Analyse
1. Der Unterschied von 400.000 Yuan ist keine Luftnummer, sondern das Ergebnis von jahrzehntelanger Zinseszinswirkung
Viele Menschen denken, dass eine 3-prozentige Unterschied in der Aktienquote nicht zu einem solchen Unterschied führen kann. Doch die strenge Methodik der Studie schließt alle störenden Faktoren aus: Die Forscher wählten fast 1.000 reale Personen aus, die ihre tatsächlichen Fragen zur Finanzplanung der KI mitteilten. Diese Fragen wurden anschließend an große KI-Modelle wie GPT und Gemini eingegeben, um den gesamten Lebenszyklus von 22 Jahren (Beginn der Arbeit) bis zum Tod im Alter von 90 Jahren zu simulieren – einschließlich möglicher Arbeitslosigkeit, Einkommensrückgänge, Börsenkräche und unerwarteter Todesfälle. Das Ergebnis zeigte, dass die von Männern und Frauen erhaltenen Ratschläge bezüglich der Sparquote nahezu identisch waren; der einzige Unterschied lag in der Aktienquote.
Man sollte die 3-prozentige Differenz nicht unterschätzen: Langfristig betrachtet liegt die durchschnittliche jährliche Rendite von Aktien etwa 5 Prozent über der von niedrigriskanten Anlagen wie Festgeldern und Geldmarktfonds. 3 Prozent weniger Aktien bedeuten jährlich eine um 0,15 Prozent geringere Gesamterträge. Auf 38 Jahre angerechnet ergibt sich ein Unterschied von mehr als 400.000 Yuan – das entspricht fast einem halben Jahresgehalt eines Durchschnittsarbeiters, das einfach verschwindet.
2. Die geschlechtsspezifischen Finanzvorurteile der KI lassen sich in zwei Teile unterteilen: zwei Drittel sind auf Fragegewohnheiten zurückzuführen, ein Drittel auf absichtliche Diskriminierung
Die Forscher führten Vergleichstests durch und erklärten die Ursachen für den Unterschied in der Aktienquote:
– Zwei Drittel des Unterschieds resultieren aus den unterschiedlichen Fragegewohnheiten von Männern und Frauen: Frauen erwähnen bei Finanzfragen häufig Begriffe wie „Familie, Schulden, Kredite, Festgeld“, wodurch die KI eher auf konservative Anlagen wie Bargeld setzt; Männer hingegen sprechen oft von „Investitionsportfolios, Aktien, Strategien, Kryptowährungen“, wodurch die KI höhere Anteile an risikoreichen Anlagen zuweist. Dies spiegelt tatsächlich die unterschiedlichen Risikopräferenzen der Geschlechter wider und ist keine absichtliche Diskriminierung der KI.
– Ein Drittel des Unterschieds ist reine Diskriminierung: Die Forscher entfernten alle Hinweise auf Geschlecht und finanzielle Situation aus den Fragen und fügten nur am Ende hinzu, ob die Person weiblich oder männlich ist. In diesem Fall weist die KI Frauen automatisch 3–3,5 Prozent weniger Aktien zu – ohne jegliche finanzielle Begründung.
Der Grund dafür liegt in den Trainingsdaten der KI: In diesen sind alte Stereotype über Frauen und Risikoaversionen verankert. Die KI übernimmt diese Stereotype und gibt sie als „absolut korrekte Wahrheiten“ weiter; es ist nicht ausgeschlossen, dass einige KI-Plattformen sogar darauf abzielen, Frauen dazu zu bringen, risikoreiche Produkte zu kaufen, um Provisionen zu erzielen.
3. Noch schlimmer als weniger Geld zu verdienen: Die KI verwandelt alte Vorurteile in Wirklichkeit
Das Schlimmste an diesen Vorurteilen ist, dass sie das Phänomen der „Stereotypenbedrohung“ in der Psychologie auslösen: Man könnte ursprünglich gar kein Risiko bei Aktien eingehen und sogar 20-prozentige Schwankungen des Kontos ertragen. Doch wenn man die KI um Finanzberatung bittet, wird man immer wieder darauf hingewiesen, dass Frauen konservativer sein sollten. Nach wiederholten Ratschlägen beginnt man tatsächlich, selbst zu glauben, dass risikoreiche Anlagen nicht geeignet sind – und verhält sich entsprechend konservativer.
Früher konnten solche Vorurteile im Laufe der Zeit abnehmen; zum Beispiel könnte der Anblick einer Freundin, die mit Aktien Geld verdient, dazu führen, dass man die Meinung ändert. Doch die KI wählt die am häufigsten verbreiteten „Mainstream-Ansichten“ aus und verstärkt sie, wodurch sich die bereits verbesserten Finanzvorstellungen rückwärts entwickeln.
4. Geschlechterdiskriminierung ist nur die Spitze des Eisbergs – KI-basierte Finanzberatung benachteiligt in erster Linie Unerfahrene
Das bei dieser Studie aufgedeckte Problem ist nur ein Beispiel für die Ungerechtigkeiten bei der KI-basierten Finanzberatung: Ein menschlicher Finanzberater würde auch einem Laien, der nur sagt „Ich möchte Geld sparen“, Fragen stellen, um mehr Informationen zu erhalten. Eine KI hingegen ignoriert solche Informationen und stellt unbrauchbare Ratschläge. Erfahrene Nutzer, die professionelle Begriffe verwenden, erhalten durch die KI durchschnittlich 100.000 US-Dollar mehr an Einkommen. Je ärmer und weniger finanziell gebildet eine Person ist und je dringender eine zuverlässige Beratung benötigt, desto schlechter sind die von der KI erhaltenen Ratschläge – der Matthäuseffekt wird durch die Algorithmen realisiert. Zudem trägt niemand die Verantwortung für eventuelle Verluste: KI-Plattformen behaupten, ihre Ratschläge seien nur zur Orientierung da, und die Entwickler der Modelle geben die Schuld auf die Trainingsdaten.
5. Um bei der Nutzung von KI-basierten Finanzdiensten Fehler zu vermeiden, sollten drei einfache Prinzipien beachtet werden
In China werden immer mehr KI-basierte Finanzdienste angeboten. Man sollte die KI-basierte Finanzberatung nicht generell ablehnen, sondern nur die Fehler vermeiden:
1. Betrachten Sie die Ratschläge der KI nicht als Standardlösungen. Stellen Sie bei Ihrer Anfrage konkrete Anforderungen (z. B.: „Ich bin 30 Jahre alt, kann maximal 20 Prozent jährlichen Verluste ertragen, wünsche eine langfristige Rendite von mindestens 8 Prozent und möchte eine Aktienquote von mindestens 60 Prozent“).
2. Ignorieren Sie Produkte, die die KI ohne Ihre expliziten Anfragen empfiehlt – die meisten davon sind werbemäßig motiviert und nicht individuell auf Ihre Bedürfnisse zugeschnitten.
3. Fordern Sie die KI auf, die Gründe für jede Anlageentscheidung klar zu erklären. Wenn sie keine plausiblen Gründe nennt, sollten Sie den Rat ignorieren.
Die KI übernimmt lediglich bestehende menschliche Vorurteile auf neue, verstecktere und präzisere Weise – ohne neue Ungerechtigkeiten zu schaffen.