第一财经

Professor Zhang Rongnan von der Ostchinesischen Normaluniversität: Wie schützen wir die Würde der Menschheit im Zeitalter der KI?

原文：华东师范大学教授张容南：AI时代如何守护人类尊严

阅读原文

Wie wir die Grundlagen der Menschlichkeit bewahren, wenn KI immer mehr wie ein Mensch wird?

– Eine tiefgreifende Analyse des Vortrags von Professor Zhang Rongnan auf der Bund-Expo

Zusammenfassung des Kerninhalts

Auf einem Forum der Bund-Expo 2026 stellte Professor Zhang Rongnan von der Philosophischen Fakultät der East China Normal University eine Frage, die die aktuelle Problematik auf den Punkt bringt: Wenn Künstliche Intelligenz (KI) immer mehr wie ein Mensch wird und sogar menschliches Verhalten nachahmen kann, ist unser größtes Risiko nicht, dass die Maschinen außer Kontrolle geraten, sondern dass der Mensch herabgewürdigt wird.

Einfach ausgedrückt: Die heutige Technologie überschreitet die Grenzen des Menschlichen. Wenn wir wachsam sein müssen, dann nicht davor, dass KI zu klug wird, sondern davor, dass wir „menschliche Standards“ an Menschen anwenden. Zum Beispiel: Wenn jemand nicht so effizient, präzise oder rund um die Uhr verfügbar ist wie eine Maschine, halten wir ihn vielleicht für „unzureichend“?

Professor Zhang Rongnan wies auf drei Hauptrisiken hin, die KI für die Würde des Menschen darstellt:

1. Verlust der Subjektivität: Algorithmen treffen Entscheidungen für uns, und wir verlieren das Gefühl, selbst zu entscheiden.

2. Entwertung der Arbeit: Unsere einzigartigen Erfahrungen werden extrahiert und kopiert, wodurch sie billig werden.

3. Ersetzung von menschlichen Beziehungen: Reale soziale Interaktionen werden durch kühle Technologie ersetzt, was zu einer emotionalen Entwertung führt.

Um diesen Risiken entgegenzuwirken, schlug er ein Set von „Sieben Würdeprinzipien“ und „Drei Umsetzungswege“ vor. Der Kerngedanke ist: KI sollte ein Helfer des Menschen sein, nicht ein Ersatz für den Menschen; die Technologie muss dem Menschen dienen, nicht umgekehrt. Dies erfordert die Zusammenarbeit von Institutionen, Markt und Kultur, um sicherzustellen, dass der Mensch bei wichtigen Entscheidungen, Datenschutz und emotionaler Fürsorge immer die Kontrolle behält.

---

Detaillierte Analyse: Fünf Dimensionen, um die Würde des Menschen im Zeitalter der KI zu verstehen

1. Seien Sie kein „Puppenspieler“ der Algorithmen: Entscheidungen müssen von Menschen getroffen werden

(Entsprechendes Prinzip: Prinzip der menschlichen Kontrolle)

Stellen Sie sich vor, Sie beantragen einen Kredit, unterziehen sich einer Operation im Krankenhaus oder bewerben sich bei einem großen Unternehmen – und die Entscheidung über Ihr Schicksal fällt nicht einer lebenden Person, sondern einem unsichtbaren „Blackbox-Algorithmus“ zu.

  • Aktuelle Risiken: In immer mehr Situationen, wie bei der Auswahl von Bewerbungsunterlagen, vorläufigen Diagnosen in Krankenhäusern oder Strafempfehlungen durch Gerichte, wird auf KI zurückgegriffen. Wenn der Algorithmus sagt, dass Sie nicht geeignet sind oder krank sind, wissen Sie oft nicht, warum, und können auch niemanden finden, mit dem Sie darüber streiten oder sich beschweren können. Das nennt man „Verlust der Subjektivität“ – Sie sind nicht mehr der Herr über Ihr eigenes Schicksal, sondern ein Sklave der Daten.
  • Einfache Erklärung: Professor Zhang betont, dass je wichtiger die Entscheidungen für Ihr Leben sind (z. B. in Justiz, Medizin, Personalwesen), desto notwendiger ist es, einen menschlichen Überprüfungsprozess zu haben.
  • Vergleich: KI kann wie ein supereffizienter Sekretär sein, der Ihnen Unterlagen sortiert und Optionen aufzählt, aber das letzte Unterschreiben muss von einem Menschen erfolgen.
  • Wichtiger Punkt: Die Schlussfolgerungen der Algorithmen müssen erklärbar und korrigierbar sein. Wenn sie falsch sind, müssen Sie wissen, wo der Fehler liegt, und einen konkreten Verantwortlichen finden, den Sie zur Rechenschaft ziehen können – nicht einfach „Ich beschwere mich über diesen Code“ rufen.

2. Ihr Körper und Ihre Daten sind kein „kostenloser Lunch“ für Unternehmen

(Entsprechende Prinzipien: Prinzip der Datensouveränität + Prinzip der Autonomie der Datennarrative)

Heutige Apps fordern oft Ihre Standortdaten, Gesundheitsinformationen oder sogar Ihre Gehirnwellen und Emotionen. Professor Zhang weist darauf hin, dass diese hochsensiblen Daten nicht als „Eintrittskarte“ für den Nutzungsdienst dienen dürfen.

  • Aktuelle Risiken: Viele Produkte funktionieren nach dem Prinzip: „Möchten Sie WeChat oder diese App nutzen? Zuerst geben Sie Ihre Privatsphäre ab.“ Wenn Sie das nicht tun, können Sie die grundlegenden Funktionen nicht nutzen. Noch schlimmer: Unternehmen nutzen Ihre Daten, um KI-Modelle zu trainieren oder sie sogar als Waren zu verkaufen. Ihre persönlichen Erfahrungen, Geschichten und Emotionen werden zu „Trainingsmaterial“ für andere.
  • Einfache Erklärung:
  • Klarer Einverständnisschluss: Es sollte nicht nur eine kleine Zeile geben, in der Sie „Ich stimme zu“ ankreuzen müssen. Sie müssen genau wissen, wofür Ihre Daten verwendet werden.
  • Jederzeitige Rückzug: Wie bei der Miete eines Hauses sollten Sie auch die Möglichkeit haben, die Verbindung jederzeit zu kündigen. Wenn Sie eines Tages nicht mehr möchten, dass KI Ihre Emotionen kennt, sollte es einen einfachen Button geben, um die Verbindung zu unterbrechen.
  • Datensouveränität gehört Ihnen: Die Aufzeichnungen Ihrer Gespräche mit KI und die von Ihnen erstellten Inhalte sind Ihr „digitales Eigentum“. Unternehmen dürfen diese nicht heimlich nutzen, um Geld zu verdienen. Sie können sie löschen oder ändern – die Kontrolle liegt bei Ihnen.

3. KI ist eine „Krücke“, nicht ein „Rollstuhl“: Verhindern Sie den Verlust von Fähigkeiten

(Entsprechendes Prinzip: Unterstützung der Fähigkeiten, nicht Ersatz)

Wir sagen oft „Übung macht den Meister“. Wenn KI alles für uns erledigt, könnten unsere Fähigkeiten nachlassen?

  • Aktuelle Risiken: Früher mussten wir recherchieren, nachdenken und urteilen; heute gibt KI sofort Antworten. Eine langfristige Abhängigkeit könnte zu einem Rückgang unserer kritischen Denkfähigkeit, unabhängigen Urteilsfähigkeit und sogar grundlegender Lebensfähigkeiten (z. B. Schreiben, Rechnen, Richtungssinn) führen. Wir werden zu „Steuerern“ von KI, nicht zu deren „Besitzern“.
  • Einfache Erklärung:
  • Richtige Positionierung: KI sollte Ihre Fähigkeiten ergänzen, nicht ersetzen.
  • Bewahrung von Übungsmöglichkeiten: KI kann ein Trainer sein, aber sie sollte nicht immer das Gaspedal für Sie betätigen. Wir müssen Raum für unabhängiges Denken und Üben behalten.
  • Vorsicht vor der „Komfortzone-Falle“: Wenn wir aufgrund der Nutzung von KI nicht mehr bereit sind, zu hinterfragen und zu überprüfen, könnte unser Intelligenzgrad allmählich nachlassen. Professor Zhang warnt davor, dass eine langfristige Abhängigkeit von Automatisierung dazu führen kann, dass Menschen „träge“ und „träge“ werden.

4. Verwandeln Sie keine echten Menschen in „digitale Waren“: Warnung vor Entmenschlichung und Verkörperung

(Entsprechende Prinzipien: Warnung vor Entmenschlichung und Verkörperung)

Heute kann KI Ihre Stimme, Ihr Gesicht oder sogar Ihre Persönlichkeit klonen. Dies führt zu einem beängstigenden Problem: Menschen werden zu „Teilen“, die willkürlich zusammengesetzt werden können.

  • Aktuelle Risiken:
  • Missbrauch der Identität: Ohne Ihre Zustimmung wird Ihr Gesicht oder Ihre Stimme zu virtuellen Idolen, Werbematerial oder sogar zum Betrug verwendet.
  • Kognitive Verwirrung: Viele KI-Chatbots und virtuelle Begleiter sind so realistisch, dass Nutzer (insbesondere ältere Menschen, Kinder, Einsame) nicht mehr unterscheiden können, ob sie mit einer Maschine oder einem Menschen sprechen – und wenn sie die Wahrheit erfahren, können sie ein großes psychologisches Trauma erleiden.
  • Einfache Erklärung:
  • Körper und Identität sind heilig: Ohne Ihre ausdrückliche Genehmigung darf niemand Ihr Gesicht oder Ihre Stimme zu einem „digitalen Produkt“ machen, das gekauft und weiterverkauft werden kann.
  • Klare Identifizierung erforderlich: Alle anthropomorphen KI-Produkte müssen eine klare, kontinuierliche Kennzeichnung haben, die den Nutzern mitteilt: „Ich bin eine Maschine, kein Mensch.“ Genau wie Spezialeffekt-Schauspieler im Kino müssen sie eine Lizenz haben, um Verwirrung zu vermeiden und die psychologischen Grenzen der Nutzer zu schützen.

5. Technologie darf kein Vorwand sein, Verantwortung zu umgehen: Die Grundlagen der Fürsorge dürfen nicht aufgegeben werden

(Entsprechende Prinzipien: Reaktion auf Verletzlichkeit + Mensch-Maschine-Beziehungen sind ergänzend, niemals Ersatz für menschliche Interaktionen)

Dies ist der emotionalste und gleichzeitig schwierigste Punkt. Können KI in Situationen, in denen besonders viel Fürsorge benötigt wird (z. B. bei älteren Menschen, Kindern, Kranken), die Rolle von echten Menschen übernehmen?

  • Aktuelle Risiken:
  • Illusion der emotionalen Ersetzung: Einige Unternehmen bieten KI-Begleitroboter für alleinstehende ältere Menschen an. Auf den ersten Blick scheint es, als hätten die älteren Menschen jemanden zum Sprechen, aber in Wirklichkeit kann die Maschine keine echte Empathie, Verständnis oder Wärme bieten.
  • Flucht vor sozialer Verantwortung: Regierungen oder Organisationen könnten aufgrund von KI die Investitionen in menschliche Pflegekräfte, Lehrer oder Sozialarbeiter kürzen, mit der Begründung, dass KI billiger und effizienter sei. Das ist jedoch ein Versuch, die mangelnde soziale Verantwortung mit Technologie zu vertuschen.
  • Gleichgültigkeit in schwachen Momenten: Wenn Menschen in extrem schwachen, schmerzhaften Situationen sind und Aufmerksamkeit benötigen, kann KI nur standardisierte, kühle Antworten geben – oder sogar die Dienstleistung abbrechen, anstatt menschliche Hilfe anzubieten.
  • Einfache Erklärung: KI ist nur eine Hilfe, nicht die einzige Option: In hochabhängigen Bereichen wie Pflege, Erziehung und Medizin kann KI nur ein Hilfsmittel sein. Sie darf nicht die einzige Interaktion sein. Es muss immer eine menschliche „Rückversicherung“ geben. Das System muss Einträge für „Stopp, Hilfe, menschliche Übernahme“ enthalten. Wenn KI emotionale Störungen oder Risikosignale erkennt, muss es die Automatisierung sofort reduzieren und menschliche Pflegekräfte einbeziehen.
  • Finanzielle und personelle Ressourcen dürfen nicht gekürzt werden: Auf öffentlicher Ebene dürfen Regierungen die Investitionen in menschliche Dienste nicht aufgrund von KI reduzieren. Technologie darf kein Vorwand für soziale Verantwortungslosigkeit sein. Reale Fürsorge, Umarmungen und Blickkontakt können von Maschinen niemals ersetzt werden. Wenn ältere Menschen durch KI noch einsamer oder Kinder noch verlassener werden, ist die Technologie gescheitert.

---

Wie kann man dies umsetzen? Drei Umsetzungswege und drei Schlüsselwörter

Professor Zhang betonte abschließend, dass diese Konzepte nicht nur leere Forderungen bleiben dürfen, sondern dass sie durch drei Umsetzungswege umgesetzt werden müssen:

1. Vor der Implementierung: Unabhängige ethische Überprüfungen. Vor der Veröffentlichung von KI-Produkten müssen unabhängige Dritte prüfen, ob sie die Würde des Menschen verletzen, anstatt dass die Unternehmen selbst dies tun.

2. Auf institutioneller Ebene: Es müssen gesetzliche Vorgaben geschaffen werden, die die Grenzen von KI klar definieren – wie Daten gesammelt, Verantwortlichkeiten verteilt und Kennzeichnungen erstellt werden.

3. Auf architektonischer Ebene: Schutzfunktionen müssen bereits bei der Technologieentwicklung integriert werden – Funktionen wie „menschliche Kontrolle“, Datenschutz und menschliche Übernahme müssen in den Code geschrieben werden, anstatt später nachträglich hinzugefügt zu werden.

Zum Schluss fasste er drei Schlüsselwörter zusammen, die jeder im Gedächtnis behalten sollte:

  • Verantwortung ist erforderlich: Entscheidungen müssen von Menschen getroffen werden; Algorithmen müssen erklärt, hinterfragt und korrigiert werden. Werfen Sie die Schuld nicht auf „Systemfehler“.
  • Menschliche Kontrolle: Ihr Körper, Ihre Daten und Ihre Lebensgeschichte gehören Ihnen – Sie sind der Herr, KI ist ein Werkzeug.
  • Grundlagen der Fürsorge: Technologie darf die menschliche Verantwortung nicht ersetzen. Schwache Gruppen (ältere Menschen, Kranke, Kinder) dürfen nicht nur auf kühle Automatisierung reagieren. Reale menschliche Fürsorge ist unersetzlich.

Fazit:

Die Welle der KI ist unumkehrbar, aber der Wert des Menschen sollte nicht geschwächt werden. Die Wahrung der menschlichen Würde bedeutet nicht, Technologie zu verabschieden, sondern dass Technologie Maß halten muss. Unser Ziel ist es, die Vorteile der KI zu genießen, während wir unsere Würde, Unabhängigkeit und Wärme als Mensch behalten.