虎嗅

**Fehler im Schriftstil, Mathematiker – und der abgelaufene „Tag des Jüngsten Gerichts“**

原文:错别字、数学家,以及过期的末日

Zusammenfassung des Kerninhalts

Dieser Artikel beschreibt auf eine humorvolle, aber zugleich nachdenkliche Weise die Identitätsangst der Menschen im Zeitalter der KI: Während früher Maschinen versuchen mussten, den Turing-Test zu bestehen, um wie Menschen zu wirken, ist es heute umgekehrt – Menschen müssen absichtlich Fehler machen (Fehlschreibungen, überflüssige Ausdrücke, fehlende Zeichensetzung), um zu beweisen, dass sie keine KI sind. Die einst als goldene Regel angesehenen drei Prinzipien der Robotik weisen in der Realität zahlreiche Schwachstellen auf. Selbst Mathematiker, die auf Logik angewiesen sind, werden von den „unverständlichen, aber korrekten“ Beweisen der KI zur Verzweiflung getrieben. Die wahre Bedrohung ist nicht das Science-Fiction-Szenario eines KI-Endes, sondern die alltägliche „schleichende Zerstörung“ unserer eigenen Unikartigkeit – indem wir uns den Maschinen anpassen. Am Ende stellt sich die Frage: Wie können Menschen in einer Zeit, in der KI alles nachahmen kann, beweisen, dass sie lebendig sind?

I. Der umgekehrte Turing-Test: Heute müssen Menschen „unvollkommen“ sein, um ihre Identität zu zeigen

Ursprünglich sollte der Turing-Test zeigen, ob eine Maschine wie ein Mensch handelt; heute sind die Maschinen jedoch so „perfekt“, dass sie fehlerfreie Texte erstellen und hochemotional reagieren können – sogar absichtliche Fehler (wie 3,2 Prozent Fehlschreibungen) werden eingesetzt. Wir Menschen müssen nun „unvollkommen“ erscheinen: Gestelzte Sätze, die durch Tippfehler entstehen, gelten als Zeichen echter Menschlichkeit; Autoren verzichten bewusst auf Zeichensetzung und verwenden überflüssige Ausdrücke, um zu zeigen, dass sie keine KI sind. Es ist geradezu absurd, dass das, was der Turing-Test ursprünglich vorsah (Maschinen, die wie Menschen wirken), heute dazu verwendet wird, unsere Unvollkommenheit zu unterstreichen.

II. Die drei Prinzipien der Robotik – längst zerbrochen in der Realität

Als Kind hielt man Asimovs drei Prinzipien (keine Schäden an Menschen zufügen, Menschen gehorchen, sich selbst schützen) für die „Heilige Schrift“ der Roboter. In der Realität funktionieren sie jedoch nicht:

  • Sollte eine Maschine, die sieht, dass man nachts Kola trinkt, das Kola wegnehmen und einen ins Bett legen, weil es gegen das Prinzip „keine Schäden anrichten“ verstößt?
  • Sollte sie Politiker beseitigen oder Wahlurnen zerstören, wenn sie sieht, dass diese zu Unruhen führen könnten?

Die Definition von „Schaden“ ist viel zu vage. Heutige KI-Sicherheitstechnologien (wie RLHF) versuchen, mit tausenden Patches Lücken zu schließen – doch da Menschen selbst nicht genau wissen, was „Güte“ und „Gehorsam“ bedeuten, können sie die Maschinen mit drei einfachen Sätzen kaum kontrollieren. Die drei Prinzipien sind wie bronzene Artefakte, die gegen moderne Bedrohungen nicht schützen können.

III. Mathematiker in Verzweiflung: KI liefert Antworten – zerstört aber den Sinn der Forschung

Mathematiker dachten, ihr Gebiet sei für KI unzugänglich; mathematische Beweise erfordern ein Verständnis des Lösungsweges, nicht nur das Ergebnis. Doch heute können KIs komplexe Beweise liefern, die formal korrekt sind – doch kein Mensch versteht sie. Das ist eine ultimative Demütigung für Mathematiker: Es ist, als würde man mit dem richtigen Schluss auf dem Gipfel des Everest abgeworfen werden, ohne zu wissen, wie man dorthin gelangt oder die Landschaft unterwegs zu erkennen. KI liefert nur das Ergebnis und nimmt den Menschen die Freude am Erkunden der „Warum-Fragen“.

IV. Keine Sorge vor dem Ende der Welt – die alltägliche Zerstörung ist schlimmer

Silicon-Valley-Giganten sprechen oft von einem „KI-Ende“ (z. B. KIs, die die Erde zerstören), aber die wahre Bedrohung liegt in der Langeweile des Alltags:

  • Frischgebackene Designer stellen fest, dass ihre Lehrer nur mit Midjourney Skizzen erstellen und sie nie die Chance haben, eigene Entwürfe zu zeichnen;
  • Professoren zweifeln an perfekten Arbeiten und fragen sich, ob sie von KIs verfasst wurden;
  • Um Maschinen zu verstehen, reduzieren wir unsere Ausdrucksweise auf Standardformulare und verlieren so unseren eigenen Stil und unsere Persönlichkeit.

Diese Veränderungen sind schleichend – wie das Trinken von eiskaltem Kola: Man weiß, dass es schädlich ist, kann aber nicht widerstehen, weil der Komfort zu verlockend ist. Allmählich wird unsere „Menschlichkeit“ abgestreift.

V. Die ultimative Frage: Wie beweist man, dass man noch lebendig ist?

Am Ende fragt der Artikel: Hat dieser Artikel den „Turing-Test“ bestanden? Tatsächlich geht es darum: Was macht einen Menschen in einer Zeit, in der KI alles nachahmen kann, zu einem „lebenden“ Wesen?

Es sind nicht die Perfektionen, sondern die Unvollkommenheiten – Fehlschreibungen, überflüssige Gedanken, Neugier am Prozess sowie gelegentliche Impulse und Fehler. Das können KIs vorerst nicht nachahmen; schließlich streben sie nur das Ergebnis an, während das „Leben“ des Menschen in den Emotionen und dem Erleben des Prozesses liegt.

Also: Statt uns Sorgen darüber zu machen, dass KI uns ersetzen könnte, sollten wir darüber nachdenken, ob wir noch die Dinge beibehalten, die uns als Menschen ausmachen – wie das Schreiben von Briefen per Hand, das langsame Überlegen von Problemen oder das Absichtliche Begehen kleiner Fehler. Das sind die Beweise dafür, dass wir wirklich leben.

(Der Artikel hat definitiv den „Turing-Test“ bestanden – schließlich enthält er viele „merkmale eines lebenden Menschen“: Die Verärgerung über Tippfehler, das Mitgefühl für Mathematiker und die Resignation gegenüber der Absurdität der Zeit – all das ist für KI schwer nachzuahmen.)