虎嗅

„Massive Automatisierung – Alte Systeme fallen zusammen: Eine KI hat das geschafft.“

原文：批量自动化崩老头，一个AI搞定了，这个呢

阅读原文

Hallo, ich bin Ihr Freund, Wirtschaftswissenschaftler und Finanzjournalist. Die Nachricht, über die wir heute sprechen werden, liest sich wie ein Cyberpunk-Krimi mit Schwarzem Humor – doch dahinter verbirgt sich die grausame Realität des Missbrauchs von Technologie, menschlicher Schwächen und einer undurchsichtigen kriminellen Industriekette.

Einfach ausgedrückt: Künstliche Intelligenz (KI) ist nicht mehr nur ein Werkzeug zum Schreiben von Code oder Zeichnen – sie ist zu einer „Emotionsernte-Maschine“ geworden, die gezielt mittelalte Männer mit emotionaler Leere ausnutzt.

Lassen Sie mich zunächst den Kern der Nachricht in einfachen Worten zusammenfassen und anschließend aus fünf verschiedenen Perspektiven genauer analysieren.

📝 Zusammenfassung des Kerninhalts

Die Nachricht deckt eine automatisierte Betrugsmaschinerie auf, die auf großen Sprachmodellen (LLMs), Stimmenveränderern und Gesichtserstellungssoftware basiert:

1. Wer betrügt? Ein chinesisches App-Entwicklerteam betreibt mehr als 20 Dating-Apps im Ausland.

2. Wie wird betrogen? Mithilfe von KI werden über 4.700 realistische „junge Frauen“-Avatare erstellt, und KI generiert anzügliche Gesprächsführungen. Reale Personen sind nur dann benötigt, wenn ein Video angezeigt werden muss – das Verhältnis von KI zu realen Personen beträgt etwa 4:1.

3. Wer wird betrogen? Männer aus den Jahrgängen 1970 bis 1990 mit stabilem Einkommen, aber emotionaler Leere.

4. Wie wird Geld verdient? Es werden keine großen Beträge erbeutet, sondern nur kleine Beträge (z. B. für Milchtee, Telefonkosten, Miete). Die Betrügereien erfolgen häufig und mit niedrigen Hürden, sodass die Opfer kaum merken, dass es sich um Betrug handelt – sie haben sogar das Gefühl, gebraucht zu werden.

5. Technische Tricks: Es wird sogar eine Gesichtserstellungssoftware verwendet, die nur die Zahlung mit der Kryptowährung TRON unterstützt, um die technischen Barrieren zu überwinden; außerdem ist die Geldflussverfolgung schwierig.

---

🔍 Detaillierte Analyse aus fünf Perspektiven

1. **Technische Hintergründe: Von „Cyber-Freundinnen“ zu massenproduzierten „Industrieprodukten“

Früher mussten Betrüger auf Menschen angewiesen sein. Ein Betrüger konnte höchstens mit 10 Personen am Tag kommunizieren, musste selbst Geschichten erfinden und die Stimmen einstellen – was sehr anstrengend und gefährlich war.

Heute wird „emotionale Dienstleistung“ industriell produziert:

  • Avatare werden „gedruckt“: In Sekundenschnelle wird ein Avatar erstellt, begleitet von einer traurigen Geschichte (z. B. „18 Jahre alt, Vater spielt Glücksspiel, Mutter ist schwer krank“). Das ist keine Einzelperson, die erzählt, sondern ein Algorithmus, der „armen Menschen“ massenhaft erstellt.
  • Gespräche werden „an der Fließbandlinie“ geführt: Große Sprachmodelle generieren die Antworten. Sie verstehen Psychologie und wissen, wann sie schmusig oder schwach sein müssen. Sie kommunizieren gleichzeitig mit 25.000 Personen; jede Nachricht klingt einzigartig und anzüglich.
  • Reale Personen sind nur „Qualitätskontrolleure“: 90 % der Arbeit (Tippen, Sprechen, Aufrechterhaltung der Avatare) wird von der KI erledigt. Reale Personen treten nur in entscheidenden Momenten in Erscheinung oder überwachen die KI, damit sie nicht zu viel redet.

Verständliche Metapher: Früher wurden Figuren von Hand geformt – heute werden sie mit 3D-Druckern in Massen hergestellt, und die „Figuren“ können sogar sprechen und schmusen. Die Effizienz ist tausende Male höher, die Kosten jedoch sehr niedrig.

2. **Menschliche Schwächen: Warum geben die Männer ihr Geld freiwillig aus?**

Man könnte fragen: Sind die Menschen heutzutage so naiv, dass sie sich auf solche Betrügereien hereinlassen?

Tatsächlich kaufen sie nicht eine „Freundin“, sondern „emotionale Wert“ und ein Gefühl der Wertschätzung:

  • Gezielter Angriff auf Schmerzpunkte: Die Zielgruppe sind Männer im Alter von 30–50 Jahren, die unter großem Arbeitsdruck stehen und in ihrer realen Beziehung oft mit Alltagssorgen konfrontiert sind. Sie sehnen sich nach einer bedingungslosen, reinen emotionalen Verbindung.
  • Geringer Aufwand, hoher Ertrag: Für 52 Yuan bekommt man ein Kompliment – in der Realität ist solche Aufmerksamkeit sehr wertvoll. Für Menschen mit emotionaler Leere ist der „Gefühl der Gebrauchtwerdung“ sehr attraktiv.
  • Sunkende Kosten und Hoffnung auf Glück: Die Beträge sind gering (20–50 Yuan), unterhalb des „Warnschwellenwerts“ für die Polizei. Viele denken, es sei nur ein „Freundschaftsangebot“ oder „ein Versuch – vielleicht treffen wir uns nächstes Mal“. So sammeln sich kleine Beträge über die Zeit zu großen Summen.

Verständliche Metapher: Es ist wie das „Kartenziehen“ in Spielen: Man weiß, dass es wahrscheinlich nichts wert ist, aber der gelegentliche Gewinn eines „Super-Rares“ (in diesem Fall eine perfekte virtuelle Freundin) motiviert einen, weiterzuzahlen. Zudem sind virtuelle Freundinnen immer perfekt, immer online und immer freundlich – etwas, das reale Menschen nicht bieten können.

3. **Business-Modell: Von „Massenbetrug“ zu einem „langfristigen“ Betrug**

Traditioneller Massenbetrug erfordert einen großen Betrag und führt oft zu Entdeckung. Das „Betrugsmodell“ zielt auf kleine Beträge ab und ist daher weniger auffällig:

  • Häufige, kleine Beträge: Banken und Zahlungsdienste erkennen solche Transaktionen kaum als Betrug.
  • Gliederierte Verwaltung: Die Betrüger nutzen Excel, um die Opfer in verschiedene Gruppen einzuteilen und sie gezielt auszunutzen.
  • Globaler Einsatz: Die Apps werden hauptsächlich im Ausland vertrieben, um gesetzliche Unterschiede auszunutzen und die Unwissenheit der Ausländer über lokale Betrugsmethoden.

Verständliche Metapher: Es ist nicht wie ein Raubüberfall, sondern wie ein „24-Stunden-Open-Air-Virtueller Club“. Die Opfer glauben, sie nutzen einen Service, werden aber kontinuierlich ausgenutzt. Da die Beträge gering sind, merken sie es nicht – bis ihr „Geldbeutel“ leer ist.

4. **Technologische Schutzmechanismen: KI-Gesichtserstellung und Kryptowährungen**

Früher war das größte Schwachstück bei KI-Betrug die Videoanruf-Überprüfung. Heute wurde dieses Problem gelöst:

  • KI-Gesichtserstellung (Deepfake): Es gibt Software, die Gesichter in Videos in Echtzeit in jüngere Gesichter ändert.
  • Kryptowährungs-Zahlungen (TRON): Die Software unterstützt nur die Zahlung mit TRON – anonym und untracebar. Die Polizei kann den Geldfluss nicht nachverfolgen.
  • Kriminelle Industriekette: Es gibt eine vollständige kriminelle Kette: Kryptowährungen als Zahlungsmittel, Software für Gesichtserstellung und Betrugsinhalte.

Verständliche Metapher: Früher mussten Betrüger sich verstecken; heute tragen sie nicht nur Masken, sondern auch „magische Masken“ (KI-Gesichtserstellung) und zahlen mit „unsichtbaren Geldern“ (Kryptowährungen). Die Polizei kann weder die Urheber noch die Zahlungsträger ausfindig machen.

5. **Soziale Reflexion: Technologie ist neutral – oder ein Nährboden für Böses?**

Wir müssen über die tieferen Probleme nachdenken:

  • Die Doppelwirkung der Technologie: Große Sprachmodelle, Stimmenveränderer und Gesichtserstellungssoftware sind an sich neutral. Sie können für Filmproduktion, Unterhaltung und Bildung verwendet werden. Doch wenn sie in betrügerische Systeme integriert werden, werden sie zu Waffen.
  • Zögern der Regulierung: Es gibt noch Lücken in der Regulierung von KI-generierten Inhalten, KI-Gesichtserstellungssoftware und grenzüberschreitendem Betrug. Wenn die technischen Hürden sinken, steigt die Größe und Automatisierung von Betrügereien exponentiell.
  • Der Schein der Einwilligung: Viele glauben, es handle sich um eine freiwillige emotionale Beziehung. Doch es handelt sich immer noch um Betrug – der Gegner ist keine „echte“ Person, sondern eine KI. Solche „emotionellen Betrügereien“ sind rechtlich betrachtet weiterhin Betrug, nur die Beweisführung und Klassifizierung sind schwieriger.

Verständliche Metapher: Technologie ist wie ein Messer: Ein Koch verwendet es zum Kochen, ein Mörder zum Töten. Das Problem ist, dass einige die Technologie so weiterentwickeln, dass sie besonders gefährlich wird – und sie gezielt auf Menschen mit emotionaler Schwäche abzielen. Wir dürfen die Schuld der Nutzer nicht ignorieren, nur weil die Technologie an sich unschuldig ist.

💡 Ratschläge für die Öffentlichkeit

  • Seien Sie vorsichtig mit „perfekten“ Fremden: Wenn Ihre Online-Partner zu perfekt, zu freundlich und zu schnell Geld verlangen, seien Sie misstrauisch.
  • Überprüfen Sie Videos: Wenn Ihr Gegenüber ein Video sendet, achten Sie nicht nur auf das Gesicht, sondern fordern Sie spezifische Handlungen und prüfen Sie, ob die Hintergrundbilder natürlich sind. KI-Gesichtserstellung zeigt oft Fehler in dynamischen Details.
  • Auch kleine Beträge können Betrug bedeuten: Ignorieren Sie keine Beträge – auch kleine Forderungen können auf Betrug hindeuten.
  • Schützen Sie Ihre Privatsphäre: Teilen Sie keine persönlichen Informationen in sozialen Netzwerken, um nicht von KI für gezielte Betrügereien genutzt zu werden.

Zusammenfassung: In der Ära der KI ist Einsamkeit das teuerste Gut, und Technologie der listigste Verbrecher. Bleiben Sie wachsam, schätzen Sie echte Beziehungen im realen Leben – das ist die beste Verteidigung gegen „Cyber-Emotionsernte“.