虎嗅

中国のニュースヘッドラインを日本語に翻訳します: 「大量の自動化システムが老舗企業を倒した。AIがそれを成し遂げたのだ。」

原文:批量自动化崩老头,一个AI搞定了,这个呢

こんにちは、私はあなたの経済学者であり、財経ジャーナリストの友人です。今日お話しするこのニュースは、サイバーパンク風のブラックユーモア小説のように読めますが、その背後には技術の乱用、人間の弱さ、そしてグレーゾーンの産業チェーンが交錯する残酷な現実が隠されています。

簡単に言うと、**AIはもはやコードを書いたり絵を描いたりする道具にとどまらず、「感情を収穫する機械」となり、感情的に空虚な中年男性をターゲットにした精密な「収穫」を行っています。

以下では、まず簡単な内容の要約をし、その後5つの側面から詳しく解説します。

📝 コンテンツの要約

このニュースは、大言語モデル(LLM)+ ボイスチェンジャー + 顔変換技術を組み合わせた自動化された詐欺の流れを暴露しています。

1. 誰が詐欺を行っているのか? 中国のアプリ開発スタジオが、20以上の海外デートアプリを運営しています。

2. どのように詐欺を行うのか? AIを使って4700以上のリアルな「若い女性」のキャラクターを生成し、AIがアミエな会話や音声を作り出し、2.5万人の男性ユーザーとチャットを行います。実際の人間は、ビデオで顔を見せる必要がある時にのみ「補完」したり、リアルタイムで監視を行ったりします。AIと実際の人間の比率は約4:1です。

3. 誰を騙すのか? 70代から90代で安定した収入があるが感情的に空虚な男性(俗に「おじさん」と呼ばれる人たち)です。

4. どのようにお金を稼ぐのか? 大金を騙すのではなく、小額(ミルクティーや電話料金、家賃など)を頻繁に、低いハードルで騙し、詐欺だと気づきにくく、「必要とされている」という錯覚を与えます。

5. 技術的な裏側: 仮想通貨(TRON)のみで支払いが可能なAI顔変換ソフトウェアを使用し、「ビデオ通話ができない」という技術的な障壁を克服し、資金の流れを追跡するのが困難にしています。

---

🔍 5つの側面からの詳細な解説

1. 技術的な裏側:「サイバーガールフレンド」が「大量生産される工業製品」に

以前の詐欺では、人海戦術が必要でした。詐欺師は1日に最大10人としか話せず、自分で話を作ったり声を入れたりしていましたが、疲れ果て、簡単にバレてしまいました。

しかし今では、AIが「感情サービス」を「工業化生産」しています。

  • キャラクターは「プリントアウト」される: 数秒でアイコンが生成され、「18歳で父親がギャンブルをしており、母親が重病」という悲しい設定が付けられます。これは一人の人間が話しているのではなく、アルゴリズムが大量に「哀れな人」を生産しているのです。
  • チャットは「流れ作業」: 大言語モデル(LLM)が返信を生成します。心理学を理解しており、いつ甘えたり弱々しくなったり、いつお金を要求したりするべきかを知っています。2.5万人と同時にチャットを行い、各人が受け取る音声はユニークで、アミエなトーンです。
  • 実際の人間は「品質管理員」: ニュースによると、AIと実際の人間の比率は4:1です。つまり、90%の面倒な作業(タイピング、声の入れ方、キャラクターの維持)はAIが行っています。実際の人間は、ビデオ通話が必要な時にのみ登場したり、AIが話しすぎないように監視したりします。

簡単な例え: 以前は手で人形を作っていたのに対し、今では3Dプリンターで大量に作られ、その人形が話したり甘えたりするのです。効率は何千倍も向上し、コストは大幅に下がりました。

2. 人間の弱さ:なぜ「おじさん」たちは喜んでお金を払うのか?

「今の人はそんなに賢いのに、数十円の詐欺に騙されるのか?」と思うかもしれません。

実際には、彼らが買っているのは「ガールフレンド」ではなく、「感情的な価値」と「存在感」です。

  • ターゲット層の痛みを突く: 対象は30〜50歳の男性です。この年齢層は、上には親がおり、下には子供がおり、仕事のプレッシャーが大きく、現実の恋愛は日常生活の細かいことや喧嘩でいっぱいです。彼らが求めているのは、無条件で純粋で、尊敬される感情的なつながりです。
  • 低コストで高いリターン: 52元でミルクティーを買い、「兄さんが最高だ、一日の疲れがすべて消えた」という言葉をもらいます。現実の生活では、このような関心はお金では買えません。感情的に空虚な人にとって、この数十円で得られる「必要とされる感覚」と「優しさ」は非常にコストパフォーマンスが良いのです。
  • 沈没コストと幸運心理: 一度の支払い額が小さい(20〜50元)ため、ほとんどの人の「警察に通報する」心理的な閾値を下回ります。多くの人は「友達になるだけだ」と思ったり、「もう一度試してみよう、もしかしたら次に会えるかもしれない」と思います。その結果、小額の送金が積み重なり、詐欺団の百万円の収入になります。

簡単な例え: これはゲームの「カード抽選」のようなものです。ほとんどが無駄だとわかっていても、たまに「SSR」(非常にレアなキャラクター、ここでは完璧な仮想ガールフレンド)が当たる快感に夢中になり、お金を続けて使ってしまいます。そして、AIが生成する「ガールフレンド」は常に完璧で、常にオンラインで、常に優しいのです。これは現実の人間にはできないことです。

3. ビジネスモデル:「殺し屋の盤」から「細かい流れでお金を稼ぐ『崩れるおじさん』」へ

従来の「殺し屋の盤」は、大金を騙してからブロックするもので、リスクが高く、バレやすいです。しかし「崩れるおじさん」モデルは、より隠れた、より持続可能な「グレーゾーンのビジネスモデル」です。

  • 頻繁な小額で、リスク管理を回避: 一度の支払い額が数十円なので、銀行や支払いプラットフォームのリスク管理システムはほとんど反応しません。これは通常の社交消費の範囲内だからです。
  • 分類管理、精密な運営: ニュースによると、詐欺師はExcelを使って被害者を「お金持ちで愚かなグループ」、「潜在的な顧客グループ」、「けちなグループ」に分けています。これは、無差別にお金を騙すのではなく、ユーザーのライフサイクルを管理していることを意味します。「潜在的な顧客」にはゆっくりと投資し、「けちなグループ」には少なく投資し、「お金持ちで愚かなグループ」には重点的にお金を稼ぎます。
  • グローバルな展開: これらのアプリは主に海外で展開されています。異なる国の法律の規制の違いや、海外ユーザーが国内の詐欺手法に慣れていないことを利用して、摘発のリスクを減らしています。

簡単な例え: これは「24時間営業の仮想バー」のようなものです。客(被害者)はサービスを楽しんでいると思っていますが、実際には継続的に「血を抜かれて」います。一度の出血量が少ないため、客は痛みを感じず、さらには「価値がある」と感じます。結果として、小額の送金が積み重なり、詐欺団の百万円の収入になります。

4. 技術の閉じたループ:AI顔変換と仮想通貨が「最後の防衛線」を突破

以前のAI詐欺の最大の弱点は「ビデオ通話」でした。ビデオ通話をすれば、足をくじく男がバレてしまい、詐欺が露見してしまいます。

しかし今では、この弱点が克服されました:

  • AI顔変換(Deepfake): ニュースによると、ビデオの中の人の顔をリアルタイムで若い女性の顔に変えるAI顔変換ソフトウェアがあります。つまり、詐欺師が男性であっても、ビデオに映るのは「彼女」です。これにより、「ビデオでの確認」の安全性が完全に破られました。
  • 仮想通貨支払い(TRON): さらに驚くべきことに、この顔変換ソフトウェアはTRON(孫宇晨の仮想通貨)のみで支払いが可能です。
  • なぜ仮想通貨を使うのか? アノニマティと追跡不能性のためです。警察は資金の流れを追跡するのが非常に困難で、背後の開発者や使用者を特定することができません。
  • 産業チェーンの上流: これは完全な暗黒産業チェーンを示しています。下流は仮想通貨の支払い、中流はAI顔変換/生成ツール、上流は詐欺アプリの運営者です。各段階が仮想通貨で決済され、「法の外」の領域を形成しています。

簡単な例え: 以前は詐欺師がマスクを着用していましたが、ビデオが始まるとすぐにバレてしまいました。今では詐欺師はマスクを着用するだけでなく、「魔法のマスク」(AI顔変換)もつけ、そのマスクの代金は「透明なお金」(仮想通貨)で支払われます。警察が人を捕まえても、マスクを誰が作ったのか、お金を誰が払ったのかを調べることができません。

5. 社会的な反省:技術は中立的なのか?それとも「技術による悪」の温床なのか?

最後に、個別のケースを超えて、その背後にある深い問題を考えてみましょう。

  • 技術の両刃の効果: 大言語モデル、ボイスチェンジャー、顔変換技術は本来中立的です。これらは映画制作やエンターテイメント、教育に使用できます。しかし、これらの技術が利益を目的とし、詐欺を手段とするシステムに組み込まれると、「武器」になります。
  • 規制の遅れ: 現在、AIが生成するコンテンツの表示、AI顔変換ソフトウェアの規制、国境を越えた詐欺アプリの取り締まりには遅れがあります。特に技術のハードルが下がり(一般人もAIでリアルな音声/ビデオを生成できるようになった)と、詐欺の規模化、自動化が指数関数的に増加しています。
  • 「双方の同意」の幻想: 多くの人は「崩れるおじさん」は双方の自発的な感情的な取引だと思っています。しかし、弁護士は、これには依然として詐欺のリスクが含まれていると警告しています。なぜなら、最初から相手は「彼女」ではなく、「彼」(またはAI)であり、目的は不法な財産の占有だからです。このような「感情的な詐欺」は法的には詐欺に該当しますが、証拠の収集や定義がより複雑です。

簡単な例え: 技術はナイフのようなものです。料理人が野菜を切るために使えば道具ですが、殺人者が使えば凶器になります。問題は、誰かがナイフを非常に速く研ぎ、自動照準システム(AI)を装備し、目が空虚で感情的に脆弱な人(「おじさん」)に向けて使っていることです。ナイフ自体が無罪だからといって、ナイフを持つ人の罪を無視したり、技術が進んでいるからといって、その人の規制を緩めたりしてはいけません。

---

💡 一般の人へのアドバイス

1. 「完璧な」見知らぬ人に警戒しましょう: オンラインでの恋愛相手が完璧すぎたり、優しすぎたり、あなたをよく理解していたり、すぐにお金を要求したりする場合は、すぐに警戒してください。

2. ビデオでの確認は「動的」に: 相手がビデオ通話をする場合は、顔だけを見ないでください。特定の動作(鼻を触る、頭を傾ける、ジェスチャーをするなど)を要求し、背景が自然かどうかを観察してください。AIによる顔変換には動的な細部にまだ破綻があります。

3. 小額の送金も詐欺です: 金額が小さいからといって見過ごさないでください。相手が