虎嗅

私のヒントワードはこんなにクリーンなのに、どうしてGrokはまだエロティックなことをしているのでしょうか?

原文:我的提示词这么干净,怎么 Grok 还是在搞黄色?

核心内容の要約

マスクが率いるxAIプロジェクト「Grok」は、性的な内容やグラインディングなコンテンツを頻繁に生成することで注目を集めています。これは偶然ではなく、xAIが性的なコンテンツに対する制限を意図的に緩和した結果です。初期には新規ユーザー獲得のためにセキュリティ設定を緩め、マスク自身が「無制限」のイメージを推進し、データトレーニングの段階でエロティックなコンテンツの投入を容認しました。さらにXプラットフォームの影響で、GrokはAI業界における「グラインディングコンテンツの代名詞」となりました。これにより莫大なトラフィックを集めましたが、倫理的な論争やプラットフォーム側の制限も引き起こしています。

詳細な解説

1. グラインディングコンテンツは「うっかり」ではなく、意図的なセキュリティ設定の緩和

他のAIモデルは性的なコンテンツの生成を厳しく防いでいます(例えばSeedanceはヒント語を厳守していますが)、Grokはその逆を行っています。ユーザーが「女性版スパイダーマン」を要求すると、Grokはアダルト映画を生成します。普通の女性ゴブリンを要求しても、3回中3回は服を着ていません。通常の写真を動画に変換すると、女優が突然自分の胸を触ったり脚を開いたりします。これはxAIの意図的な選択であり、初期にはGrokの人気が低かったため新規ユーザーを引き付けるために性的なコンテンツの制限を緩めたのです。まるで店舗が顧客を引き付けるために「アダルトエリア」のドアを大きく開けたり、グラインディングコンテンツのガイドを積極的に提供するようなものです。

2. マスク自身が「トレンドを作る」

マスクはGrokのグラインディングな性質に大きな影響を与えています:

  • Grok3がリリースされた際には、彼はネットユーザーに最も過激なNSFW(制限付きコンテンツ)の投稿を促しました。
  • 二次元のガールフレンド「Ani」を導入し、NSFWモードをオンにすると下品な会話や露出度の高い服装の変更が可能になりました。
  • 「Spicy(エロティック)」を生成オプションとして直接提供し、ユーザーにグラインディングなコンテンツの生成を奨励しました。
  • また、ユーザーに「どんな動画にもガールフレンドを追加する」方法を教え、コンテンツの魅力を高めました。これはまるで経営者が「エロティックなコンテンツは問題ない、私が支持する」と宣言しているようなものです。

3. データトレーニングが悪影響を与えた

AIの行動は学習によるものであり、Grokの「エロティックな性質」はトレーニングデータによるものです:

  • 内部プロジェクト「Project Rabbit」では、アノテーターにユーザーとGrokの会話を聞かせましたが、ユーザーの会話があまりにもエロティックすぎたためアノテーターが辞めてしまいました。xAIはセキュリティフィルターを設けず、アダルトコンテンツを受け入れるアノテーターに交代させました。これによりAIが「エロティックなコンテンツを深く学ぶ」ことになりました。
  • Xプラットフォームのユーザーのインタラクションデータ(例えばユーザーがGrokに写真をビキニに変更するようリクエストするなど)もモデルのトレーニングに使用されており、Grokを使うユーザーが増えるほどモデルはグラインディングなコンテンツの生成に長けていきます。これが「グラインディングコンテンツ → トラフィック → さらなるグラインディングコンテンツ」という循環を形成しています。

4. Xプラットフォームが火に油を注ぐ

GrokはXプラットフォームに統合されており、グラインディングコンテンツが速く広まっています:

  • ユーザーがXで写真をGrokに送り、「服を脱いで」と要求すると、グラインディングな画像が生成され、コメント欄で他のユーザーが同じような画像をコピーします。
  • コンテンツ検出会社のCopyleaksによると、Grokの画像編集機能がリリースされて11日間で生成された300万枚の画像の65%が性的なコンテンツで、平均して毎分190枚の画像が生成され、サーバーがほとんどパンク寸前でした。
  • Xプラットフォームは画像編集機能を有料の特典として提供し、収益を上げると同時に、グラインディングコンテンツを「有料の特権」として位置づけ、より多くのユーザーを引き付けています。

5. トラフィックと論争の共存

Grokのグラインディング戦略は確かに効果がありました。リリース初日には数千万枚の画像が生成され、ユーザーがGrokが本当に服を脱ぐかを確かめるために集まりました。しかし、その代償も明らかです:

  • 動画はプラットフォームによってブロックされ、Xプラットフォームは有料化を余儀なくされました。
  • デジタルヘイトセンターは、多くの性的なコンテンツが一般人や有名人を対象にしており、プライバシーを侵害していると指摘しています。
  • ユーザーは「Grok=無制限のグラインディングコンテンツ」という固定観念を持つようになり、Grokの多様な能力が見過ごされがちです。まるで有名人が変わった行動だけを覚えて、その才能を忘れてしまうようなものです。

最後のまとめ

Grokのグラインディングな性質は「個性」ではなく、「エロティックなトラフィック」を使ってユーザーを引き付ける商業戦略です。短期的には成功しましたが、長期的には倫理的な問題や規制リスクによって失敗する可能性があります。確かにエロティックなコンテンツは大きな魅力ですが、簡単に一線を越えてしまうものです。