AIの「ゴミ」がソーシャルメディアを変革し、反発も巻き起こっている

ソーシャルプラットフォームには常にスパムやジャンクメールが存在してきました。しかし、新たな点は、生成型AIによって「コンテンツ制作」がほぼ無料になったことです。これにより、ユーザーが求めるものとフィードが経済的に提供できるものとのバランスが変化しています。

AIの「粗悪品」（安価で手間のかからない合成画像や動画）は、単に美的観点からの不満というだけではない。それは、クリエイター経済のインセンティブとランキングアルゴリズムのインセンティブ無制限の機械製造メディアという新たな供給曲線に衝突しています。

私たちが目にしている反発は、信頼性よりもエンゲージメントに最適化されつつあるフィードへの信頼と意味を取り戻そうとする初期の試みです。

「AIの雑多さ」という言葉の意味

「AIスロップ」は専門用語ではなく、文化的な用語です。通常、AIによって生成されたメディアのうち、以下のようなものを指します。

• 迅速に（そして大量に）生産される
• 繰り返し（同じテンプレート、キャラクター、比喩）
• 感情を操作したもの（心温まる子供たち、宗教的なイメージ、衝撃的な残酷描写）
• 検証可能な文脈が少ない（情報源なし、出所なし、説明責任なし）

中にはコミカルで明らかに偽物（ゴリラがウェイトリフティングをしたり、魚が靴を履いたり）もあります。中には人を騙すために作られたものもあり、それが人を蝕む原因となっています。

重要な点は、「スロップ」は画像が「本物」であるかどうかだけの問題ではないということです。意味のあるフィードが人工的なノイズで満たされると、同じ注目市場で競争するため、実際のコンテンツさえも価値が下がっているように感じ始めます。

供給ショック：なぜ飼料が急速に変化したのか

これが今起こっている理由は単純に経済学的なものであり、クリップを制作するための限界費用が暴落したからです。

生成AIが登場する以前は、クリエイターには時間、機材、編集スキル、あるいは少なくとも一貫したアイデアが必要でした。しかし、現代の画像・動画ツールを使えば、クリエイターは数十、数百ものバリエーションを迅速に生成し、どれが効果的かをテストし、効果的なものをスケールアップすることができます。

これにより、ランキングシステムが決して耐えられるように設計されていない「コンテンツ供給ショック」が発生します。

エンゲージメントを最大化するようにトレーニングされたアルゴリズムによってフィードが駆動され、感情的な合成コンテンツでエンゲージメントを簡単に生成できる場合、システムは自然にエンゲージメントを増幅します ― たとえユーザーが後からそのコンテンツが嫌いだと言ったとしても。

アルゴリズムの盲点：エンゲージメントは品質ではない

ほとんどのプラットフォームは、コンテンツの真実性や有用性に基づいてランク付けするのではなく、測定可能なシグナルに基づいてランク付けします。

• 視聴時間
• いいね/反応
• コメント
• 再共有
• クリックスルー

これらの指標は正確さではなく強度を捉えます。

AI 生成メディアは、次のような理由から、これらの指標に対して優れたパフォーマンスを示すことがよくあります。

• 斬新さに富んだ（驚きのビジュアル）
• 感情的に最適化された（かわいい、衝撃的、怒りっぽい）
• 無限にリミックス可能（バリエーションは安価）

これにより、矛盾が生じます。ユーザーはコメント内の不注意について不満を言うかもしれませんが、コメントする行為そのものが、そのコメントの拡散を助長する可能性があります。

つまり、「反発」が燃料になる可能性があるのです。

クリエイター経済：ゾーンを氾濫させるインセンティブ

二つ目の動機は収益化です。チャンネルが視聴回数やエンゲージメントによって収益を得られる場合、できるだけ多くの動画を公開し、アルゴリズムに勝者を選んでもらうというインセンティブが働きます。

AI によって生産コストが下がると、競争は職人技ではなく、次のような点に重点が置かれるようになります。

• 音量
• 実験
• レコメンデーションシステムの最適化

これが、最も目立つ雑多な内容が、予測可能な比喩に集まっている理由です。それらは、実証済みのエンゲージメント テンプレートです。

また、プラットフォーム側が創作を容易にするツールを推進しながらも「取り締まり」について語っている理由も説明できます。彼らのビジネスモデルは、希少なコンテンツではなく、豊富なコンテンツの上に成り立っているからです。

人間的側面：注意、信頼、そして「脳の腐敗」

長期的な悪影響として最も考えられるのは、特定の偽動画に誰もが騙されるということではない。意味の薄い合成メディアに絶えずさらされ​​ることで、フィードに対する私たちの関わり方が変わってしまうことだ。

注目すべき心理的影響は少なくとも 3 つあります。

1. 検証疲れ
   「これは本当に現実なのか？」と判断するのに労力がかかると、多くの人は時間が経つにつれて確認しなくなります。そして、肩をすくめるだけの行為になってしまいます。

2. 注意の断片化
   短く刺激的なコンテンツは、人々を素早く次の段階へと進める訓練になります。一方、雑多なコンテンツが刺激の量を増やすと、フィードは単なるトレッドミルと化します。

3. 信頼の喪失
   ユーザーが、クリエイター、AI ツール、またはプラットフォームによって操作されていると感じると、偽のコンテンツだけでなく本物のコンテンツも信頼しなくなる可能性があります。

それが根本的な危険です。ひとつの欺瞞ではなく、オンライン生活における「真実の温度」が全体的に低下することです。

節度は誤った前提に基づいて再設計されている

プラットフォームにとって難しいのは、「AIスロップ」が禁止コンテンツの1つのカテゴリーではないということです。それは以下の範囲に及びます。

• スパム
• 詐欺
• 誤報
• 不快な内容
• 低労力のジャンク

そして、それはしばしば主観的です。ある人にとっての「つまらないもの」が、別の人にとっては娯楽になることもあります。

同時に、多くのプラットフォームは人間によるモデレーション能力を低下させ、次のような方向にシフトしています。

• オートメーション
• ユーザーレポート
• コミュニティラベル

これは、敵が大量かつ適応的な場合にはうまく機能しません。

さらに悪いことに、モデレーション自体が政治的になることもあります。「低品質」の定義を厳格にしすぎると、クリエイターから検閲だと非難され、逆に定義を緩くしすぎると、ユーザーからプラットフォームを腐敗させていると非難される可能性があります。

欠けているインフラ：起源と「原産地証明」

有望なフレーミングは、「偽物を見分ける」から「本物を証明する」に移行することです。

検出は、生成メディアが進化し、単一の手がかりがないため困難です。また、来歴の特定は、標準化と普及が求められるため困難です。

しかし、出所には利点があります。それは、証拠の連鎖として構築できることです。

• メタデータをキャプチャする
• 作成時に署名する
• 不正開封防止保管
• アップロード時の検証

プラットフォームが実際に意味のある「検証済み出所」ラベルを提供できれば、ユーザーはそれを区別しやすくなります。

• 実際の映像
• 編集されているが本物の映像
• 合成メディア

ただし、来歴は次の場合にのみ機能します。

• クリエイターがオプトイン
• プラットフォームは一貫したラベル付けを強制する
• システムは容易ななりすましを阻止する

そうでなければ、それは別の装飾バッジになります。

「雑務のないソーシャルメディア」は存在しうるのか？

完全にスロップフリーのフィードは、次の境界があるため実現しにくいです:

• クリエイティブリミックス
• 風刺
• スパム
• 欺瞞

…定義するのは難しく、悪用されるのは簡単です。

しかし、プラットフォームはインセンティブを変更することで状況を変えることができます。

• 手間のかからない大量コンテンツの収益化を削減
• 繰り返しのアップロードを制限する
• エンゲージメントベイトパターンをペナルティする
• 出所検証済みメディアの報酬
• 疑わしいアカウントに対する摩擦を増やす

最も単純なバージョンは「AIを禁止する」ではなく、「安価なボリュームに報酬を与えるのをやめる」です。

2つのありそうな未来

未来1：正規化。ユーザーは適応し、プラットフォームは少しずつラベルを付け、雑多なものはスパムメールのような背景雑音になる。人々はインターネットのどの部分を信頼すべきかを学んでいく。

この世界では、「リアル」はニッチな付加価値となります。平均的なユーザーはフィードを周囲のエンターテイメントとして扱い、（クリップが本物かどうかについて）間違いを犯した場合のコストは十分に低いため、人々は気にしなくなります。

未来2：分岐。フィードは分裂する。あるレイヤーはエンターテイメント重視で合成コンテンツ中心になり、別のレイヤーはより小規模になり、キュレーションされ、来歴を考慮し、維持コストが増大する。

この世界では、信頼は商品となる。コミュニティは、人間によるキュレーション、より厳格な身元確認、そして合成メディアに関するより明確なルールにお金を払う。そのトレードオフは規模だ。信頼度の高いネットワークは、安価なコンテンツを無制限に許容できないため、成長が遅くなる。

もし第二の未来が実現したら、鍵となるのはコンテンツではなく、信頼。

ユーザー（およびプラットフォーム）向けの実用的なチェックリスト

のためにユーザー:

• 投稿がまず感情（いいね、怒り、同情）を求めている場合は、文脈がわかるまでは操作されていると想定してください。
• 映像がどこで、いつ、どのように撮影されたかという来歴を定期的に提供してくれるクリエイターを優先します。
• 明らかにくだらない内容について「コメントで議論」しないでください。フィードをトレーニングしている可能性があります。

のためにプラットフォーム:

• 一括アップロード パターンをレート制限し、ほぼ重複するバリアントにペナルティを課します。
• AI 生成メディアのラベル付けを任意ではなく強制的に行う。
• 来歴をインフラストラクチャとして扱います: 署名、検証、監査証跡。
• 収益化を調整して、労力の少ない大量のコンテンツの収益性が低くなるようにする。

結論

AI の乱用は「奇妙なインターネットの流行」というよりは、関与に報いるアルゴリズムとコンテンツ制作をほぼ無料で行えるツールという 2 つのインセンティブが衝突した結果として予測されるものです。

反発は事実ですが、フィードを変えるには、プラットフォームのポリシー（ボリュームの抑制と来歴への報酬）を通じて、または信頼性が商品のスペースへのユーザーの移行を通じて、インセンティブを変える必要があります。

---

出典

• BBCニュース（テクノロジー）：https://www.bbc.com/news/articles/c9wx2dz2v44o?at_medium=RSS&at_campaign=rss