Искусственный интеллект трансформирует социальные сети, и назревает негативная реакция.

/Технологии/ К

В социальных сетях всегда были спам и ненужные сообщения. Новым является то, что генеративный искусственный интеллект сделал «создание контента» практически бесплатным — и это меняет баланс между тем, чего хотят пользователи, и тем, что лента новостей может экономически выгодно предоставлять.

«Некачественная» обработка изображений и видео, созданная с помощью ИИ (дешевые, созданные с минимальными усилиями синтетические изображения и видео), — это не просто эстетическая претензия. Это сигнал о том, что...стимулы экономики создателей и стимулы алгоритмов ранжированияОни сталкиваются с новой кривой предложения: неограниченным количеством носителей информации, производимых машинным способом.

Негативная реакция, которую мы наблюдаем, — это первая попытка восстановить доверие и смысл в лентах новостей, которые все больше оптимизируются для вовлечения аудитории, а не для подлинности.

Что люди подразумевают под «хламом, созданным с помощью ИИ»?

«AI-ерунда» — это не технический термин, а культурный. Обычно он относится к медиаконтенту, созданному с помощью ИИ, который:

  • Производится быстро (и в больших объемах)
  • Повторяющийся (одни и те же шаблоны, персонажи, штампы)
  • эмоционально манипулятивный (трогательные детские сцены, религиозные образы, шокирующие сцены насилия)
  • Низкий уровень проверяемого контекста (отсутствие источника, информации о происхождении, ответственности).

Часть этого комична и явно фальшива (гориллы, поднимающие гантели, рыбы в обуви). Часть же призвана обмануть — и именно здесь она становится разрушительной.

Ключевой момент заключается в том, что «неряшливое» изображение — это не только вопрос о том, «реалистично» ли оно. Это вопрос о том, насколько оно «реалистично».значимыйКогда ленты новостей заполняются искусственным шумом, даже реальный контент начинает казаться менее ценным, потому что он конкурирует за внимание аудитории.

Шок предложения: почему ситуация с поставками так быстро изменилась.

Причина, по которой это происходит сейчас, проста: экономические факторы привели к резкому падению предельных издержек на производство видеоролика.

До появления генеративного ИИ создателю требовалось время, оборудование, навыки редактирования или, по крайней мере, четкая идея. С помощью современных инструментов для работы с изображениями и видео создатель может быстро генерировать десятки или сотни вариантов, тестировать, какие из них работают, и масштабировать то, что работает.

Это приводит к «шоку предложения контента», противостоять которому системы ранжирования изначально не были предназначены.

Если ваша лента новостей работает на основе алгоритма, обученного максимально повышать вовлеченность пользователей, а вовлеченность легко вызвать с помощью эмоционально заряженного синтетического контента, система естественным образом усилит ее — даже если пользователи позже скажут, что она им не нравится.

Слепое пятно алгоритма: вовлеченность — это не качество.

Большинство платформ не ранжируют контент по достоверности или полезности. Они ранжируют его по сигналам, которые могут измерить:

  • время просмотра
  • лайки/реакции
  • комментарии
  • репосты
  • клик-переход

Эти показатели отражают интенсивность, а не точность.

Созданный с помощью ИИ медиаконтент часто демонстрирует хорошие результаты по этим показателям, потому что он:

  • Богатый новизной (неожиданные визуальные эффекты)
  • эмоционально оптимизированный (милый, шокирующий, вызывающий гнев)
  • бесконечно вариативны (вариации стоят недорого)

Это создает парадокс: пользователи могут жаловаться на некачественный контент в комментариях, но сам факт комментирования может способствовать его распространению.

Иными словами, «негативная реакция» может стать топливом.

Экономика создателей: стимулы для наводнения этой зоны.

Второй фактор — монетизация. Если канал может зарабатывать деньги за счет просмотров и вовлеченности аудитории, стимулом становится публикация как можно большего количества контента, позволяя алгоритму выбирать победителей.

Когда искусственный интеллект снижает себестоимость производства, конкуренция становится меньше связана с мастерством и больше с:

  • объем
  • экспериментирование
  • оптимизация для рекомендательной системы

Вот почему некоторые из наиболее заметных провалов сосредоточены вокруг предсказуемых штампов: это проверенные шаблоны для привлечения внимания.

Это также объясняет, почему платформы могут говорить о «жестких мерах», одновременно продвигая инструменты, упрощающие процесс создания контента: их бизнес-модель построена на обилии контента, а не на его дефиците.

Человеческий фактор: внимание, доверие и «разложение мозга».

Один из наиболее вероятных долгосрочных негативных последствий заключается не в том, что всех обманывает конкретное фейковое видео. Дело в том, что постоянное воздействие низкосмысленного синтетического контента меняет наше отношение к происходящему в сети.

Есть как минимум три психологических эффекта, заслуживающих внимания:

  1. Усталость от проверки
    Если для определения подлинности этого явления требуются усилия, многие люди со временем перестанут проверять. В итоге они начнут пожимать плечами.

  2. фрагментация внимания
    Кратковременный, насыщенный стимулами контент приучает людей быстро переключаться на что-то другое. Когда же количество раздражителей увеличивается, лента новостей превращается в беговую дорожку.

  3. Размывание доверия
    Когда пользователи чувствуют, что ими манипулируют — создатели контента, инструменты искусственного интеллекта или сама платформа — они могут меньше доверять не только фейковому контенту, но и реальному.

В этом и заключается главная опасность: не один обман, а общее снижение «температуры правды» в онлайн-жизни.

Система модерации перестраивается на основе ошибочного предположения.

Сложность для платформ заключается в том, что «ненужный контент, созданный с помощью ИИ» — это не одна категория запрещенного контента. Она охватывает следующие категории:

  • спам
  • мошенничество
  • дезинформация
  • тревожный контент
  • хлам, не требующий больших усилий

И это часто субъективно. То, что для одного «ерунда», для другого может быть развлечением.

В то же время многие платформы сократили возможности модерации со стороны человека и перешли к следующим методам:

  • автоматизация
  • сообщения пользователей
  • этикетки сообщества

Это плохо работает, когда противник использует большое количество атак и умеет адаптироваться.

Хуже того, сама модерация может приобрести политический характер: если вы слишком строго определяете «низкое качество», создатели контента обвиняют вас в цензуре; если же вы определяете его слишком расплывчато, пользователи обвиняют вас в том, что вы позволяете платформе прийти в упадок.

Недостающая инфраструктура: отслеживание происхождения и «подтверждение происхождения».

Перспективным подходом является переход от «выявления подделок» к «доказательству подлинности».

Обнаружение затруднено, потому что генеративный медиаконтент постоянно совершенствуется, и нет единого универсального признака. Определение происхождения затруднено, потому что требует стандартов и внедрения.

Однако у системы подтверждения происхождения есть преимущество: её можно выстроить в виде цепочки доказательств:

  • метаданные захвата
  • подписание при создании
  • хранение с защитой от несанкционированного вскрытия
  • проверка при загрузке

Если платформа может предложить действительно значимую метку «проверенное происхождение», это поможет пользователям различать:

  • реальные кадры
  • отредактированные, но аутентичные кадры
  • синтетические среды

Однако подтверждение происхождения работает только в том случае, если:

  • создатели дают согласие
  • платформы обеспечивают единообразную маркировку
  • Система устойчива к лёгкой подделке.

В противном случае это превратится в очередной декоративный значок.

Возможно ли существование «социальных сетей без лишней грязи»?

Полностью исключить использование корма без добавок маловероятно, поскольку граница между:

  • креативный ремикс
  • сатира
  • спам
  • обман

…его трудно определить, но легче использовать в своих целях.

Однако платформа все еще может повлиять на ситуацию, изменив стимулы:

  • сократить монетизацию для контента, требующего минимальных усилий.
  • ограничивать повторяющиеся загрузки
  • наказывать за использование приманок
  • награда за медиаконтент с подтвержденным происхождением
  • усиление препятствий для подозрительных учетных записей

Простейший вариант — это не «запретить ИИ», а «прекратить поощрять дешевые объемы».

Два правдоподобных варианта будущего

Будущее 1: нормализация.Пользователи адаптируются, платформы немного маркируют контент, и всё ненужное становится фоновым шумом — как спам-письма. Люди учатся, каким уголкам интернета можно доверять.

В этом мире «реальность» становится нишевым дополнительным преимуществом. Среднестатистический пользователь воспринимает ленту как фоновое развлечение, а цена ошибки (в отношении подлинности ролика) настолько низка, что людям становится все равно.

Будущее 2: бифуркация.Ленты новостей разделяются. Один слой становится ориентированным на развлечения и перегруженным синтетическим контентом. Другой слой становится меньше по размеру, тщательно отбирается, учитывает происхождение контента и обходится дороже в обслуживании.

В этом мире доверие становится товаром. Сообщества платят за человеческий отбор контента, более строгие проверки личности и более четкие правила в отношении синтетического контента. Компромисс заключается в масштабе: сеть с высоким уровнем доверия растет медленнее, потому что не может терпеть бесконечное количество дешевого контента.

Если это второе будущее станет реальностью, то ключевой дефицит будет не в содержании. Это будет...доверять.

Практический контрольный список для пользователей (и для платформ)

Дляпользователи:

  • Если пост в первую очередь призывает к эмоциям (лайкам, возмущению, жалости), предполагайте манипуляцию, пока не увидите контекст.
  • Предпочтение следует отдавать авторам, которые регулярно предоставляют информацию об источнике видеоматериала: где, когда и как были сняты кадры.
  • Не стоит «спорить в комментариях» по поводу очевидной ерунды; вы можете навредить своей ленте.

Дляплатформы:

  • Ограничивать скорость загрузки шаблонов данных и применять штрафные санкции к почти идентичным вариантам.
  • Необходимо сделать маркировку медиаконтента, созданного с помощью ИИ, обязательной, а не добровольной.
  • Рассматривайте происхождение информации как инфраструктуру: подписание, проверка и контрольный след.
  • Настройте систему монетизации таким образом, чтобы массовое создание контента, не требующего больших усилий, приносило меньше прибыли.

Итог

Некачественная разработка ИИ — это не столько «странный интернет-тренд», сколько предсказуемый результат столкновения двух стимулов: алгоритмов, вознаграждающих за вовлеченность, и инструментов, делающих создание контента практически бесплатным.

Негативная реакция реальна, но она изменит ленту только в том случае, если изменятся стимулы — либо посредством политики платформы (ограничение объема и поощрение за достоверность контента), либо путем миграции пользователей в пространства, где подлинность является главным товаром.

Источники

Document Title
AI ‘slop’ is transforming social media — and why the backlash matters
Generative AI has made attention-grabbing images and videos nearly free to produce, and feeds are reacting. Here’s why ‘AI slop’ spreads, what the backlash can (and can’t) change, and what to watch next.
Title Attribute
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Admin
Why Nairobi’s e-bike fleets are a serious last‑mile delivery play
What is the ‘social media network for AI’ Moltbook?
Page Content
AI ‘slop’ is transforming social media — and why the backlash matters
Nature
Climate
AI ‘slop’ is transforming social media — and a backlash is brewing
/
Technology
/ By
Admin
Social platforms have always had spam and junk. What’s new is that generative AI has made “content production” almost free — and that changes the balance between what users want and what the feed can economically deliver.
AI “slop” (cheap, low-effort synthetic images and videos) is not just an aesthetic complaint. It’s a signal that the
incentives of the creator economy and the incentives of ranking algorithms
are colliding with a new supply curve: unlimited, machine-made media.
The backlash we’re seeing is an early attempt to restore trust and meaning to feeds that are increasingly optimized for engagement rather than authenticity.
What people mean by “AI slop”
“AI slop” isn’t a technical term; it’s a cultural one. It usually refers to AI-generated media that is:
produced quickly (and in bulk)
repetitive (same templates, characters, tropes)
emotionally manipulative (heartwarming children, religious imagery, shocking gore)
low on verifiable context (no source, no provenance, no accountability)
Some of it is comical and obviously fake (gorillas lifting weights, fish with shoes). Some of it is designed to deceive — and that’s where it becomes corrosive.
A key point is that “slop” isn’t only about whether an image is “real”. It’s about whether it’s
meaningful
. When feeds fill with synthetic noise, even real content starts to feel less valuable because it competes in the same attention market.
The supply shock: why the feed changed so fast
The reason this is happening now is simple economics: the marginal cost of producing a clip has collapsed.
Before generative AI, a creator needed time, equipment, editing skills, or at least a coherent idea. With modern image and video tools, a creator can generate dozens or hundreds of variants rapidly, test which ones perform, and scale what works.
This produces a “content supply shock” that ranking systems were never designed to resist.
If your feed is powered by an algorithm trained to maximize engagement, and engagement is easy to generate with emotionally charged synthetic content, the system will naturally amplify it — even if users later say they hate it.
The algorithm’s blind spot: engagement is not quality
Most platforms do not rank content by truth or usefulness. They rank by signals they can measure:
watch time
likes/reactions
comments
reshares
click-through
Those metrics capture intensity, not accuracy.
AI-generated media often performs well against these metrics because it is:
novelty-rich (surprising visuals)
emotionally optimized (cute, shocking, enraging)
endlessly remixable (variations are cheap)
This creates a paradox: users may complain about slop in the comments, but the very act of commenting can help it spread.
In other words, “backlash” can become fuel.
The creator economy: incentives to flood the zone
A second driver is monetization. If a channel can earn money from views and engagement, the incentive is to publish as much as possible and let the algorithm select the winners.
When AI lowers the cost of production, the competition becomes less about craftsmanship and more about:
volume
experimentation
optimizing for the recommender system
This is why some of the most visible slop clusters around predictable tropes: they are proven engagement templates.
It also explains why platforms may talk about “cracking down” while still pushing tools that make creation easier: their business model is built on abundant content, not scarce content.
The human side: attention, trust, and “brain rot”
One of the more plausible long-term harms isn’t that everyone is fooled by a specific fake video. It’s that constant exposure to low-meaning synthetic media changes how we relate to the feed.
There are at least three psychological effects worth watching:
Verification fatigue
If determining “is this real?” requires effort, many people will stop checking over time. The default becomes shrugging.
Attention fragmentation
Short-form, high-stimulation content trains people to move on quickly. When slop increases the volume of stimuli, the feed becomes a treadmill.
Trust erosion
When users feel they are being manipulated — by creators, by AI tools, or by the platform — they may trust not only the fake content less, but real content too.
That’s the core danger: not one deception, but a general lowering of the “truth temperature” of online life.
Moderation is being redesigned around a bad assumption
The hard part for platforms is that “AI slop” is not one category of prohibited content. It spans:
spam
scams
misinformation
disturbing content
low-effort junk
And it’s often subjective. One person’s “slop” is another person’s entertainment.
At the same time, many platforms have reduced human moderation capacity and shifted toward:
automation
user reporting
community labels
That works poorly when the adversary is high-volume and adaptive.
Even worse, moderation itself can become political: if you define “low quality” too strictly, creators accuse you of censorship; if you define it too loosely, users accuse you of letting the platform rot.
The missing infrastructure: provenance and “proof of origin”
A promising framing is to move from “detect fakes” to “prove reals”.
Detection is hard because generative media is improving and because there’s no single tell. Provenance is hard because it requires standards and adoption.
But provenance has an advantage: it can be built as a chain of evidence:
capture metadata
signing at creation
tamper-evident storage
verification at upload
If a platform can offer a “verified origin” label that’s actually meaningful, it can help users differentiate:
real footage
edited but authentic footage
synthetic media
However, provenance only works if:
creators opt in
platforms enforce consistent labeling
the system resists easy spoofing
Otherwise it becomes another decorative badge.
Can “slop-free social media” exist?
A fully slop-free feed is unlikely, because the boundary between:
creative remix
satire
deception
…is hard to define and easier to exploit.
But a platform can still move the dial by changing incentives:
reduce monetization for low-effort bulk content
throttle repetitive uploads
penalize engagement bait patterns
reward provenance-verified media
increase friction for suspicious accounts
The simplest version is not “ban AI”; it’s “stop rewarding cheap volume.”
Two plausible futures
Future 1: normalization.
Users adapt, platforms label a little, and slop becomes background noise — like spam email. People learn which corners of the internet to trust.
In this world, “real” becomes a niche value-add. The median user treats the feed as ambient entertainment, and the cost of being wrong (about whether a clip is authentic) is low enough that people stop caring.
Future 2: bifurcation.
Feeds split. One layer becomes entertainment-first and synthetic-heavy. Another layer becomes smaller, curated, provenance-aware, and more expensive to maintain.
In this world, trust becomes a product. Communities pay for human curation, stronger identity checks, and clearer rules about synthetic media. The trade-off is scale: a high-trust network grows more slowly because it can’t tolerate infinite cheap content.
If that second future happens, the key scarcity won’t be content. It will be
trust
.
A practical checklist for users (and for platforms)
For
users
:
If a post is asking for emotion first (likes, outrage, pity), assume manipulation until you see context.
Prefer creators who routinely provide provenance: where/when/how footage was captured.
Don’t “argue in the comments” on obvious slop; you may be training the feed.
platforms
Rate-limit bulk upload patterns and penalize near-duplicate variants.
Make labeling of AI-generated media enforceable, not voluntary.
Treat provenance as infrastructure: signing, verification, and an audit trail.
Align monetization so bulk low-effort content is less profitable.
Bottom line
AI slop is less a “weird internet trend” than a predictable outcome of two incentives colliding: algorithms that reward engagement and tools that make content production nearly free.
The backlash is real, but it will only change the feed if it changes the incentives — either through platform policy (throttling volume and rewarding provenance) or through user migration to spaces where authenticity is the product.
Sources
BBC News (Technology):
https://www.bbc.com/news/articles/c9wx2dz2v44o?at_medium=RSS&at_campaign=rss
←
Previous Post
Next Post
→
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Admin
Why Nairobi’s e-bike fleets are a serious last‑mile delivery play
What is the ‘social media network for AI’ Moltbook?
Generative AI has made attention-grabbing images and videos nearly free to produce, and feeds are reacting. Here’s why ‘AI slop’ spreads, what the backlash can (and can’t) change, and what to watch next.
Document Title
Page not found - Florin.blog
Image Alt
Florin.blog
Title Attribute
Florin.blog » Feed
RSD
Skip to content
Placeholder Attribute
Search...
Page Content
Page not found - Florin.blog
Skip to content
Home
Blog
Garden Decor
Indoor
Main Menu
This page doesn't seem to exist.
It looks like the link pointing here was faulty. Maybe try searching?
Search for:
Search
Quick Links
Outdoors
About
Contact
Explore
Bestsellers
Hot deals
Best of The Year
Featured
Gift Cards
Help
Privacy Policy
Disclaimer
: As an Amazon Associate, we earn from qualifying purchases — at no extra cost to you.
Florin.blog
Florin.blog » Feed
RSD
Search...
Русский