Dirbtinio intelekto „apgaulė“ transformuoja socialinę žiniasklaidą ir bręsta neigiama reakcija

/Technologijos/ Autorius

Socialinėse platformose visada buvo šlamšto ir nepageidaujamo turinio. Nauja tai, kad generatyvinis dirbtinis intelektas „turinio kūrimą“ pavertė beveik nemokama – ir tai keičia pusiausvyrą tarp to, ko nori vartotojai, ir to, ką sklaidos kanalas gali ekonomiškai pasiūlyti.

Dirbtinio intelekto „apgaulė“ (pigūs, mažai pastangų reikalaujantys sintetiniai vaizdai ir vaizdo įrašai) yra ne tik estetinis nusiskundimas. Tai signalas, kadkūrėjų ekonomikos paskatos ir reitingavimo algoritmų paskatossusiduria su nauja pasiūlos kreive: neribotomis, mašinomis sukurtomis medijomis.

Neigiamas atsakas, kurį matome, yra ankstyvas bandymas atkurti pasitikėjimą ir prasmę sklaidos kanaluose, kurie vis labiau optimizuojami įsitraukimui, o ne autentiškumui.

Ką žmonės turi omenyje sakydami „DI aplaidumas“

„DI šlamštas“ nėra techninis terminas, tai kultūrinis. Paprastai jis reiškia DI sukurtą mediją, kuri yra:

  • pagaminta greitai (ir dideliais kiekiais)
  • pasikartojantis (tie patys šablonai, personažai, tropai)
  • emociškai manipuliuojantis (širdį šildantys vaikai, religiniai vaizdai, šokiruojantis smurtas)
  • mažai patikrinamo konteksto (nėra šaltinio, kilmės, atskaitomybės)

Dalis to yra komiška ir akivaizdžiai netikra (gorilos kilnoja svarmenis, žuvys su batais). Dalis – skirta apgauti – ir būtent čia ji tampa ėsdinanti.

Svarbiausia, kad „aplaidumas“ susijęs ne tik su tuo, ar vaizdas yra „tikras“. Svarbu, ar jis yra...prasmingasKai sklaidos kanalai prisipildo sintetinio triukšmo, net tikras turinys pradeda atrodyti mažiau vertingas, nes jis konkuruoja toje pačioje dėmesio rinkoje.

Tiekimo šokas: kodėl pašarai keitėsi taip greitai

Priežastis, kodėl tai vyksta dabar, yra paprasta ekonomika: ribinė klipo gamybos kaina sumažėjo.

Prieš atsirandant generatyviniam dirbtiniam intelektui, kūrėjui reikėjo laiko, įrangos, redagavimo įgūdžių arba bent jau nuoseklios idėjos. Naudodamas šiuolaikinius vaizdų ir vaizdo įrašų įrankius, kūrėjas gali greitai sugeneruoti dešimtis ar šimtus variantų, išbandyti, kurie iš jų veikia, ir pritaikyti tai, kas veikia.

Tai sukelia „turinio tiekimo šoką“, kuriam reitingavimo sistemos niekada nebuvo sukurtos atlaikyti.

Jei jūsų sklaidos kanalą valdo algoritmas, apmokytas maksimaliai padidinti įsitraukimą, o įsitraukimą lengva generuoti naudojant emociškai įkrautą sintetinį turinį, sistema natūraliai jį sustiprins – net jei vartotojai vėliau pasakys, kad jo nekenčia.

Algoritmo akloji zona: įsitraukimas nėra kokybė

Dauguma platformų nevertina turinio pagal teisingumą ar naudingumą. Jos reitinguoja pagal signalus, kuriuos gali išmatuoti:

  • žiūrėjimo laikas
  • patiktukai / reakcijos
  • komentarai
  • pakartotiniai bendrinimai
  • paspaudimas

Tie rodikliai atspindi intensyvumą, o ne tikslumą.

Dirbtinio intelekto generuojama medija dažnai gerai veikia pagal šiuos rodiklius, nes ji yra:

  • gausu naujumo (stebinantys vaizdai)
  • emociškai optimizuotas (mielas, šokiruojantis, siutinantis)
  • be galo remiksuojamas (variacijos pigios)

Tai sukuria paradoksą: vartotojai gali skųstis dėl komentarų aplaidumo, bet pats komentavimas gali padėti jam plisti.

Kitaip tariant, „priešinis atsakas“ gali tapti kuru.

Kūrėjų ekonomika: paskatos užtvindyti zoną

Antras veiksnys – monetizavimas. Jei kanalas gali uždirbti pinigų iš peržiūrų ir įsitraukimo, paskata yra publikuoti kuo daugiau turinio ir leisti algoritmui išrinkti nugalėtojus.

Kai dirbtinis intelektas sumažina gamybos sąnaudas, konkurencija tampa ne tiek dėl meistriškumo, kiek dėl:

  • tūris
  • eksperimentavimas
  • optimizavimas rekomendavimo sistemai

Štai kodėl kai kurie labiausiai matomi prasimanymai susitelkia aplink nuspėjamus tropus: jie yra patikrinti įsitraukimo šablonai.

Tai taip pat paaiškina, kodėl platformos gali kalbėti apie „susidorojimą“, tačiau vis tiek siūlyti įrankius, kurie palengvina kūrimą: jų verslo modelis pagrįstas gausiu, o ne retu turiniu.

Žmogiškoji pusė: dėmesys, pasitikėjimas ir „smegenų puvimas“

Viena iš labiau tikėtinų ilgalaikių žalų yra ne ta, kad visus apgauna konkretus netikras vaizdo įrašas. Tai, kad nuolatinis sąlytis su menkaverte sintetine žiniasklaida keičia mūsų santykį su ja.

Verta atkreipti dėmesį į bent tris psichologinius padarinius:

  1. Patikrinimų nuovargis
    Jei nustatyti „ar tai tikra?“ reikia pastangų, daugelis žmonių laikui bėgant nustos tikrinti. Numatytasis būdas tampa gūžčiojimas pečiais.

  2. Dėmesio fragmentacija
    Trumpas, stipriai stimuliuojantis turinys padeda žmonėms greitai judėti pirmyn. Kai aptakus turinys padidina dirgiklių kiekį, turinys tampa bėgimo takeliu.

  3. Pasitikėjimo erozija
    Kai vartotojai jaučia, kad jais manipuliuojama – kūrėjų, dirbtinio intelekto įrankių ar pačios platformos – jie gali mažiau pasitikėti ne tik netikru turiniu, bet ir tikru turiniu.

Tai yra pagrindinis pavojus: ne viena apgaulė, o bendras internetinio gyvenimo „tiesos temperatūros“ sumažėjimas.

Moderavimas pertvarkomas remiantis bloga prielaida

Platformoms sunku tai, kad „dirbtinio intelekto šlamštas“ nėra viena iš draudžiamo turinio kategorijų. Jis apima:

  • šlamštas
  • sukčiavimo
  • dezinformacija
  • nerimą keliantis turinys
  • mažai pastangų reikalaujantis šlamštas

Ir tai dažnai subjektyvu. Vieno žmogaus „apgaulė“ yra kito žmogaus pramoga.

Tuo pačiu metu daugelyje platformų sumažėjo žmonių moderavimo galimybės ir jos perėjo prie:

  • automatizavimas
  • naudotojų ataskaitos
  • bendruomenės etiketės

Tai veikia prastai, kai priešininkas yra didelio masto ir prisitaikantis.

Dar blogiau, pats moderavimas gali tapti politinis: jei pernelyg griežtai apibrėžiate „žemą kokybę“, kūrėjai jus kaltina cenzūra; jei pernelyg laisvai apibrėžiate, vartotojai jus kaltina, kad leidžiate platformai supūti.

Trūkstama infrastruktūra: kilmė ir „kilmės įrodymas“

Perspektyvus požiūris – pereiti nuo „klastočių aptikimo“ prie „tikrų įrodymų“.

Aptikimas yra sudėtingas, nes generatyvinė žiniasklaida tobulėja ir nėra vieno konkretaus būdo nustatyti kilmę. Kilmę sunku nustatyti, nes tam reikia standartų ir pritaikymo.

Tačiau kilmė turi pranašumą: ją galima sukurti kaip įrodymų grandinę:

  • užfiksuoti metaduomenis
  • pasirašymas kūrimo metu
  • apsauga nuo klastojimo
  • patvirtinimas įkėlimo metu

Jei platforma gali pasiūlyti prasmingą „patvirtintos kilmės“ etiketę, ji gali padėti vartotojams atskirti:

  • tikra filmuota medžiaga
  • redaguota, bet autentiška medžiaga
  • sintetinės žiniasklaidos

Tačiau kilmės nustatymas veikia tik tuo atveju, jei:

  • kūrėjai pasirenka
  • platformos užtikrina nuoseklų ženklinimą
  • sistema atspari lengvam sukčiavimui

Priešingu atveju tai tampa dar vienu dekoratyviniu ženkliuku.

Ar gali egzistuoti „socialinė žiniasklaida be nereikalingų atliekų“?

Visiškai be išsiliejimų tiekimas mažai tikėtinas, nes riba tarp:

  • kūrybinis remiksas
  • satyra
  • šlamštas
  • apgaulė

...sunku apibrėžti ir lengviau išnaudoti.

Tačiau platforma vis tiek gali pakeisti paskatas:

  • Sumažinkite mažai pastangų reikalaujančio masinio turinio pajamų gavimą
  • apriboti pasikartojančius įkėlimus
  • bausti už įsitraukimo masalo modelius
  • apdovanokite kilmės patikrinimo pagrindu veikiančią žiniasklaidą
  • padidinti trintį dėl įtartinų paskyrų

Paprasčiausia versija nėra „uždrausti dirbtinį intelektą“, o „nustoti apdovanoti už pigų kiekį“.

Dvi tikėtinos ateities

Ateitis 1: normalizavimas.Vartotojai prisitaiko, platformos šiek tiek žymi, o šiukšlės tampa foniniu triukšmu – tarsi šlamštu. Žmonės išmoksta, kuriais interneto kampeliais pasitikėti.

Šiame pasaulyje „tikras“ tampa nišiniu pridėtinės vertės šaltiniu. Vidutinis vartotojas kanalą traktuoja kaip aplinkos pramogą, o klaidos (dėl klipo autentiškumo) kaina yra tokia maža, kad žmonės nustoja ja rūpintis.

Ateitis 2: bifurkacija.Sklaidos kanalai skyla. Vienas sluoksnis tampa orientuotas į pramogas ir sintetinių medžiagų gausa. Kitas sluoksnis tampa mažesnis, kuruojamas, atsižvelgiantis į kilmę ir brangesnis išlaikyti.

Šiame pasaulyje pasitikėjimas tampa produktu. Bendruomenės moka už žmonių kuravimą, griežtesnius tapatybės patikrinimus ir aiškesnes taisykles dėl sintetinės žiniasklaidos. Kompromisas yra mastas: didelio pasitikėjimo tinklas auga lėčiau, nes negali toleruoti begalinio pigaus turinio.

Jei ta antroji ateitis išaiškės, rakto trūkumas nebus patenkintas. Jis buspasitikėjimas.

Praktinis kontrolinis sąrašas vartotojams (ir platformoms)

Užvartotojai:

  • Jei įrašas pirmiausia siekia sukelti emocijas (patinka, pasipiktinimą, gailestį), manykite, kad tai manipuliacija, kol nesuprasite konteksto.
  • Pirmenybę teikite kūrėjams, kurie reguliariai nurodo kilmę: kur/kada/kaip buvo filmuota medžiaga.
  • Nesiginčykite komentaruose dėl akivaizdaus aplaidumo; galite tik dresuoti pašarą.

Užplatformos:

  • Apriboti masinio įkėlimo modelius ir bausti už beveik pasikartojančius variantus.
  • Dirbtinio intelekto sukurtos medijos ženklinimą padaryti privalomą, o ne savanorišką.
  • Kilmę traktuokite kaip infrastruktūrą: pasirašymą, patikrinimą ir audito taką.
  • Suderinkite pajamų gavimą taip, kad masinis mažai pastangų reikalaujantis turinys būtų mažiau pelningas.

Esmė

Dirbtinio intelekto aplaidumas yra ne tiek „keista interneto tendencija“, kiek nuspėjamas dviejų paskatų susidūrimo rezultatas: algoritmai, kurie apdovanoja už įsitraukimą, ir įrankiai, kurie turinio kūrimą daro beveik nemokamą.

Neigiama reakcija yra reali, tačiau ji pakeis srautą tik tuo atveju, jei pakeis paskatas – arba per platformos politiką (ribojant apimtį ir skatinant kilmę), arba per vartotojų migraciją į erdves, kuriose produktas yra autentiškumas.

Šaltiniai

Document Title
AI ‘slop’ is transforming social media — and why the backlash matters
Generative AI has made attention-grabbing images and videos nearly free to produce, and feeds are reacting. Here’s why ‘AI slop’ spreads, what the backlash can (and can’t) change, and what to watch next.
Title Attribute
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Admin
Why Nairobi’s e-bike fleets are a serious last‑mile delivery play
What is the ‘social media network for AI’ Moltbook?
Page Content
AI ‘slop’ is transforming social media — and why the backlash matters
Nature
Climate
AI ‘slop’ is transforming social media — and a backlash is brewing
/
Technology
/ By
Admin
Social platforms have always had spam and junk. What’s new is that generative AI has made “content production” almost free — and that changes the balance between what users want and what the feed can economically deliver.
AI “slop” (cheap, low-effort synthetic images and videos) is not just an aesthetic complaint. It’s a signal that the
incentives of the creator economy and the incentives of ranking algorithms
are colliding with a new supply curve: unlimited, machine-made media.
The backlash we’re seeing is an early attempt to restore trust and meaning to feeds that are increasingly optimized for engagement rather than authenticity.
What people mean by “AI slop”
“AI slop” isn’t a technical term; it’s a cultural one. It usually refers to AI-generated media that is:
produced quickly (and in bulk)
repetitive (same templates, characters, tropes)
emotionally manipulative (heartwarming children, religious imagery, shocking gore)
low on verifiable context (no source, no provenance, no accountability)
Some of it is comical and obviously fake (gorillas lifting weights, fish with shoes). Some of it is designed to deceive — and that’s where it becomes corrosive.
A key point is that “slop” isn’t only about whether an image is “real”. It’s about whether it’s
meaningful
. When feeds fill with synthetic noise, even real content starts to feel less valuable because it competes in the same attention market.
The supply shock: why the feed changed so fast
The reason this is happening now is simple economics: the marginal cost of producing a clip has collapsed.
Before generative AI, a creator needed time, equipment, editing skills, or at least a coherent idea. With modern image and video tools, a creator can generate dozens or hundreds of variants rapidly, test which ones perform, and scale what works.
This produces a “content supply shock” that ranking systems were never designed to resist.
If your feed is powered by an algorithm trained to maximize engagement, and engagement is easy to generate with emotionally charged synthetic content, the system will naturally amplify it — even if users later say they hate it.
The algorithm’s blind spot: engagement is not quality
Most platforms do not rank content by truth or usefulness. They rank by signals they can measure:
watch time
likes/reactions
comments
reshares
click-through
Those metrics capture intensity, not accuracy.
AI-generated media often performs well against these metrics because it is:
novelty-rich (surprising visuals)
emotionally optimized (cute, shocking, enraging)
endlessly remixable (variations are cheap)
This creates a paradox: users may complain about slop in the comments, but the very act of commenting can help it spread.
In other words, “backlash” can become fuel.
The creator economy: incentives to flood the zone
A second driver is monetization. If a channel can earn money from views and engagement, the incentive is to publish as much as possible and let the algorithm select the winners.
When AI lowers the cost of production, the competition becomes less about craftsmanship and more about:
volume
experimentation
optimizing for the recommender system
This is why some of the most visible slop clusters around predictable tropes: they are proven engagement templates.
It also explains why platforms may talk about “cracking down” while still pushing tools that make creation easier: their business model is built on abundant content, not scarce content.
The human side: attention, trust, and “brain rot”
One of the more plausible long-term harms isn’t that everyone is fooled by a specific fake video. It’s that constant exposure to low-meaning synthetic media changes how we relate to the feed.
There are at least three psychological effects worth watching:
Verification fatigue
If determining “is this real?” requires effort, many people will stop checking over time. The default becomes shrugging.
Attention fragmentation
Short-form, high-stimulation content trains people to move on quickly. When slop increases the volume of stimuli, the feed becomes a treadmill.
Trust erosion
When users feel they are being manipulated — by creators, by AI tools, or by the platform — they may trust not only the fake content less, but real content too.
That’s the core danger: not one deception, but a general lowering of the “truth temperature” of online life.
Moderation is being redesigned around a bad assumption
The hard part for platforms is that “AI slop” is not one category of prohibited content. It spans:
spam
scams
misinformation
disturbing content
low-effort junk
And it’s often subjective. One person’s “slop” is another person’s entertainment.
At the same time, many platforms have reduced human moderation capacity and shifted toward:
automation
user reporting
community labels
That works poorly when the adversary is high-volume and adaptive.
Even worse, moderation itself can become political: if you define “low quality” too strictly, creators accuse you of censorship; if you define it too loosely, users accuse you of letting the platform rot.
The missing infrastructure: provenance and “proof of origin”
A promising framing is to move from “detect fakes” to “prove reals”.
Detection is hard because generative media is improving and because there’s no single tell. Provenance is hard because it requires standards and adoption.
But provenance has an advantage: it can be built as a chain of evidence:
capture metadata
signing at creation
tamper-evident storage
verification at upload
If a platform can offer a “verified origin” label that’s actually meaningful, it can help users differentiate:
real footage
edited but authentic footage
synthetic media
However, provenance only works if:
creators opt in
platforms enforce consistent labeling
the system resists easy spoofing
Otherwise it becomes another decorative badge.
Can “slop-free social media” exist?
A fully slop-free feed is unlikely, because the boundary between:
creative remix
satire
deception
…is hard to define and easier to exploit.
But a platform can still move the dial by changing incentives:
reduce monetization for low-effort bulk content
throttle repetitive uploads
penalize engagement bait patterns
reward provenance-verified media
increase friction for suspicious accounts
The simplest version is not “ban AI”; it’s “stop rewarding cheap volume.”
Two plausible futures
Future 1: normalization.
Users adapt, platforms label a little, and slop becomes background noise — like spam email. People learn which corners of the internet to trust.
In this world, “real” becomes a niche value-add. The median user treats the feed as ambient entertainment, and the cost of being wrong (about whether a clip is authentic) is low enough that people stop caring.
Future 2: bifurcation.
Feeds split. One layer becomes entertainment-first and synthetic-heavy. Another layer becomes smaller, curated, provenance-aware, and more expensive to maintain.
In this world, trust becomes a product. Communities pay for human curation, stronger identity checks, and clearer rules about synthetic media. The trade-off is scale: a high-trust network grows more slowly because it can’t tolerate infinite cheap content.
If that second future happens, the key scarcity won’t be content. It will be
trust
.
A practical checklist for users (and for platforms)
For
users
:
If a post is asking for emotion first (likes, outrage, pity), assume manipulation until you see context.
Prefer creators who routinely provide provenance: where/when/how footage was captured.
Don’t “argue in the comments” on obvious slop; you may be training the feed.
platforms
Rate-limit bulk upload patterns and penalize near-duplicate variants.
Make labeling of AI-generated media enforceable, not voluntary.
Treat provenance as infrastructure: signing, verification, and an audit trail.
Align monetization so bulk low-effort content is less profitable.
Bottom line
AI slop is less a “weird internet trend” than a predictable outcome of two incentives colliding: algorithms that reward engagement and tools that make content production nearly free.
The backlash is real, but it will only change the feed if it changes the incentives — either through platform policy (throttling volume and rewarding provenance) or through user migration to spaces where authenticity is the product.
Sources
BBC News (Technology):
https://www.bbc.com/news/articles/c9wx2dz2v44o?at_medium=RSS&at_campaign=rss
←
Previous Post
Next Post
→
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Admin
Why Nairobi’s e-bike fleets are a serious last‑mile delivery play
What is the ‘social media network for AI’ Moltbook?
Generative AI has made attention-grabbing images and videos nearly free to produce, and feeds are reacting. Here’s why ‘AI slop’ spreads, what the backlash can (and can’t) change, and what to watch next.
Document Title
Page not found - Florin.blog
Image Alt
Florin.blog
Title Attribute
Florin.blog » Feed
RSD
Skip to content
Placeholder Attribute
Search...
Page Content
Page not found - Florin.blog
Skip to content
Home
Blog
Garden Decor
Indoor
Main Menu
This page doesn't seem to exist.
It looks like the link pointing here was faulty. Maybe try searching?
Search for:
Search
Quick Links
Outdoors
About
Contact
Explore
Bestsellers
Hot deals
Best of The Year
Featured
Gift Cards
Help
Privacy Policy
Disclaimer
: As an Amazon Associate, we earn from qualifying purchases — at no extra cost to you.
Florin.blog
Florin.blog » Feed
RSD
Search...
i Lietuvių kalba