Povzetek:TikTok je dosegel zaupno poravnavo le nekaj ur pred izbiro porote v ameriškem primeru "odvisnosti od družbenih medijev" – s čimer se je izognil temu, da bi postal obtoženec v tem, kar odvetniki opisujejo kot prelomni sodni proces. Večja zgodba ni ena sama poravnava. Gre za premik v načinu, kako se od sodišč zahteva, da gledajo na družbene platforme: ne zgolj kot nevtralne gostitelje uporabniških vsebin, temveč kot podjetja, ki ustvarjajomožnosti oblikovanja(algoritmi, obvestila in zanke interakcije), ki lahko povzročijo predvidljivo škodo.
Ta primer je pomemben, ker cilja na plast »arhitekture angažiranosti« – kako so viri zgrajeni in optimizirani – ne le na to, kaj uporabniki objavljajo.
Kaj se je zgodilo (jasna dejstva)
Iz poročila BBC-ja:
- TikTok se je poravnal, da bi se izognil sodelovanju v večjem ameriškem sojenju zaradi odvisnosti od družbenih medijev, le nekaj ur pred izvolitvijo porote v Kaliforniji.
- Tožnica je 20-letna ženska, identificirana kotKGM.
- Trdi, da jo je zasnova algoritmov platform naredila odvisno od družbenih medijev in škodovala njenemu duševnemu zdravju.
- Center za pravo žrtev družbenih medijev je sporočil, da sta stranki dosegli "prijateljsko rešitev"; pogoji so zaupni.
- V širšem sporu so omenjene tudi druge velike platforme (npr. Meta; kot tožena skupina je navedena matična družba YouTuba, Google).
TikTokova poravnava sicer izloči enega igralca iz sodne bitke, vendar ne konča pravnega postopka. Sojenje – in pravna teorija, ki stoji za njim – se nadaljuje.
Zakaj gre za primer "odgovornosti za oblikovanje" in ne za primer "slabe vsebine"
Tehnološke platforme se že leta opirajo na člen 230 v ZDA (in podobne pravne okvire drugod), da bi trdile, da niso odgovorne za objave tretjih oseb.
Ta primer je drugačen, ker se osredotoča na lastnosti izdelka in oblikovalske izbire, ki oblikujejo vedenje uporabnikov, kot so:
- algoritmi priporočil (viri v slogu »Za vas«)
- samodejno predvajanje in neskončno pomikanje
- obvestila, uglašena za ponovno interakcijo
- črte, značke in pozivi k sodelovanju
Argument je v bistvu naslednji:
Platforma je zasnovana kot aktivni sistem, ki lahko spodbudi kompulzivno uporabo – zlasti pri mladoletnikih – in platforme bi morale biti odgovorne za predvidljive posledice.
Zato je ta primer potencialno precedens: porote in sodnike poziva, naj »inženiring pozornosti« obravnavajo kot kategorijo, podobno odgovornosti za izdelek.
Zakaj se platforme bojijo sojenja s poroto
V poročilu je navedeno, da naj bi sojenje razkrilo interne dokumente in dokaze.
Z vidika platforme so preizkusi tvegani, ker:
- odkritje lahko razkrije interne raziskave o dobrem počutju uporabnikov
- e-poštna sporočila in opombe o izdelkih lahko razkrijejo kompromise (»rast proti varnosti«)
- Vodilni delavci so lahko pod pritiskom prisiljeni pričati
Tudi če platforma verjame, da lahko zmaga na sodišču, je sojenje s poroto nepredvidljivo in škoduje ugledu.
Zato se poravnave dogajajo in zato podjetja poskušajo zožiti primere, preden pridejo do porote.
Nasprotni argument: vzročnost je težko dokazati
Tožena podjetja trdijo, da dokazi ne dokazujejo, da so povzročila domnevno škodo.
To je resen protiargument. Duševno zdravje je večfaktorsko:
- individualna psihologija
- družinsko okolje
- dinamika družbenih omrežij brez povezave
- širša kultura
Tožniki se torej soočajo z visokimi zahtevami:
- dokazovanje ne le korelacije („intenzivna družbena uporaba se dogaja vzporedno z anksioznostjo“), temveč vzročno zvezo („ta oblikovalska odločitev je bistveno prispevala k tej škodi“).
Profesor prava, naveden v poročilu, meni, da bi lahko izguba teh primerov predstavljala eksistenčno grožnjo za podjetja – saj se, če se odprejo pravna vrata, odgovornost hitro razširi na milijone uporabnikov.
Zakaj »zasvojljivi algoritmi« niso le retorika
Platforme optimizirajo za angažiranost, ker angažiranost spodbuja:
- prihodki od oglaševanja
- zdravje ekosistema ustvarjalcev
- zadrževanje
Ta optimizacija se pogosto izvaja kot:
- modeli razvrščanja, ki napovedujejo, kaj vas bo pritegnilo k gledanju
- povratne zanke, ki se učijo iz vašega vedenja
- hitro A/B testiranje sprememb vmesnika
Nič od tega ni samo po sebi zlonamerno. Vendar ustvarja strukturo spodbud, kjer lahko »porabljen čas« postane severna zvezda.
Ko se ta sistem uporabi za mlade uporabnike – ki imajo morda manj razvit nadzor impulzov – se postavlja vprašanje: ali bi morale imeti platforme okrepljene dolžnosti skrbnosti?
Kaj bodo Meta (in drugi) verjetno trdili
Poročilo BBC-ja omenja Meto, ki pravi, da je uvedla na desetine orodij za podporo varnejšemu okolju za najstnike.
V takih primerih platforme pogosto poudarjajo:
- starševski nadzor
- varnostne nastavitve za najstnike
- orodja za čas uporabe zaslona
- filtri vsebine
Ta orodja so pomembna, vendar sprožajo tudi praktično vprašanje: ali so to privzete ali izbirne nastavitve, skrite v menijih?
Varnostno orodje, ki obstaja, vendar se redko uporablja, ne spremeni bistveno rezultatov.
Svetovni trend: vlade se preusmerjajo k razmišljanju o »dolžnosti skrbnosti«
Poročilo ugotavlja vse večji nadzor po vsem svetu in omenja naslednje politične ukrepe:
- Avstralija prepoveduje družbena omrežja za mlajše od 16 let
- signali, ki bi jim lahko sledila Združeno kraljestvo
Med državami je opaziti jasen premik:
- iz razprav o »svobodi govora proti moderiranju«
- proti razpravam o »varnosti izdelkov, zaščiti otrok in sistemskem tveganju«
To je analogno temu, kako so bile regulirane druge panoge:
- avtomobili so dobili varnostne pasove in standarde za trčenje
- pravila o varnosti hrane, pridobljena
- zahteve glede razkritja pridobljenih finančnih sredstev
Internet se zdaj obravnava kot okolje, ki ga je mogoče z zasnovo narediti varnejšega.
Kaj bi lahko »varnejša zasnova« pomenila v praksi
Če bodo sodišča in regulatorji nadaljevali v tej smeri, bodo verjetni izidi naslednji:
Koristna primerjava so varnostni pasovi: cilj ni bil prepovedati avtomobilov, temveč zmanjšati verjetnost predvidljive škode s pomočjo oblikovalskih standardov. Družbene platforme se lahko soočijo s podobnim razvojem – oblikovalska pričakovanja sčasoma postanejo običajna.
1) Močnejše neizpolnjevanje obveznosti pri najstnikih
Namesto da bi od družin zahtevali, da konfigurirajo varnost, se od platform morda zahteva, da dobavijo varnejše privzete nastavitve:
- omejena obvestila
- omejena intenzivnost priporočil
- časovno omejeni pozivi in odmori
2) Trenje pri elementih z visokim tveganjem
Nekateri mehanizmi sodelovanja bi lahko naleteli na trenja:
- omejitve samodejnega predvajanja
- "Si prepričan?" vpraša
- časovne omejitve
3) Večja preglednost
Platforme bodo morda morale pojasniti:
- kako algoritmi razvrščajo vsebino
- kateri signali se uporabljajo
- kako se ocenjuje varnost
4) Standardi dokazov
Od podjetij se lahko pričakuje, da bodo dokazala:
- ocene notranjega dobrega počutja
- načrti za ublažitev
- spremljanje in revizije
Tveganje: nenamerne posledice in topa regulacija
Vsi posegi niso učinkoviti.
Preveč stroga regulacija lahko:
- postavljajo v slabši položaj manjše platforme, ki si ne morejo privoščiti skladnosti
- zmanjšati uporabnikovo avtonomijo
- potiskajo najstnike v manj regulirane kotičke interneta
Izziv politike je torej ciljati na najbolj škodljive spodbude za oblikovanje, ne da bi pri tem zamrznili inovacije.
Kaj spremljati naprej (znaki, da je ta pravni premik resničen)
-
Več odkritij postaja javno dostopnih
Če interni dokumenti postanejo javni, to pospeši regulacijo in tožbe. -
Pričevanja direktorjev
Zaradi odmevnih pričevanj (npr. Zuckerberga) so ti primeri postali del mainstreama. -
Poravnave v primerjavi s sodbami
Poravnave kažejo na izogibanje tveganjem; sodbe ustvarjajo precedens. -
Spremembe privzetih nastavitev za najstnike
Če platforme preventivno prilagodijo privzete vrednosti, je to znak, da pričakujejo, da se bo pritisk nadaljeval. -
Tožbe posnemovalcev
Družine, šolska okrožja in države vlagajo vzporedne zahtevke, kar ustvarja kumulativno tveganje.
Bistvo
Poravnava TikToka je taktična poteza, strateška zgodba pa je širša: sodišča in vlade so vse bolj pripravljene preučiti družbene medije kot izdelek, ki lahko s svojo zasnovo povzroči škodo.
Če bo ta pravna teorija še naprej pridobivala na veljavi, se bo »doba platform« spet premaknila – od rasti prek optimizacije angažiranosti k rasti, ki jo omejujejo varnostne obveznosti in večja odgovornost.
Viri
- BBC News (Tehnologija):https://www.bbc.com/news/articles/c24g8v6qr1mo?at_medium=RSS&at_campaign=rss