Santrauka:„TikTok“ pasiekė konfidencialų susitarimą likus vos kelioms valandoms iki prisiekusiųjų atrankos JAV „socialinės žiniasklaidos priklausomybės“ byloje, taip išvengdama tapimo atsakovu byloje, kurią teisininkai apibūdina kaip istorinę. Svarbiausia istorija yra ne vienas susitarimas. Tai pokytis, kaip teismų prašoma vertinti socialines platformas: ne tik kaip neutralius vartotojų turinio talpintojus, bet ir kaip įmones, kurios kuria...dizaino pasirinkimai(algoritmai, pranešimai ir sąveikos ciklai), kurie gali sukelti numatomą žalą.
Šis atvejis svarbus, nes jis skirtas „įsitraukimo architektūros“ sluoksniui – kaip kuriami ir optimizuojami sklaidos kanalai, o ne tik tam, ką skelbia vartotojai.
Kas nutiko (aiškūs faktai)
Iš BBC pranešimo:
- „TikTok“ susitarė išvengti dalyvavimo dideliame JAV socialinių tinklų priklausomybės tyrime, likus vos kelioms valandoms iki prisiekusiųjų rinkimų Kalifornijoje.
- Ieškovė yra 20 metų moteris, identifikuota kaip...KGM.
- Ji teigia, kad platformų algoritmų dizainas padarė ją priklausomą nuo socialinių tinklų ir pakenkė jos psichinei sveikatai.
- Socialinių tinklų aukų teisės centras teigė, kad šalys pasiekė „draugišką sprendimą“; sąlygos yra konfidencialios.
- Platesniame bylinėjimosi procese taip pat įvardijamos kitos didelės platformos (pvz., „Meta“; „YouTube“ patronuojanti įmonė „Google“ nurodoma kaip atsakovų grupė).
„TikTok“ susitarimas pašalina vieną žaidėją iš teismo kovos, tačiau teisinė kova nesibaigia. Teismo procesas ir jį pagrindžianti teisinė teorija tęsiasi.
Kodėl tai yra „dizaino atsakomybės“, o ne „blogo turinio“ byla
Jau daugelį metų technologijų platformos remiasi JAV 230 skirsniu (ir panašiomis teisinėmis sistemomis kitur), teigdamos, kad jos nėra atsakingos už tai, ką skelbia trečiosios šalys.
Šis atvejis kitoks, nes jame daugiausia dėmesio skiriama produkto savybėms ir dizaino pasirinkimams, kurie formuoja naudotojo elgesį, pavyzdžiui:
- rekomendacijų algoritmai („For You“ stiliaus sklaidos kanalai)
- automatinis paleidimas ir begalinis slinkimas
- pranešimai, pritaikyti pakartotiniam įsitraukimui
- serijos, ženkleliai ir įsitraukimo raginimai
Argumentas iš esmės yra toks:
Platformos dizainas yra aktyvi sistema, galinti paskatinti kompulsyvų vartojimą, ypač nepilnamečiams, ir platformos turėtų būti atsakingos už numatomas pasekmes.
Štai kodėl ši byla gali būti precedento neturinti: joje prašoma prisiekusiųjų ir teisėjų „dėmesio inžineriją“ traktuoti kaip produkto atsakomybės kategoriją.
Kodėl platformos bijo prisiekusiųjų teismo
Ataskaitoje pažymima, kad tikimasi, jog teismo metu bus iškelti vidiniai dokumentai ir įrodymai.
Platformos požiūriu, bandymai yra rizikingi, nes:
- Atradimas gali atskleisti vidinius vartotojų gerovės tyrimus
- el. laiškai ir produktų atmintinės gali atskleisti kompromisus („augimas ir saugumas“)
- Vadovai gali būti priversti liudyti spaudžiami
Net jei platforma mano, kad gali laimėti teisinius sprendimus, prisiekusiųjų teismo procesas yra nenuspėjamas ir kenkia reputacijai.
Štai kodėl sudaromi susitarimai ir kodėl įmonės stengiasi susiaurinti bylas, kol jos nepasiekia prisiekusiųjų teismo.
Priešingas argumentas: priežastinį ryšį sunku įrodyti
Atsakovės teigia, kad įrodymai nepatvirtina, jog jos padarė tariamą žalą.
Tai rimtas prieštaravimas. Psichikos sveikata yra daugiafaktorinė:
- individuali psichologija
- šeimos aplinka
- neprisijungus prie socialinės dinamikos
- platesnė kultūra
Taigi ieškovams kyla didelis iššūkis:
- įrodant ne tik koreliaciją („intensyvus socialinis vartojimas vyksta kartu su nerimu“), bet ir priežastinį ryšį („šis dizaino sprendimas iš esmės prisidėjo prie šios žalos“).
Ataskaitoje cituojamas teisės profesorius teigia, kad pralaimėjimas šiose bylose gali kelti egzistencines grėsmes įmonėms, nes jei atsivers teisinės durys, atsakomybė greitai išplis milijonams vartotojų.
Kodėl „priklausomybę sukeliantys algoritmai“ tėra tik retorika
Platformos optimizuojamos įsitraukimui, nes įsitraukimas skatina:
- reklamos pajamos
- kūrėjų ekosistemos sveikata
- išlaikymas
Toks optimizavimas dažnai atliekamas taip:
- reitingavimo modeliai, kurie prognozuoja, kas jus pritraukia prie žiūrėjimo
- grįžtamojo ryšio kilpos, kurios mokosi iš jūsų elgesio
- greitas sąsajos pakeitimų A/B testavimas
Niekas iš to nėra savaime kenkėjiška. Tačiau tai sukuria paskatų struktūrą, kurioje „praleistas laikas“ gali tapti pagrindiniu veiksniu.
Kai ši sistema taikoma jauniems vartotojams, kurie gali turėti mažiau išvystytą impulsyvumo kontrolę, kyla klausimas: ar platformos turėtų turėti didesnę rūpestingumo pareigą?
Ką Meta (ir kiti) greičiausiai ginčys
BBC ataskaitoje cituojama „Meta“, kad bendrovė įdiegė dešimtis įrankių, skirtų saugesnei paauglių aplinkai kurti.
Tokiais atvejais platformos dažnai pabrėžia:
- tėvų kontrolė
- paauglių saugos nustatymai
- ekrano laiko įrankiai
- turinio filtrai
Tos priemonės yra svarbios, tačiau jos taip pat kelia praktinį klausimą: ar tai numatytosios, ar pasirenkamos nuostatos, paslėptos meniu?
Saugos priemonė, kuri egzistuoja, bet retai naudojama, reikšmingai nekeičia rezultatų.
Pasaulinė tendencija: vyriausybės pereina prie „rūpestingumo pareigos“ mąstymo
Ataskaitoje atkreipiamas dėmesys į didėjantį dėmesį visame pasaulyje ir minimi politikos žingsniai:
- Australijoje uždrausta naudotis socialiniais tinklais jaunesniems nei 16 metų asmenims
- signalai, kuriais gali sekti JK
Visose šalyse pastebimas aiškus pokytis:
- iš diskusijų „žodžio laisvė vs. moderavimas“
- link diskusijų apie „produktų saugą, vaikų apsaugą ir sisteminę riziką“
Tai analogiška tam, kaip buvo reguliuojamos kitos pramonės šakos:
- automobiliai gavo saugos diržus ir susidūrimo standartus
- maisto saugos taisyklės
- finansinės informacijos atskleidimo reikalavimai
Dabar internetas traktuojamas kaip aplinka, kurią galima padaryti saugesnę projektuojant.
Ką praktiškai galėtų reikšti „saugesnis dizainas“
Jei teismai ir reguliavimo institucijos ir toliau judės šia kryptimi, tikėtini rezultatai bus tokie:
Naudingas palyginimas yra saugos diržai: tikslas nebuvo uždrausti automobilius; tikslas buvo sumažinti nuspėjamos žalos tikimybę taikant dizaino standartus. Socialinės platformos gali susidurti su panašia evoliucija – dizaino lūkesčiai laikui bėgant tampa įprasti.
1) Griežtesni paauglių numatytieji įsipareigojimai
Užuot prašius šeimų konfigūruoti saugumą, platformos gali būti įpareigotos pateikti saugesnius numatytuosius nustatymus:
- riboti pranešimai
- ribotas rekomendacijų intensyvumas
- laiku pagrįsti raginimai ir pertraukos
2) Didelės rizikos elementų trintis
Kai kurie įsitraukimo mechanizmai gali susidurti su trikdžiais:
- automatinio paleidimo apribojimai
- Klausimai „ar tikrai?“
- laiko apribojimai
3) Didesnis skaidrumas
Platformoms gali reikėti paaiškinti:
- kaip algoritmai reitinguoja turinį
- kokie signalai naudojami
- kaip vertinamas saugumas
4) Įrodymų standartai
Tikimasi, kad įmonės parodys:
- vidiniai gerovės vertinimai
- švelninimo planai
- stebėsena ir auditai
Rizika: nenumatytos pasekmės ir neapgalvotas reguliavimas
Ne visos intervencijos veikia.
Pernelyg griežtas reguliavimas gali:
- nepalankioje padėtyje mažesnės platformos, kurios negali sau leisti atitikties reikalavimų
- sumažinti vartotojo autonomiją
- stumti paauglius į mažiau reglamentuojamus interneto kampelius
Taigi politikos iššūkis yra nukreipti dėmesį į žalingiausias dizaino paskatas neužšaldant inovacijų.
Ką stebėti toliau (signalai, kad šis teisinis pokytis yra realus)
-
Vis daugiau atradimų tampa vieši
Jei vidiniai dokumentai tampa vieši, tai pagreitina reguliavimą ir bylinėjimąsi. -
Vadovai liudija
Garsūs liudijimai (pvz., Zuckerbergo) daro šias bylas populiarias. -
Susitarimai ir nuosprendžiai
Susitarimai rodo rizikos vengimą; nuosprendžiai sukuria precedentą. -
Paauglių numatytieji pakeitimai
Jei platformos preventyviai koreguoja numatytuosius nustatymus, tai ženklas, kad jos tikisi, jog spaudimas išliks. -
Ieškiniai dėl kopijavimo
Šeimos, mokyklų rajonai ir valstijos pateikia lygiagrečius ieškinius, taip sukurdamos kaupiamąją riziką.
Esmė
„TikTok“ susitarimas yra taktinis žingsnis, tačiau strateginė istorija yra platesnė: teismai ir vyriausybės vis labiau nori nagrinėti socialinę žiniasklaidą kaip produktą, kuris gali pakenkti dėl savo dizaino.
Jei ši teisinė teorija ir toliau įgaus pagreitį, „platformų era“ vėl keisis – nuo augimo, vykdomo optimizuojant įsitraukimą, prie augimo, apriboto saugumo įsipareigojimais ir didesne atskaitomybe.
Šaltiniai
- BBC naujienos (technologijos):https://www.bbc.com/news/articles/c24g8v6qr1mo?at_medium=RSS&at_campaign=rss