Περίληψη:Το TikTok κατέληξε σε εμπιστευτικό συμβιβασμό λίγες ώρες πριν από την επιλογή ενόρκων σε μια υπόθεση «εθισμού στα μέσα κοινωνικής δικτύωσης» στις ΗΠΑ — αποφεύγοντας να γίνει κατηγορούμενος σε αυτό που οι δικηγόροι περιγράφουν ως μια δίκη-ορόσημο. Η μεγαλύτερη ιστορία δεν είναι ένας συμβιβασμός. Είναι μια αλλαγή στον τρόπο με τον οποίο τα δικαστήρια καλούνται να βλέπουν τις πλατφόρμες κοινωνικής δικτύωσης: όχι απλώς ως ουδέτερους οικοδεσπότες περιεχομένου χρηστών, αλλά ως εταιρείες που δημιουργούν...επιλογές σχεδιασμού(αλγόριθμοι, ειδοποιήσεις και βρόχοι αλληλεπίδρασης) που ενδέχεται να δημιουργήσουν προβλέψιμες βλάβες.
Αυτή η περίπτωση έχει σημασία επειδή στοχεύει στο επίπεδο της «αρχιτεκτονικής αφοσίωσης» — στον τρόπο με τον οποίο δημιουργούνται και βελτιστοποιούνται οι ροές — όχι μόνο σε ό,τι δημοσιεύουν οι χρήστες.
Τι συνέβη (τα σαφή γεγονότα)
Από το ρεπορτάζ του BBC:
- Το TikTok συμφώνησε να αποφύγει τη συμμετοχή του σε μια μεγάλη δίκη για εθισμό στα μέσα κοινωνικής δικτύωσης στις ΗΠΑ, λίγες ώρες πριν από την επιλογή των ενόρκων στην Καλιφόρνια.
- Η ενάγουσα είναι μια 20χρονη γυναίκα, η οποία κατονομάζεται ωςKGM.
- Ισχυρίζεται ότι ο σχεδιασμός των αλγορίθμων των πλατφορμών την άφησε εθισμένη στα μέσα κοινωνικής δικτύωσης και βλάπτει την ψυχική της υγεία.
- Το Νομικό Κέντρο για τα Θύματα των Κοινωνικών Μέσων Ενημέρωσης δήλωσε ότι τα μέρη κατέληξαν σε «φιλική επίλυση». Οι όροι είναι εμπιστευτικοί.
- Άλλες μεγάλες πλατφόρμες κατονομάζονται επίσης στην ευρύτερη δίκη (π.χ., Meta· η μητρική εταιρεία του YouTube, Google, αναφέρεται ως εναγόμενη ομάδα).
Ο διακανονισμός του TikTok αφαιρεί έναν παίκτη από τη δικαστική διαμάχη, αλλά δεν τερματίζει τη νομική προσπάθεια. Η δίκη -και η νομική θεωρία πίσω από αυτήν- συνεχίζεται.
Γιατί πρόκειται για υπόθεση «ευθύνης σχεδιασμού» και όχι για υπόθεση «κακού περιεχομένου»
Επί χρόνια, οι τεχνολογικές πλατφόρμες βασίζονταν στο Άρθρο 230 στις ΗΠΑ (και σε παρόμοια νομικά πλαίσια αλλού) για να υποστηρίξουν ότι δεν φέρουν ευθύνη για το τι δημοσιεύουν τρίτα μέρη.
Αυτή η περίπτωση είναι διαφορετική επειδή εστιάζει στα χαρακτηριστικά του προϊόντος και στις επιλογές σχεδιασμού που διαμορφώνουν τη συμπεριφορά των χρηστών, όπως:
- αλγόριθμοι προτάσεων (ροές τύπου "Για εσάς")
- αυτόματη αναπαραγωγή και άπειρη κύλιση
- ειδοποιήσεις συντονισμένες για εκ νέου αλληλεπίδραση
- σερί, σήματα και προτροπές αφοσίωσης
Το επιχείρημα είναι ουσιαστικά:
Ο σχεδιασμός της πλατφόρμας είναι ένα ενεργό σύστημα που μπορεί να οδηγήσει σε καταναγκαστική χρήση —ειδικά από ανηλίκους— και οι πλατφόρμες θα πρέπει να είναι υπεύθυνες για τις προβλέψιμες συνέπειες.
Γι' αυτό η υπόθεση δημιουργεί ενδεχομένως προηγούμενο: ζητά από τους ενόρκους και τους δικαστές να αντιμετωπίσουν τη «μηχανική προσοχής» ως κατηγορία παρόμοια με την ευθύνη προϊόντος.
Γιατί οι πλατφόρμες φοβούνται μια δίκη με ενόρκους
Η έκθεση σημειώνει ότι η δίκη αναμένεται να φέρει στην επιφάνεια εσωτερικά έγγραφα και αποδεικτικά στοιχεία.
Από την οπτική γωνία μιας πλατφόρμας, οι δοκιμές είναι επικίνδυνες επειδή:
- η ανακάλυψη μπορεί να αποκαλύψει εσωτερική έρευνα σχετικά με την ευημερία των χρηστών
- Τα email και τα σημειώματα προϊόντων μπορούν να αποκαλύψουν συμβιβασμούς («ανάπτυξη έναντι ασφάλειας»)
- στελέχη μπορεί να αναγκαστούν να καταθέσουν υπό πίεση
Ακόμα κι αν μια πλατφόρμα πιστεύει ότι μπορεί να κερδίσει με βάση το νόμο, μια δίκη με ενόρκους είναι απρόβλεπτη και βλάπτει τη φήμη της.
Γι' αυτό συμβαίνουν οι συμβιβασμοί και γι' αυτό οι εταιρείες προσπαθούν να περιορίσουν τις υποθέσεις πριν φτάσουν σε δικαστήριο ενόρκων.
Το αντίθετο επιχείρημα: η αιτιώδης συνάφεια είναι δύσκολο να αποδειχθεί
Οι εναγόμενες εταιρείες υποστηρίζουν ότι τα αποδεικτικά στοιχεία δεν αποδεικνύουν ότι προκάλεσαν φερόμενες ζημιές.
Αυτό είναι ένα σοβαρό αντίλογο. Η ψυχική υγεία είναι πολυπαραγοντική:
- ατομική ψυχολογία
- οικογενειακό περιβάλλον
- κοινωνική δυναμική εκτός σύνδεσης
- ευρύτερη κουλτούρα
Έτσι, οι ενάγοντες αντιμετωπίζουν υψηλό βαθμό προσφυγής:
- αποδεικνύοντας όχι μόνο τη συσχέτιση («η βαριά κοινωνική χρήση συμβαίνει παράλληλα με το άγχος»), αλλά και την αιτιώδη συνάφεια («αυτή η απόφαση σχεδιασμού συνέβαλε ουσιαστικά σε αυτή τη βλάβη»).
Ένας καθηγητής νομικής που αναφέρεται στην έκθεση υποδηλώνει ότι η ήττα σε αυτές τις υποθέσεις θα μπορούσε να θέσει σε κίνδυνο την ύπαρξη των εταιρειών — διότι αν ανοίξει η νομική πόρτα, η ευθύνη κλιμακώνεται γρήγορα σε εκατομμύρια χρήστες.
Γιατί οι «εθιστικοί αλγόριθμοι» δεν είναι απλώς ρητορική
Οι πλατφόρμες βελτιστοποιούν την αλληλεπίδραση επειδή η αλληλεπίδραση οδηγεί:
- έσοδα από διαφημίσεις
- υγεία οικοσυστήματος δημιουργού
- κράτηση
Αυτή η βελτιστοποίηση συχνά εφαρμόζεται ως εξής:
- μοντέλα κατάταξης που προβλέπουν τι σας κρατάει σε εγρήγορση
- βρόχοι ανατροφοδότησης που μαθαίνουν από τη συμπεριφορά σας
- γρήγορη δοκιμή A/B αλλαγών στη διεπαφή
Τίποτα από αυτά δεν είναι εγγενώς κακόβουλο. Αλλά δημιουργεί μια δομή κινήτρων όπου ο «χρόνος που αφιερώνεται» μπορεί να γίνει ο πόλος έλξης.
Όταν το σύστημα αυτό εφαρμόζεται σε νεαρούς χρήστες —οι οποίοι μπορεί να έχουν λιγότερο ανεπτυγμένο έλεγχο των παρορμήσεων— εγείρεται το ερώτημα: θα πρέπει οι πλατφόρμες να έχουν αυξημένα καθήκοντα φροντίδας;
Τι πιθανότατα θα υποστηρίξει ο Meta (και άλλοι)
Το ρεπορτάζ του BBC αναφέρει ότι η Meta έχει εισαγάγει δεκάδες εργαλεία για την υποστήριξη ενός ασφαλέστερου περιβάλλοντος για τους εφήβους.
Σε περιπτώσεις όπως αυτή, οι πλατφόρμες συχνά δίνουν έμφαση:
- γονικοί έλεγχοι
- ρυθμίσεις ασφάλειας εφήβων
- εργαλεία χρόνου οθόνης
- φίλτρα περιεχομένου
Αυτά τα εργαλεία έχουν σημασία, αλλά εγείρουν επίσης ένα πρακτικό ερώτημα: είναι προεπιλογές ή προαιρετικές ρυθμίσεις που κρύβονται σε μενού;
Ένα εργαλείο ασφαλείας που υπάρχει αλλά σπάνια χρησιμοποιείται δεν αλλάζει ουσιαστικά τα αποτελέσματα.
Η παγκόσμια τάση: οι κυβερνήσεις στρέφονται προς τη λογική του «καθήκοντος φροντίδας»
Η έκθεση επισημαίνει τον αυξανόμενο έλεγχο παγκοσμίως και αναφέρεται σε πολιτικές κινήσεις:
- Απαγόρευση των μέσων κοινωνικής δικτύωσης στην Αυστραλία για άτομα κάτω των 16 ετών
- σημάδια που μπορεί να ακολουθήσει το Ηνωμένο Βασίλειο
Σε όλες τις χώρες, υπάρχει μια σαφής μετατόπιση:
- από τις συζητήσεις «ελευθερία λόγου έναντι μετριοπάθειας»
- προς τις συζητήσεις για την «ασφάλεια των προϊόντων, την προστασία των παιδιών και τον συστημικό κίνδυνο»
Αυτό είναι ανάλογο με τον τρόπο που ρυθμίζονταν άλλοι κλάδοι:
- Τα αυτοκίνητα απέκτησαν ζώνες ασφαλείας και πρότυπα σύγκρουσης
- κανόνες ασφάλειας τροφίμων που αποκτήθηκαν
- απαιτήσεις γνωστοποίησης χρηματοοικονομικών αποτελεσμάτων
Το διαδίκτυο αντιμετωπίζεται πλέον ως ένα περιβάλλον που μπορεί να γίνει ασφαλέστερο μέσω σχεδιασμού.
Τι θα μπορούσε να σημαίνει στην πράξη η φράση «ασφαλέστερη εκ σχεδιασμού»
Εάν τα δικαστήρια και οι ρυθμιστικές αρχές συνεχίσουν να κινούνται προς αυτή την κατεύθυνση, τα πιθανά αποτελέσματα περιλαμβάνουν:
Μια χρήσιμη σύγκριση είναι οι ζώνες ασφαλείας: ο στόχος δεν ήταν να απαγορευτούν τα αυτοκίνητα. Ήταν να μειωθεί η πιθανότητα προβλέψιμης βλάβης μέσω προτύπων σχεδιασμού. Οι πλατφόρμες κοινωνικής δικτύωσης ενδέχεται να αντιμετωπίσουν μια παρόμοια εξέλιξη - προσδοκίες σχεδιασμού που γίνονται φυσιολογικές με την πάροδο του χρόνου.
1) Ισχυρότερες προεπιλογές για εφήβους
Αντί να ζητούν από τις οικογένειες να διαμορφώσουν την ασφάλεια, οι πλατφόρμες ενδέχεται να υποχρεούνται να παρέχουν ασφαλέστερες προεπιλογές:
- περιορισμένες ειδοποιήσεις
- περιορισμένη ένταση συστάσεων
- προτροπές και διαλείμματα βάσει χρόνου
2) Τριβή για χαρακτηριστικά υψηλού κινδύνου
Ορισμένοι μηχανισμοί εμπλοκής θα μπορούσαν να αντιμετωπίσουν τριβές:
- περιορισμοί αυτόματης αναπαραγωγής
- «Είσαι σίγουρος;» προτροπές
- χρονικά όρια
3) Μεγαλύτερη διαφάνεια
Οι πλατφόρμες ενδέχεται να χρειαστεί να εξηγήσουν:
- πώς οι αλγόριθμοι κατατάσσουν το περιεχόμενο
- ποια σήματα χρησιμοποιούνται
- πώς αξιολογείται η ασφάλεια
4) Πρότυπα αποδεικτικών στοιχείων
Οι εταιρείες αναμένεται να επιδείξουν:
- αξιολογήσεις εσωτερικής ευεξίας
- σχέδια μετριασμού
- παρακολούθηση και έλεγχοι
Ο κίνδυνος: ακούσιες συνέπειες και άκαμπτη ρύθμιση
Δεν είναι όλες οι παρεμβάσεις αποτελεσματικές.
Η υπερβολικά αυστηρή ρύθμιση μπορεί:
- θέτουν σε μειονεκτική θέση τις μικρότερες πλατφόρμες που δεν έχουν την οικονομική δυνατότητα συμμόρφωσης
- μείωση της αυτονομίας του χρήστη
- ωθούν τους εφήβους σε λιγότερο ρυθμιζόμενες γωνιές του διαδικτύου
Επομένως, η πρόκληση πολιτικής είναι να στοχεύσουμε τα πιο επιβλαβή κίνητρα σχεδιασμού χωρίς να παγώσουμε την καινοτομία.
Τι να παρακολουθήσετε στη συνέχεια (σημαίνει ότι αυτή η νομική αλλαγή είναι πραγματική)
-
Περισσότερες ανακαλύψεις γίνονται γνωστές
Εάν τα εσωτερικά έγγραφα δημοσιοποιηθούν, επιταχύνεται η ρύθμιση και οι αγωγές. -
Στελέχη που καταθέτουν
Οι μαρτυρίες υψηλού προφίλ (π.χ. του Ζάκερμπεργκ) καθιστούν αυτές τις υποθέσεις δημοφιλείς. -
Συμβιβασμοί έναντι ετυμηγοριών
Οι διακανονισμοί σηματοδοτούν την αποφυγή κινδύνου· οι ετυμηγορίες δημιουργούν προηγούμενο. -
Αλλαγές στις προεπιλεγμένες ρυθμίσεις για εφήβους
Εάν οι πλατφόρμες προσαρμόσουν τις προεπιλογές προληπτικά, αυτό είναι ένα σημάδι ότι αναμένουν ότι η πίεση θα συνεχιστεί. -
Αγωγές μίμησης
Οι οικογένειες, οι σχολικές περιφέρειες και οι πολιτείες υποβάλλουν παράλληλες αξιώσεις, δημιουργώντας σωρευτικό κίνδυνο.
Συμπέρασμα
Ο διακανονισμός του TikTok είναι μια τακτική κίνηση, αλλά η στρατηγική ιστορία είναι μεγαλύτερη: τα δικαστήρια και οι κυβερνήσεις είναι όλο και περισσότερο πρόθυμα να εξετάσουν τα μέσα κοινωνικής δικτύωσης ως προϊόν που μπορεί να προκαλέσει βλάβη μέσω του σχεδιασμού του.
Εάν αυτή η νομική θεωρία συνεχίσει να κερδίζει έδαφος, η «εποχή των πλατφορμών» μετατοπίζεται ξανά — από την ανάπτυξη μέσω της βελτιστοποίησης της εμπλοκής σε μια ανάπτυξη που οριοθετείται από υποχρεώσεις ασφάλειας και ισχυρότερη λογοδοσία.
Πηγές
- BBC News (Τεχνολογία):https://www.bbc.com/news/articles/c24g8v6qr1mo?at_medium=RSS&at_campaign=rss