Περίληψη:Η Google συμφώνησε να πληρώσει68 εκατομμύρια δολάριαγια να διευθετήσει μια αγωγή που ισχυριζόταν ότι ο Βοηθός Google κατέγραφε ιδιωτικές συνομιλίες αφού ενεργοποιήθηκε ακούσια. Η Google αρνήθηκε κάθε αδίκημα στην κατάθεση συμβιβασμού, λέγοντας ότι επιδίωξε να αποφύγει τη δικαστική διαμάχη.
Η ιστορία έχει σημασία επειδή οι φωνητικοί βοηθοί βρίσκονται στο μεταίχμιο μεταξύ άνεσης και επιτήρησης. Έχουν σχεδιαστεί για να ακούν μια λέξη αφύπνισης, αλλά όταν τα συστήματα που «ακούνε πάντα» παρουσιάζουν σφάλματα, το αποτέλεσμα δεν είναι απλώς ένα σφάλμα - είναι ένα...αποτυχία εμπιστοσύνης.
Τι ισχυρίζεται η αγωγή (πρώτα τα γεγονότα)
Από το ρεπορτάζ του BBC:
- Η Google συμφώνησε να πληρώσει68 εκατομμύρια δολάρια (51 εκατομμύρια λίρες)για να διευθετηθεί η υπόθεση.
- Οι ενάγοντες ισχυρίστηκαν ότι ο Βοηθός Google κατέγραψε συνομιλίες αφούακούσια ενεργοποιημένο.
- Οι ενάγοντες ισχυρίστηκαν ότι οι ηχογραφήσεις κοινοποιήθηκαν σε διαφημιζόμενους για να επιτραπεί η προβολή στοχευμένων διαφημίσεων.
- Η Google αρνήθηκε οποιαδήποτε αδικοπραγία στην κατάθεση συμβιβασμού και δήλωσε ότι αποφεύγει τη δικαστική διαμάχη.
- Ο Βοηθός Google έχει σχεδιαστεί για να ακούει σε κατάσταση αναμονής μέχρι να ακούσει μια φράση αφύπνισης όπως "Hey Google".
- Όταν ενεργοποιηθεί, ο ήχος μπορεί να καταγραφεί και να σταλεί στους διακομιστές της Google για ανάλυση.
- Στους δικαιούχους μπορούν να περιλαμβάνονται κάτοχοι συσκευών Google που χρονολογούνται απόΜάιος 2016.
- Ένας δικαστής πρέπει να εγκρίνει τον συμβιβασμό της ομαδικής αγωγής. Οι δικηγόροι των εναγόντων μπορούν να ζητήσουν έως και το ένα τρίτο των αμοιβών.
Η έκθεση αναφέρει επίσης έναν παρόμοιο διακανονισμό για την Siri που αφορά την Apple.
Η τεχνική πραγματικότητα: πώς συμβαίνει η «τυχαία ενεργοποίηση»
Τα συστήματα Wake-word είναι ατελή επειδή λειτουργούν σε θορυβώδη περιβάλλοντα:
- Τηλεόραση και ραδιόφωνο
- επικαλυπτόμενες συνομιλίες
- προφορές και παραλλαγές ομιλίας
- θόρυβος υποβάθρου
Λειτουργούν επίσης υπό περιορισμούς που αυξάνουν τον κίνδυνο ψευδούς ενεργοποίησης:
- τσιπ χαμηλής ισχύος που πρέπει να ακούν συνεχώς
- απαιτήσεις καθυστέρησης (πρέπει να ανταποκρίνεται άμεσα)
- σύντομες φράσεις αφύπνισης που μπορούν να συγχέονται με την κανονική ομιλία
Η συσκευή προσπαθεί να ανιχνεύσει μια σύντομη φράση με πολύ χαμηλή καθυστέρηση. Τα ψευδώς θετικά αποτελέσματα προκύπτουν όταν το μοντέλο πιστεύει ότι άκουσε κάτι αρκετά κοντά στη λέξη αφύπνισης.
Από άποψη σχεδιασμού, το βασικό πρόβλημα είναι:
- Τα ψευδώς θετικά αποτελέσματα δημιουργούν βλάβη στην ιδιωτικότητα (καταγραφή όταν ο χρήστης δεν το είχε σκοπό)
- Τα ψευδώς αρνητικά αποτελέσματα δημιουργούν βλάβη στη χρηστικότητα (ο βοηθός δεν ανταποκρίνεται όταν προβλέπεται)
Κάθε βοηθός φωνής κάνει εναλλαγή μεταξύ αυτών των δύο.
Γιατί αυτή είναι μια ιστορία απορρήτου, όχι απλώς μια ιστορία διακανονισμού
Μια πληρωμή διακανονισμού δεν σας λέει εάν το σύστημα «κατασκόπευε». Σας λέει ότι η εταιρεία έκρινε ότι υπήρχε κίνδυνος δικαστικής διαμάχης.
Αλλά το ευρύτερο μάθημα περί απορρήτου είναι απλό:
Εάν υπάρχει πάντα διαθέσιμο μικρόφωνο, το σύστημα χρειάζεται ισχυρές εγγυήσεις σχετικά με το πότε καταγράφεται ο ήχος, πού υποβάλλεται σε επεξεργασία, πώς αποθηκεύεται και ποιος έχει πρόσβαση σε αυτόν.
Η εμπιστοσύνη εξαρτάται από κάτι περισσότερο από τη γλώσσα της πολιτικής. Εξαρτάται από την αρχιτεκτονική.
Η αρχιτεκτονική έχει σημασία: on-device vs cloud
Οι φωνητικοί βοηθοί συνήθως περιλαμβάνουν δύο στάδια:
-
Ανίχνευση λέξεων αφύπνισης
Συχνά εκτελείται στη συσκευή για ταχύτητα και προστασία απορρήτου. -
Επεξεργασία εντολών
Συχνά εκτελείται στο cloud για δυνατότητες (κατανόηση γλώσσας, αναζήτηση, ενσωματώσεις).
Ένας βασικός μοχλός απορρήτου είναι το πόση επεξεργασία μπορεί να παραμείνει στη συσκευή.
- Όσο περισσότερο παραμένει τοπικό, τόσο λιγότερες τυχαίες ενεργοποιήσεις μεταδίδουν ήχο.
- Όσο περισσότερα δεδομένα πηγαίνουν στο cloud, τόσο μεγαλύτερη είναι η επιφάνεια κινδύνου (αποθήκευση, πρόσβαση, παραβιάσεις, κακή χρήση).
Οι σύγχρονες συσκευές προσπαθούν όλο και περισσότερο να διατηρούν περισσότερους υπολογισμούς τοπικά, αλλά η πίεση στις δυνατότητες ωθείται προς το cloud.
Τι σημαίνει συνήθως η φράση «κοινή χρήση με διαφημιζόμενους»
Ο ισχυρισμός στην υπόθεση είναι ότι οι ηχογραφήσεις κοινοποιήθηκαν σε διαφημιστές για στόχευση.
Σε πολλά συστήματα διαφημίσεων, η «κοινή χρήση» μπορεί να σημαίνει διαφορετικά πράγματα:
- άμεση κοινοποίηση ακατέργαστου ήχου (πολύ σοβαρό)
- κοινή χρήση μεταγραφών ή εξαγόμενων σημάτων
- χρήση δεδομένων εσωτερικά για τη δημιουργία προφίλ ενδιαφερόντων
Το πρακτικό συμπέρασμα για τους χρήστες είναι: ακόμη και αν η εταιρεία λέει «δεν στέλνουμε ήχο ενώ είμαστε σε κατάσταση αναμονής», τη στιγμή που ενεργοποιείται μια ενεργοποίηση, τα δεδομένα ενδέχεται να υποβληθούν σε επεξεργασία και να διατηρηθούν σύμφωνα με εσωτερικούς κανόνες.
Έτσι, το πραγματικό ερώτημα σχετικά με την ιδιωτικότητα γίνεται το εξής:
- Πώς αντιμετωπίζονται οι τυχαίες ηχογραφήσεις;
- διαγράφονται γρήγορα;
- Μπορούν οι χρήστες να τα ελέγξουν ή να τα καταργήσουν;
Γιατί οι ομαδικές αγωγές έχουν σημασία: κλίμακα και κίνητρα
Οι ομαδικές αγωγές υπάρχουν επειδή οι μεμονωμένοι χρήστες δεν μπορούν ρεαλιστικά να μηνύσουν για μικρές ζημιές.
Αλλά ένα σφάλμα του φωνητικού βοηθού έχει τεράστια κλίμακα:
- εκατομμύρια συσκευές
- χρόνια χρήσης
- ευαίσθητο περιεχόμενο που ενδεχομένως έχει καταγραφεί
Αυτό δημιουργεί ισχυρά κίνητρα για τις εταιρείες να συμβιβαστούν αντί να ρισκάρουν:
- μεγάλες ζημιές
- ανακάλυψη που αποκαλύπτει εσωτερικά έγγραφα
- βλάβη στη φήμη
Ο παραλληλισμός με τον διακανονισμό της Apple για το Siri
Το ρεπορτάζ του BBC αναφέρει ότι η Apple κατέβαλε 95 εκατομμύρια δολάρια για να διευθετήσει μια παρόμοια αξίωση.
Το μοτίβο είναι μεγαλύτερο από μία εταιρεία:
- Οι φωνητικοί βοηθοί είναι πλέον βασικό στοιχείο των καταναλωτικών συσκευών
- Τα πάντα ενεργά μικρόφωνα είναι κανονικοποιημένα
- οι αστοχίες είναι αναπόφευκτες
Αυτό σημαίνει ότι η προστασία της ιδιωτικής ζωής εκ κατασκευής δεν είναι προαιρετική. Είναι το ίδιο το προϊόν.
Τι μπορούν να κάνουν οι χρήστες (πρακτικά βήματα)
Εάν χρησιμοποιείτε φωνητικούς βοηθούς, ορισμένα πρακτικά μέτρα μειώνουν τον κίνδυνο:
-
Έλεγχος και διαγραφή ιστορικού φωνής
Τα περισσότερα οικοσυστήματα προσφέρουν έναν πίνακα ελέγχου όπου μπορείτε να διαγράψετε εγγραφές. -
Απενεργοποιήστε την φωνητική ενεργοποίηση όταν δεν τη χρειάζεστε
Η χρήση ενός κουμπιού για την ενεργοποίηση ενός βοηθού μειώνει τις τυχαίες ενεργοποιήσεις. -
Περιορισμός δικαιωμάτων μικροφώνου
Σε κινητό, περιορίστε ποιες εφαρμογές έχουν πρόσβαση στο μικρόφωνο. -
Να είστε προσεκτικοί γύρω από ευαίσθητες συζητήσεις
Εάν συζητάτε οικονομικά, ιατρικά ή νομικά θέματα, σκεφτείτε να απενεργοποιήσετε προσωρινά τις φωνητικές λειτουργίες.
Αυτές δεν είναι τέλειες λύσεις, αλλά μεταθέτουν τον έλεγχο πίσω στον χρήστη.
Σε τι πρέπει να επικεντρωθούν οι ρυθμιστικές αρχές και οι σχεδιαστές προϊόντων
Αν ο στόχος είναι η μείωση της βλάβης, τα πιο αποτελεσματικά σημεία πίεσης είναι:
1) Διαφάνεια και δυνατότητα ελέγχου
Οι χρήστες θα πρέπει να μπορούν να δουν:
- πότε έγινε η ενεργοποίηση
- τι καταγράφηκε
- πού στάλθηκε
- περίοδος διατήρησης
2) Ισχυρότερες αθετήσεις
Ο κίνδυνος τυχαίας ηχογράφησης είναι χαμηλότερος όταν:
- Το ιστορικό φωνής είναι απενεργοποιημένο από προεπιλογή
- τα παράθυρα διατήρησης είναι σύντομα
- η διαγραφή είναι απλή
3) Τεχνικές διασφαλίσεις
- υψηλότερα όρια για την ανίχνευση λέξεων αφύπνισης
- επαλήθευση στη συσκευή πριν από τη μεταφόρτωση στο cloud
- τοπική προσωρινή αποθήκευση που απορρίπτεται εκτός εάν επιβεβαιωθεί
Τι να παρακολουθήσετε στη συνέχεια
-
Έγκριση διακανονισμού και διαδικασία αξιώσεων
Πώς λειτουργεί η πληρωμή και ποιοι είναι επιλέξιμοι. -
Αλλαγές προϊόντων
Προσαρμόζει η Google τις προεπιλογές, τη διατήρηση ή τους πίνακες ελέγχου; -
Ρυθμιστική δράση
Οι ρυθμιστικές αρχές απορρήτου ενδέχεται να χρησιμοποιήσουν αγωγές όπως αυτή για να δικαιολογήσουν αυστηρότερους κανόνες. -
Στροφή της βιομηχανίας προς την τεχνητή νοημοσύνη στις συσκευές
Καθώς τα τσιπ βελτιώνονται, περισσότεροι βοηθοί μπορούν να λειτουργούν τοπικά, μειώνοντας την έκθεση σε δεδομένα.
Συμπέρασμα
Αυτός ο διακανονισμός αποτελεί υπενθύμιση ότι η ευκολία της «συνεχούς ακρόασης» έχει ένα κόστος: τα συστήματα μερικές φορές θα παρουσιάζουν σφάλματα και, όταν συμβαίνει αυτό, η ιδιωτικότητα μετατρέπεται σε αποτυχία προϊόντος.
Οι μακροπρόθεσμοι νικητές στους φωνητικούς βοηθούς δεν θα είναι οι εταιρείες με το πιο θορυβώδες μάρκετινγκ. Θα είναι οι εταιρείες που μπορούν να αποδείξουν, τεχνικά και με διαφάνεια, ότι το σύστημα ακούει μόνο όταν υποτίθεται ότι πρέπει — και ότι οι τυχαίες καταγραφές αντιμετωπίζονται με ασφάλεια.
Πηγές
- BBC News (Τεχνολογία):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC News (Τεχνολογία) (αναφορά σε παρόμοιο διακανονισμό Siri):https://www.bbc.co.uk/news/articles/cr4rvr495rgo