Rezumat:Google a fost de acord să plătească68 de milioane de dolaripentru a soluționa un proces care susținea că Asistentul Google a înregistrat conversații private după ce a fost declanșat neintenționat. Google a negat orice abatere în depunerea cererii de înțelegere, spunând că a încercat să evite litigiul.
Povestea contează deoarece asistenții vocali se află la granița dintre confort și supraveghere. Sunt concepuți să asculte un cuvânt de trezire, dar atunci când sistemele „care ascultă mereu” dau greș, rezultatul nu este doar o eroare - este o...eșecul încrederii.
Ce susține procesul (faptele mai întâi)
Din reportajul BBC:
- Google a fost de acord să plătească68 de milioane de dolari (51 de milioane de lire sterline)pentru a soluționa cazul.
- Reclamanții au susținut că Asistentul Google a înregistrat conversațiile după ce au fostdeclanșat accidental.
- Reclamanții au susținut că înregistrările au fost partajate cu agenții de publicitate pentru a permite difuzarea de reclame direcționate.
- Google a negat orice abatere în procesul de înțelegere și a declarat că evită litigiile.
- Asistentul Google este conceput să asculte în standby până când aude o frază de activare precum „Hei Google”.
- Când este activată, sunetul poate fi înregistrat și trimis către serverele Google pentru analiză.
- Printre solicitanții eligibili se pot număra proprietarii de dispozitive Google care datează dinMai 2016.
- Un judecător trebuie să aprobe înțelegerea colectivă; avocații reclamanți pot solicita până la o treime din onorariile plătite.
Raportul menționează, de asemenea, o înțelegere similară în cazul Siri care implică Apple.
Realitatea tehnică: cum se întâmplă „activarea accidentală”
Sistemele de tip „veghe” sunt imperfecte deoarece funcționează în medii zgomotoase:
- Televiziune și radio
- conversații suprapuse
- accente și variații de vorbire
- zgomot de fundal
De asemenea, acestea operează sub constrângeri care cresc riscul de declanșare falsă:
- cipuri cu consum redus de energie care trebuie să asculte continuu
- cerințe de latență (trebuie să răspundă imediat)
- fraze scurte de veghe care pot fi confundate cu vorbirea normală
Dispozitivul încearcă să detecteze o frază scurtă cu o latență foarte scăzută. Rezultatele fals pozitive se produc atunci când modelul crede că a auzit ceva suficient de apropiat de cuvântul de activare.
Din punct de vedere al designului, problema principală este:
- fals pozitivele creează daune aduse vieții private (înregistrarea se face atunci când utilizatorul nu a intenționat acest lucru)
- falsele negative creează daune în utilizarea (asistentul nu răspunde atunci când este necesar)
Fiecare asistent vocal face un compromis între aceste două.
De ce este aceasta o poveste despre confidențialitate, nu doar o poveste despre o înțelegere
O despăgubire în urma unei înțelegeri nu vă spune dacă sistemul „spiona”. Vă spune cum a evaluat compania riscul de litigiu.
Însă lecția mai amplă despre confidențialitate este simplă:
Dacă un microfon este întotdeauna disponibil, sistemul are nevoie de garanții solide cu privire la momentul în care este capturat sunetul, unde este procesat, cum este stocat și cine îl poate accesa.
Încrederea depinde mai mult decât de limbajul politicilor. Depinde de arhitectură.
Arhitectura contează: pe dispozitiv vs. cloud
Asistenții vocali implică de obicei două etape:
-
Detectarea cuvintelor de veghe
Adesea rulează pe dispozitiv pentru viteză și confidențialitate. -
Procesarea comenzilor
Adesea rulează în cloud pentru funcționalități (înțelegerea limbajului, căutare, integrări).
O cheie pentru confidențialitate este cât de multă procesare poate rămâne pe dispozitiv.
- Cu cât rămâne mai mult local, cu atât mai puține activări accidentale transmit sunet.
- Cu cât mai multe lucruri ajung în cloud, cu atât mai mare este suprafața de risc (stocare, acces, încălcări, utilizare necorespunzătoare).
Dispozitivele moderne încearcă din ce în ce mai mult să păstreze o mai mare parte a calculelor la nivel local, dar presiunea capacității împinge spre cloud.
Ce înseamnă de obicei „partajat cu agenții de publicitate”
Acuzația în acest caz este că înregistrările au fost partajate cu agenții de publicitate în scopul direcționării.
În multe sisteme publicitare, „partajare” poate însemna diferite lucruri:
- partajare directă a fișierelor audio brute (foarte serios)
- partajarea transcrierilor sau a semnalelor extrase
- utilizarea datelor interne pentru a construi profiluri de interese
Concluzia practică pentru utilizatori este următoarea: chiar dacă firma spune „nu trimitem semnal audio în modul standby”, în momentul în care se declanșează o activare, datele pot fi procesate și păstrate conform regulilor interne.
Așadar, adevărata întrebare legată de confidențialitate devine:
- Cum sunt gestionate înregistrările accidentale?
- se șterg repede?
- utilizatorii le pot audita sau elimina?
De ce contează acțiunile colective: amploarea și stimulentele
Acțiunile colective există deoarece utilizatorii individuali nu pot intenta acțiuni în justiție pentru daune minore.
Dar o eroare legată de asistentul vocal are o amploare uriașă:
- milioane de dispozitive
- ani de utilizare
- conținut sensibil potențial capturat
Aceasta creează stimulente puternice pentru companii să se mulțumească cu ceva, în loc să își asume riscuri:
- daune mari
- descoperire expunând documente interne
- prejudiciu reputațional
Paralela cu înțelegerea Apple cu Siri
Raportul BBC face referire la plata de 95 de milioane de dolari de către Apple pentru a soluționa o cerere similară.
Modelul este mai amplu decât o singură companie:
- Asistenții vocali sunt acum esențiali pentru dispozitivele de consum
- microfoanele mereu pornite sunt normalizate
- rateurile de aprindere sunt inevitabile
Asta înseamnă că respectarea confidențialității prin proiectare nu este opțională. Este vorba despre produs.
Ce pot face utilizatorii (pași practici)
Dacă folosiți asistenți vocali, câteva măsuri practice reduc riscul:
-
Revizuirea și ștergerea istoricului vocal
Majoritatea ecosistemelor oferă un tablou de bord unde puteți șterge înregistrările. -
Dezactivați activarea vocală atunci când nu aveți nevoie de ea
Utilizarea unui buton pentru a activa un asistent reduce declanșările accidentale. -
Limitați permisiunile microfonului
Pe mobil, restricționează ce aplicații pot accesa microfonul. -
Fii atent la conversațiile sensibile
Dacă discutați despre chestiuni financiare, medicale sau juridice, luați în considerare dezactivarea temporară a funcțiilor vocale.
Acestea nu sunt soluții perfecte, dar transferă controlul înapoi către utilizator.
Asupra căror aspecte ar trebui să se concentreze autoritățile de reglementare și designerii de produse
Dacă scopul este de a reduce daunele, cele mai eficiente puncte de presiune sunt:
1) Transparență și auditabilitate
Utilizatorii ar trebui să poată vedea:
- când a avut loc activarea
- ce a fost înregistrat
- unde a fost trimis
- perioadă de păstrare
2) Implicite mai puternice
Riscul de înregistrare accidentală este mai mic atunci când:
- istoricul vocal este dezactivat în mod implicit
- ferestrele de retenție sunt scurte
- ștergerea este simplă
3) Garanții tehnice
- praguri mai ridicate pentru detectarea cuvintelor de veghe
- verificarea pe dispozitiv înainte de încărcarea în cloud
- tamponare locală care este eliminată dacă nu este confirmată
Ce să urmărești în continuare
-
Procesul de aprobare a decontării și de revendicare
Cum funcționează plata și cine este eligibil. -
Modificări ale produsului
Google ajustează setările implicite, retenția sau tablourile de bord? -
Acțiuni de reglementare
Autoritățile de reglementare a confidențialității ar putea folosi procese de acest gen pentru a justifica reguli mai stricte. -
Trecerea industriei către inteligența artificială pe dispozitiv
Pe măsură ce cipurile se îmbunătățesc, mai mulți asistenți pot opera local, reducând expunerea la date.
Concluzie
Această înțelegere este o reamintire a faptului că „ascultarea permanentă” are un cost: sistemele vor funcționa uneori greșit, iar atunci când se întâmplă acest lucru, confidențialitatea devine o defecțiune a produsului.
Câștigătorii pe termen lung în domeniul asistenților vocali nu vor fi companiile cu cel mai zgomotos marketing. Vor fi companiile care pot demonstra, tehnic și transparent, că sistemul ascultă doar atunci când trebuie - și că capturile accidentale sunt gestionate în siguranță.
Surse
- Știri BBC (Tehnologie):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC News (Tehnologie) (se face referire la o înțelegere similară cu Siri):https://www.bbc.co.uk/news/articles/cr4rvr495rgo