Povzetek:Google se je strinjal s plačilom68 milijonov dolarjevda bi poravnal tožbo, v kateri se je trdilo, da je Google Assistant po nenamernem sprožitvi snemal zasebne pogovore. Google je v poravnavi zanikal kakršno koli kršitev in dejal, da se je želel izogniti sodnemu postopku.
Zgodba je pomembna, ker glasovni asistenti stojijo na meji med udobjem in nadzorom. Zasnovani so tako, da poslušajo signal za prebujanje, toda ko sistemi, ki »vedno poslušajo«, ne delujejo pravilno, rezultat ni le napaka – gre za ...neuspeh zaupanja.
Kaj trdi tožba (najprej dejstva)
Iz poročila BBC-ja:
- Google se je strinjal s plačilom68 milijonov dolarjev (51 milijonov funtov)da se zadeva reši.
- Tožniki so trdili, da je Google Assistant snemal pogovore, potem ko je bilnenamerno sprožen.
- Tožniki so trdili, da so bili posnetki deljeni z oglaševalci, da bi omogočili ciljno usmerjene oglase.
- Google je v poravnalni zahtevi zanikal kakršno koli kršitev in dejal, da se izogiba sodnemu postopku.
- Google Assistant je zasnovan tako, da v stanju pripravljenosti posluša, dokler ne zasliši fraze za prebujanje, kot je »Hej Google«.
- Ko je aktivirano, se lahko zvok posname in pošlje na Googlove strežnike za analizo.
- Upravičeni upravičenci so lahko lastniki Googlovih naprav, ki segajo odMaj 2016.
- Sodnik mora odobriti poravnavo v skupinski tožbi; odvetniki tožnikov lahko zahtevajo do ene tretjine stroškov.
Poročilo omenja tudi podobno poravnavo glede Siri, v katero je bil vpleten Apple.
Tehnična realnost: kako pride do "nenamerne aktivacije"
Sistemi budnih besed so nepopolni, ker delujejo v hrupnem okolju:
- TV in radio
- prekrivajoči se pogovori
- naglasi in variacije govora
- hrup v ozadju
Delujejo tudi pod omejitvami, ki povečujejo tveganje lažnega sprožilca:
- čipi z nizko porabo energije, ki morajo neprekinjeno poslušati
- zahteve glede zakasnitve (odzvati se mora takoj)
- kratke fraze za prebujanje, ki jih je mogoče zamenjati z običajnim govorom
Naprava poskuša zaznati kratko besedno zvezo z zelo nizko zakasnitvijo. Do lažno pozitivnih rezultatov pride, ko model meni, da je slišal nekaj dovolj blizu besedi, ki se je pojavila v živo.
Z vidika oblikovanja je osrednji problem:
- lažno pozitivni rezultati povzročajo škodo zasebnosti (snemanje, ko uporabnik tega ni nameraval)
- lažno negativni rezultati povzročajo škodo uporabnosti (asistenca se ne odzove, ko je predvideno)
Vsak glasovni asistent balansira med tema dvema.
Zakaj je to zgodba o zasebnosti, ne le zgodba o poravnavi
Izplačilo poravnave vam ne pove, ali je sistem "vohunil". Pove vam, da je podjetje ocenilo tveganje sodnega spora.
Toda širša lekcija o zasebnosti je preprosta:
Če je mikrofon vedno na voljo, sistem potrebuje močna jamstva o tem, kdaj se zvok zajame, kje se obdeluje, kako se shranjuje in kdo lahko do njega dostopa.
Zaupanje ni odvisno le od besedila politik. Odvisno je od arhitekture.
Arhitektura je pomembna: na napravi v primerjavi z oblakom
Glasovni asistenti običajno vključujejo dve fazi:
-
Zaznavanje budnih besed
Pogosto se izvaja v napravi zaradi hitrosti in zasebnosti. -
Obdelava ukazov
Pogosto deluje v oblaku zaradi zmogljivosti (razumevanje jezika, iskanje, integracije).
Ključni dejavnik zasebnosti je, koliko obdelanih podatkov lahko ostane v napravi.
- Bolj ko ostane lokalno, manj nenamernih aktivacij prenaša zvok.
- Več ko gre v oblak, večja je površina tveganja (shranjevanje, dostop, kršitve, zloraba).
Sodobne naprave vse bolj poskušajo ohraniti več računanja lokalno, vendar pritisk na zmogljivosti potiska v oblak.
Kaj običajno pomeni »deljeno z oglaševalci«
V zadevi se trdi, da so bili posnetki deljeni z oglaševalci za namene ciljanja.
V mnogih oglasnih sistemih lahko »deljenje« pomeni različne stvari:
- neposredna delitev surovega zvoka (zelo resno)
- deljenje prepisov ali izvlečenih signalov
- uporaba podatkov interno za izgradnjo profilov interesov
Praktični sklep za uporabnike je: tudi če podjetje pravi, da »med stanjem pripravljenosti ne pošiljamo zvoka«, se podatki lahko obdelujejo in hranijo v skladu z internimi pravili v trenutku, ko se sproži aktivacija.
Torej pravo vprašanje zasebnosti postane:
- Kako se ravna z nenamernimi posnetki?
- Se hitro izbrišejo?
- Ali jih lahko uporabniki pregledajo ali odstranijo?
Zakaj so skupinske tožbe pomembne: obseg in spodbude
Skupinske tožbe obstajajo, ker posamezni uporabniki realno ne morejo tožiti zaradi majhne škode.
Toda hrošč glasovnega asistenta ima ogromen obseg:
- milijone naprav
- leta uporabe
- potencialno zajeta občutljiva vsebina
To ustvarja močne spodbude za podjetja, da se poravnajo, namesto da bi tvegala:
- velika škoda
- odkritje, ki razkriva interne dokumente
- škoda za ugled
Vzporednica z Applovim sporazumom o Siri
Poročilo BBC-ja omenja, da je Apple plačal 95 milijonov dolarjev za poravnavo podobnega zahtevka.
Vzorec je večji od enega podjetja:
- Glasovni pomočniki so zdaj osrednjega pomena za potrošniške naprave
- Vedno vklopljeni mikrofoni so normalizirani
- napake vžiga so neizogibne
To pomeni, da zasebnost že pri načrtovanju ni neobvezna. Gre za izdelek.
Kaj lahko uporabniki storijo (praktični koraki)
Če uporabljate glasovne pomočnike, nekaj praktičnih ukrepov zmanjša tveganje:
-
Pregled in brisanje zgodovine glasovnih sporočil
Večina ekosistemov ponuja nadzorno ploščo, kjer lahko izbrišete posnetke. -
Izklopite glasovno aktivacijo, ko je ne potrebujete
Uporaba gumba za aktiviranje pomočnika zmanjša število nenamernih sprožitev. -
Omeji dovoljenja za mikrofon
V mobilni napravi omejite, katere aplikacije lahko dostopajo do mikrofona. -
Bodite previdni pri občutljivih pogovorih
Če razpravljate o finančnih, zdravstvenih ali pravnih zadevah, razmislite o začasnem onemogočanju glasovnih funkcij.
To niso popolne rešitve, vendar nadzor prenesejo nazaj na uporabnika.
Na kaj bi se morali osredotočiti regulatorji in oblikovalci izdelkov
Če je cilj zmanjšati škodo, so najučinkovitejše točke pritiska:
1) Preglednost in možnost revizije
Uporabniki bi morali imeti možnost videti:
- kdaj se je zgodila aktivacija
- kar je bilo posneto
- kam je bilo poslano
- obdobje hrambe
2) Močnejše neplačila
Tveganje nenamernega snemanja je manjše, če:
- Zgodovina glasovnih sporočil je privzeto izklopljena
- okna zadrževanja so kratka
- brisanje je preprosto
3) Tehnični zaščitni ukrepi
- višji pragovi za zaznavanje budnih besed
- preverjanje na napravi pred nalaganjem v oblak
- lokalno medpomnjenje, ki se zavrže, razen če je potrjeno
Kaj si ogledati naprej
-
Postopek odobritve poravnave in odškodninskih zahtevkov
Kako deluje izplačilo in kdo je upravičen. -
Spremembe izdelkov
Ali Google prilagaja privzete nastavitve, zadrževanje ali nadzorne plošče? -
Regulativni ukrepi
Regulatorji zasebnosti lahko uporabijo takšne tožbe za utemeljitev strožjih pravil. -
Premik industrije k umetni inteligenci na napravah
Z izboljševanjem čipov lahko več pomočnikov deluje lokalno, kar zmanjšuje izpostavljenost podatkov.
Bistvo
Ta poravnava je opomnik, da ima udobje »vednega poslušanja« svojo ceno: sistemi včasih ne uspejo, in ko se to zgodi, zasebnost postane neuspeh izdelka.
Dolgoročni zmagovalci na področju glasovnih asistentov ne bodo podjetja z najglasnejšim trženjem. To bodo podjetja, ki bodo lahko tehnično in pregledno dokazala, da sistem posluša le, ko bi moral – in da se nenamerni zajemi obravnavajo varno.
Viri
- BBC News (Tehnologija):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC News (Tehnologija) (sklic na podobno poravnavo Siri):https://www.bbc.co.uk/news/articles/cr4rvr495rgo