Vyrovnanie s Google Assistant: čo sa náhodné nahrávanie učí o súkromí hlasu

Zhrnutie:Google súhlasil s platbou68 miliónov dolárovaby urovnal súdny spor, v ktorom sa tvrdilo, že Google Assistant nahrával súkromné ​​rozhovory po tom, čo bol neúmyselne spustený. Spoločnosť Google v podaní žiadosti o urovnanie poprela akékoľvek pochybenie s tým, že sa snažila vyhnúť súdnemu sporu.

Príbeh je dôležitý, pretože hlasoví asistenti stoja na hranici medzi pohodlím a sledovaním. Sú navrhnutí tak, aby počúvali signál prebudenia, ale keď systémy „stále počúvajúce“ zlyhávajú, výsledkom nie je len chyba – je to...zlyhanie dôvery.

Čo sa tvrdí v žalobe (najprv fakty)

Z reportáže BBC:

• Google súhlasil s platbou68 miliónov dolárov (51 miliónov libier)urovnať prípad.
• Žalobcovia tvrdili, že Google Assistant nahrával rozhovory po tom, čo bolneúmyselne spustené.
• Žalobcovia tvrdili, že nahrávky boli zdieľané s inzerentmi, aby sa umožnilo zobrazovanie cielených reklám.
• Spoločnosť Google v podaní dohody o urovnaní poprela akékoľvek pochybenie a uviedla, že sa vyhýba súdnemu sporu.
• Asistent Google je navrhnutý tak, aby v pohotovostnom režime počúval, kým nezačuje frázu na prebudenie, ako napríklad „Hej Google“.
• Po aktivácii je možné nahrávať zvuk a odosielať ho na servery spoločnosti Google na analýzu.
• Medzi oprávnenými žiadateľmi môžu byť majitelia zariadení Google z rokuMáj 2016.
• Sudca musí schváliť hromadnú žalobu; právnici žalobcov môžu požadovať až jednu tretinu poplatkov.

V správe sa tiež uvádza podobná dohoda o Siri, ktorá sa týkala spoločnosti Apple.

Technická realita: ako dochádza k „náhodnej aktivácii“

Systémy budiacich slov sú nedokonalé, pretože fungujú v hlučnom prostredí:

• Televízia a rádio
• prekrývajúce sa konverzácie
• prízvuky a variácie reči
• hluk v pozadí

Taktiež fungujú za obmedzení, ktoré zvyšujú riziko falošného spustenia:

• čipy s nízkou spotrebou energie, ktoré musia nepretržite počúvať
• požiadavky na latenciu (musí reagovať okamžite)
• krátke frázy pri bdení, ktoré si možno zameniť s bežnou rečou

Zariadenie sa snaží rozpoznať krátku frázu s veľmi nízkou latenciou. Falošne pozitívne výsledky sa vyskytnú, keď si model myslí, že počul niečo dostatočne blízke slovu „wake“.

Z hľadiska dizajnu je hlavným problémom:

• falošne pozitívne výsledky poškodzujú súkromie (nahrávanie, keď to používateľ nezamýšľal)
• falošne negatívne výsledky spôsobujú poškodenie použiteľnosti (asistent nereaguje, keď je to zamýšľané)

Každý hlasový asistent vyberá medzi týmito dvoma funkciami.

Prečo je toto príbeh o súkromí, nielen príbeh o urovnaní

Výplata z urovnania vám nehovorí, či systém „špionážil“. Hovorí vám, že spoločnosť posúdila riziko súdneho sporu.

Ale širšie ponaučenie o súkromí je jednoduché:

Ak je mikrofón vždy k dispozícii, systém potrebuje silné záruky týkajúce sa toho, kedy sa zvuk zaznamenáva, kde sa spracováva, ako sa ukladá a kto k nemu má prístup.

Dôvera závisí od viac než len od jazyka politiky. Závisí od architektúry.

Architektúra je dôležitá: na zariadení verzus cloud

Hlasoví asistenti zvyčajne zahŕňajú dve fázy:

1. Detekcia prebudených slov
   Často beží na zariadení kvôli rýchlosti a súkromiu.

2. Spracovanie príkazov
   Často beží v cloude kvôli funkciám (pochopenie jazyka, vyhľadávanie, integrácie).

Kľúčovým faktorom ovplyvňujúcim súkromie je množstvo spracovaných údajov, ktoré môžu zostať v zariadení.

• Čím viac to zostane lokálne, tým menej náhodných aktivácií prenáša zvuk.
• Čím viac informácií ide do cloudu, tým väčšia je plocha rizika (ukladanie, prístup, narušenia, zneužitie).

Moderné zariadenia sa čoraz viac snažia udržiavať viac výpočtov lokálne, ale tlak na kapacity tlačí smerom k cloudu.

Čo zvyčajne znamená „zdieľané s inzerentmi“

Tvrdenie v prípade je, že nahrávky boli zdieľané s inzerentmi za účelom cielenej reklamy.

V mnohých reklamných systémoch môže „zdieľanie“ znamenať rôzne veci:

• priame zdieľanie surového zvuku (veľmi vážne)
• zdieľanie prepisov alebo extrahovaných signálov
• interné používanie údajov na vytváranie profilov záujmov

Praktické ponaučenie pre používateľov je: aj keď spoločnosť tvrdí, že „v pohotovostnom režime neposielame zvuk“, v momente spustenia aktivácie môžu byť údaje spracované a uchovávané podľa interných pravidiel.

Skutočná otázka súkromia sa teda stáva:

• Ako sa riešia náhodné nahrávky?
• sú rýchlo odstránené?
• Môžu ich používatelia auditovať alebo odstrániť?

Prečo sú hromadné žaloby dôležité: rozsah a stimuly

Hromadné žaloby existujú, pretože jednotliví používatelia nemôžu realisticky žalovať za malé škody.

Chyba hlasového asistenta má však obrovský rozsah:

• milióny zariadení
• roky používania
• potenciálne zachytený citlivý obsah

To vytvára silné motivácie pre spoločnosti, aby sa radšej dohodli, ako by riskovali:

• veľké škody
• objav odhaľujúci interné dokumenty
• poškodenie reputácie

Paralela s dohodou spoločnosti Apple o Siri

V správe BBC sa uvádza, že Apple zaplatil 95 miliónov dolárov na urovnanie podobného nároku.

Vzor je väčší ako jedna spoločnosť:

• Hlasoví asistenti sú teraz základom spotrebiteľských zariadení
• Vždy zapnuté mikrofóny sú normalizované
• zlyhávania zapaľovania sú nevyhnutné

To znamená, že ochrana súkromia už v štádiu návrhu nie je voliteľná. Je to súčasť produktu.

Čo môžu používatelia robiť (praktické kroky)

Ak používate hlasových asistentov, niekoľko praktických opatrení znižuje riziko:

1. Kontrola a odstránenie histórie hlasových hovorov
   Väčšina ekosystémov ponúka ovládací panel, kde môžete vymazať nahrávky.

2. Vypnite hlasovú aktiváciu, keď ju nepotrebujete
   Použitie tlačidla na aktiváciu asistenta znižuje počet náhodných spustení.

3. Obmedziť povolenia mikrofónu
   V mobile obmedzte, ktoré aplikácie majú prístup k mikrofónu.

4. Buďte opatrní pri citlivých rozhovoroch
   Ak diskutujete o finančných, lekárskych alebo právnych záležitostiach, zvážte dočasné vypnutie hlasových funkcií.

Nie sú to dokonalé riešenia, ale presúvajú kontrolu späť na používateľa.

Na čo by sa mali zamerať regulátori a dizajnéri produktov

Ak je cieľom znížiť poškodenie, najúčinnejšie tlakové body sú:

1) Transparentnosť a auditovateľnosť

Používatelia by mali mať možnosť vidieť:

• kedy došlo k aktivácii
• čo bolo zaznamenané
• kam to bolo odoslané
• doba uchovávania

2) Silnejšie zlyhania

Riziko náhodného nahrávania je nižšie, keď:

• história hlasových hovorov je predvolene vypnutá
• retenčné okná sú krátke
• vymazanie je jednoduché

3) Technické záruky

• vyššie prahy pre detekciu prebudených slov
• overenie na zariadení pred nahraním do cloudu
• lokálne ukladanie do vyrovnávacej pamäte, ktoré sa zahodí, pokiaľ sa nepotvrdí

Čo si pozrieť ďalej

1. Proces schvaľovania vyrovnania a uplatňovania nárokov
   Ako funguje výplata a kto má na ňu nárok.

2. Zmeny produktu
   Upravuje Google predvolené nastavenia, uchovávanie alebo dashboardy?

3. Regulačné opatrenia
   Regulačné orgány pre ochranu súkromia môžu použiť takéto súdne spory na odôvodnenie prísnejších pravidiel.

4. Posun odvetvia smerom k umelej inteligencii na zariadeniach
   S vylepšovaním čipov môže lokálne pracovať viac asistentov, čím sa znižuje vystavenie dátam.

Zrátané a podčiarknuté

Táto dohoda je pripomienkou, že pohodlie „stáleho počúvania“ má svoju cenu: systémy niekedy zlyhajú a keď sa tak stane, súkromie sa stáva zlyhaním produktu.

Dlhodobými víťazmi v oblasti hlasových asistentov nebudú spoločnosti s najhlasnejším marketingom. Budú to spoločnosti, ktoré dokážu technicky a transparentne, že systém počúva iba vtedy, keď má – a že náhodné zachytenia sú spracované bezpečne.

---

Zdroje

• Správy BBC (Technológia):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
• BBC News (Technológia) (podobná dohoda o Siri je uvedená):https://www.bbc.co.uk/news/articles/cr4rvr495rgo