Vyrovnání s Google Assistant: co se náhodné nahrávání učí o hlasovém soukromí

Shrnutí:Google souhlasil s úhradou68 milionů dolarůaby urovnal soudní spor, který tvrdil, že Google Assistant nahrával soukromé rozhovory poté, co byl neúmyslně spuštěn. Google v žádosti o urovnání popřel jakékoli pochybení s tím, že se snažil soudnímu sporu vyhnout.

Příběh je důležitý, protože hlasoví asistenti stojí na hranici mezi pohodlím a dohledem. Jsou navrženi tak, aby naslouchali signálu probuzení, ale když systémy „stále naslouchající“ selžou, výsledkem není jen chyba – je to…selhání důvěry.

Co žaloba tvrdí (nejprve fakta)

Z reportáže BBC:

• Google souhlasil s platbou68 milionů dolarů (51 milionů liber)aby případ urovnal.
• Žalobci tvrdili, že Google Assistant nahrával rozhovory poté, co bylneúmyslně spuštěno.
• Žalobci tvrdili, že nahrávky byly sdíleny s inzerenty za účelem umožnění cílené reklamy.
• Google v žádosti o urovnání popřel jakékoli pochybení a uvedl, že se soudnímu sporu vyhýbá.
• Asistent Google je navržen tak, aby v pohotovostním režimu poslouchal, dokud neuslyší probuzující frázi, například „Hej Google“.
• Po aktivaci lze nahrávat zvuk a odesílat jej na servery Googlu k analýze.
• Mezi oprávněné žadatele mohou patřit majitelé zařízení Google z rokukvěten 2016.
• Soudce musí schválit hromadnou žalobu; právníci žalobců mohou požadovat až jednu třetinu poplatků.

Zpráva také zmiňuje podobnou dohodu ohledně Siri, která se týká společnosti Apple.

Technická realita: jak dochází k „náhodné aktivaci“

Systémy s buzením jsou nedokonalé, protože fungují v hlučném prostředí:

• Televize a rádio
• překrývající se konverzace
• přízvuky a variace řeči
• šum v pozadí

Fungují také za omezení, která zvyšují riziko falešného spouštění:

• čipy s nízkou spotřebou energie, které musí nepřetržitě naslouchat
• požadavky na latenci (musí reagovat okamžitě)
• krátké fráze při bdění, které lze zaměnit s běžnou řečí

Zařízení se snaží detekovat krátkou frázi s velmi nízkou latencí. K falešně pozitivním výsledkům dochází, když si model myslí, že slyšel něco dostatečně blízkého slovu „buzení“.

Z hlediska designu je hlavním problémem:

• falešně pozitivní výsledky poškozují soukromí (nahrávání, když to uživatel nezamýšlel)
• falešně negativní výsledky způsobují poškození použitelnosti (asistent nereaguje, když je to zamýšleno)

Každý hlasový asistent se pohybuje mezi těmito dvěma funkcemi.

Proč se jedná o příběh o soukromí, ne jen o příběh o urovnání sporu

Výplata odškodnění vám neříká, zda systém „špionoval“. Říká vám, jak společnost posoudila riziko soudního sporu.

Ale širší ponaučení o soukromí je jednoduché:

Pokud je mikrofon neustále k dispozici, systém potřebuje silné záruky ohledně toho, kdy je zvuk zaznamenáván, kde je zpracováván, jak je ukládán a kdo k němu má přístup.

Důvěra závisí na více než jen na formulaci zásad. Záleží na architektuře.

Architektura je důležitá: na zařízení vs. cloud

Hlasoví asistenti obvykle zahrnují dvě fáze:

1. Detekce probuzených slov
   Často běží na zařízení kvůli rychlosti a soukromí.

2. Zpracování příkazů
   Často běží v cloudu kvůli funkcím (pochopení jazyka, vyhledávání, integrace).

Klíčovým faktorem ovlivňujícím soukromí je množství zpracování, které může zůstat v zařízení.

• Čím více to zůstane lokální, tím méně náhodných aktivací přenáší zvuk.
• Čím více se toho přesouvá do cloudu, tím větší je plocha s riziky (úložiště, přístup, narušení, zneužití).

Moderní zařízení se stále více snaží provádět více výpočtů lokálně, ale tlak na kapacitu se spíše tlačí na cloud.

Co obvykle znamená „sdíleno s inzerenty“

V případu se tvrdí, že nahrávky byly sdíleny s inzerenty za účelem cílení.

V mnoha reklamních systémech může „sdílení“ znamenat různé věci:

• přímé sdílení nezpracovaného zvuku (velmi vážné)
• sdílení přepisů nebo extrahovaných signálů
• interní využití dat k vytváření profilů zájmů

Praktické ponaučení pro uživatele je: i když společnost říká, že „v pohotovostním režimu neposíláme zvuk“, v okamžiku, kdy je spuštěna aktivace, mohou být data zpracována a uchována podle interních pravidel.

Skutečnou otázkou soukromí tedy je:

• Jak se řeší náhodné nahrávky?
• Jsou rychle smazány?
• Mohou je uživatelé auditovat nebo odstranit?

Proč jsou hromadné žaloby důležité: rozsah a pobídky

Hromadné žaloby existují, protože jednotliví uživatelé nemohou realisticky žalovat kvůli malým škodám.

Ale chyba hlasového asistenta má obrovský rozsah:

• miliony zařízení
• roky používání
• potenciálně zachycený citlivý obsah

To vytváří silné pobídky pro společnosti k urovnání spíše než k riskování:

• velké škody
• odhalení interních dokumentů
• poškození pověsti

Paralela s dohodou Apple ohledně Siri

Zpráva BBC zmiňuje, že Apple zaplatil 95 milionů dolarů za urovnání podobného nároku.

Vzor je větší než jedna společnost:

• Hlasoví asistenti jsou nyní základem spotřebitelských zařízení
• Vždy zapnuté mikrofony jsou normalizovány
• selhání zapalování je nevyhnutelné

To znamená, že ochrana soukromí již v návrhu není volitelná. Je to produkt.

Co mohou uživatelé dělat (praktické kroky)

Pokud používáte hlasové asistenty, existuje několik praktických opatření, která snižují riziko:

1. Kontrola a smazání historie hlasových hovorů
   Většina ekosystémů nabízí řídicí panel, kde můžete nahrávky mazat.

2. Vypněte hlasovou aktivaci, když ji nepotřebujete
   Použití tlačítka k aktivaci asistenta snižuje počet náhodných spouštění.

3. Omezit oprávnění mikrofonu
   Na mobilním telefonu omezte, které aplikace mají přístup k mikrofonu.

4. Buďte opatrní v citlivých rozhovorech
   Pokud diskutujete o finančních, lékařských nebo právních záležitostech, zvažte dočasné vypnutí hlasových funkcí.

Nejsou to dokonalá řešení, ale přesouvají kontrolu zpět na uživatele.

Na co by se měli zaměřit regulátoři a návrháři produktů

Pokud je cílem snížit škody, nejúčinnější tlakové body jsou:

1) Transparentnost a auditovatelnost

Uživatelé by měli být schopni vidět:

• kdy došlo k aktivaci
• co bylo zaznamenáno
• kam to bylo odesláno
• doba uchovávání

2) Silnější selhání

Riziko náhodného nahrávání je nižší, když:

• Hlasová historie je ve výchozím nastavení vypnutá
• retenční okna jsou krátká
• smazání je jednoduché

3) Technická ochranná opatření

• vyšší prahové hodnoty pro detekci probuzených slov
• ověření na zařízení před nahráním do cloudu
• lokální ukládání do vyrovnávací paměti, které je zahozeno, dokud není potvrzeno

Na co se dívat dál

1. Proces schvalování vyrovnání a uplatňování nároků
   Jak výplata funguje a kdo na ni má nárok.

2. Změny produktu
   Upravuje Google výchozí nastavení, uchování uživatelů nebo dashboardy?

3. Regulační opatření
   Regulátoři ochrany osobních údajů mohou podobné soudní spory využít k ospravedlnění přísnějších pravidel.

4. Posun odvětví směrem k umělé inteligenci na zařízeních
   S tím, jak se čipy vylepšují, může lokálně pracovat více asistentů, což snižuje vystavení datům.

Sečteno a podtrženo

Tato dohoda je připomínkou toho, že pohodlí „stálého naslouchání“ má svou cenu: systémy někdy selžou a když se tak stane, soukromí se stává selháním produktu.

Dlouhodobými vítězi v oblasti hlasových asistentů nebudou společnosti s nejhlasitějším marketingem. Budou to společnosti, které dokážou technicky a transparentně prokázat, že systém naslouchá pouze tehdy, když má – a že s náhodnými záznamy je zacházeno bezpečně.

---

Zdroje

• Zprávy BBC (Technologie):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
• BBC News (Technologie) (odkaz na podobné vyrovnání se Siri):https://www.bbc.co.uk/news/articles/cr4rvr495rgo