Yhteenveto:Google on suostunut maksamaan68 miljoonaa dollariasopiakseen oikeusjutun, jossa väitettiin Google Assistantin tallentavan yksityisiä keskusteluja sen tahattoman laukaisun jälkeen. Google kiisti sopimattomuuden hakemuksessa ja sanoi pyrkineensä välttämään oikeudenkäyntiä.
Tarinalla on merkitystä, koska ääniavustajat sijaitsevat mukavuuden ja valvonnan rajalla. Ne on suunniteltu kuuntelemaan herätyssanaa, mutta kun "aina kuuntelevat" järjestelmät epäonnistuvat, seurauksena ei ole vain bugi – se onluottamuksen pettäminen.
Mitä kanteessa väitetään (tosiasiat ensin)
BBC:n raportista:
- Google suostui maksamaan68 miljoonaa dollaria (51 miljoonaa puntaa)asian ratkaisemiseksi.
- Kantajat väittivät Google Assistantin nauhoittaneen keskusteluja sen jälkeen, kunvahingossa laukaistu.
- Kantajat väittivät, että tallenteita jaettiin mainostajien kanssa kohdennettujen mainosten mahdollistamiseksi.
- Google kiisti sovintohakemuksessaan toimineensa väärin ja sanoi välttävänsä oikeudenkäyntiä.
- Google Assistant on suunniteltu kuuntelemaan valmiustilassa, kunnes se kuulee herätyslauseen, kuten "Hei Google".
- Kun tämä on aktivoitu, ääntä voidaan tallentaa ja lähettää Googlen palvelimille analysoitavaksi.
- Tukikelpoisia hakijoita voivat olla Google-laitteiden omistajat, joiden laitteet ovat peräisin vuodeltaToukokuu 2016.
- Tuomarin on hyväksyttävä ryhmäkanteessa esitetty sovinto; kantajan asianajajat voivat vaatia jopa kolmanneksen palkkioista.
Raportissa mainitaan myös samanlainen Siri-sopimus, johon Apple on osallistunut.
Tekninen todellisuus: miten "vahingossa tapahtuva aktivointi" tapahtuu
Herätyssanajärjestelmät ovat epätäydellisiä, koska ne toimivat meluisissa ympäristöissä:
- TV ja radio
- päällekkäiset keskustelut
- aksentit ja puheen vaihtelu
- taustamelu
Ne toimivat myös rajoitusten alaisina, jotka lisäävät väärien liipaisimien riskiä:
- pienitehoiset sirut, joiden on kuunneltava jatkuvasti
- latenssivaatimukset (sen on vastattava välittömästi)
- lyhyitä herätyslauseita, jotka voidaan sekoittaa normaaliin puheeseen
Laite yrittää havaita lyhyen lauseen erittäin pienellä latenssilla. Vääriä positiivisia tuloksia syntyy, kun malli luulee kuulleensa jotain riittävän lähellä herätyssanaa.
Suunnittelun näkökulmasta ydinongelma on:
- väärät positiiviset tulokset aiheuttavat yksityisyyden suojaa haittaa (tallennus silloin, kun käyttäjä ei sitä tarkoittanut)
- väärät negatiiviset tulokset aiheuttavat käytettävyyshaittaa (avustaja ei vastaa aiotulla tavalla)
Jokainen ääniavustaja tekee kompromisseja näiden kahden välillä.
Miksi tämä on yksityisyyttä koskeva tarina, ei pelkkä sovintosopimustarina
Sovintosumma ei kerro, oliko järjestelmä "vakoilija". Se kertoo yrityksen arvioiman oikeudenkäyntiriskin.
Mutta laajempi yksityisyyden suojaa koskeva oppitunti on yksinkertainen:
Jos mikrofoni on aina käytettävissä, järjestelmän on oltava varma siitä, milloin ääntä tallennetaan, missä sitä käsitellään, miten se tallennetaan ja kuka voi käyttää sitä.
Luottamus riippuu muustakin kuin poliittisesta kielestä. Se riippuu arkkitehtuurista.
Arkkitehtuurilla on merkitystä: laite vs. pilvi
Ääniavustajissa on tyypillisesti kaksi vaihetta:
-
Herätyssanan tunnistus
Usein toimii laitteella nopeuden ja yksityisyyden takaamiseksi. -
Komentojen käsittely
Usein toimii pilvessä ominaisuuksien vuoksi (kielen ymmärtäminen, haku, integraatiot).
Keskeinen yksityisyyden suojaan liittyvä vipu on se, kuinka paljon prosessoitua dataa saa jäädä laitteelle.
- Mitä enemmän se pysyy paikallisena, sitä vähemmän vahingossa tapahtuvat aktivoinnit lähettävät ääntä.
- Mitä enemmän tietoja siirtyy pilveen, sitä suurempi on riskipinta (tallennus, käyttö, tietomurrot, väärinkäyttö).
Nykyaikaiset laitteet pyrkivät yhä enemmän pitämään laskennan paikallisena, mutta kykypaineet ajavat kohti pilvipalveluita.
Mitä "jaettu mainostajien kanssa" tyypillisesti tarkoittaa
Tapauksessa väitetään, että tallenteita jaettiin mainostajien kanssa kohdentamista varten.
Monissa mainosjärjestelmissä "jakaminen" voi tarkoittaa eri asioita:
- raakaäänen suora jakaminen (erittäin vakava asia)
- jakamalla transkripteja tai poimittuja signaaleja
- datan käyttäminen sisäisesti kiinnostuksen kohteiden profiilien rakentamiseen
Käytännön opetus käyttäjille on: vaikka yritys sanoisi "emme lähetä ääntä valmiustilassa", tietoja voidaan käsitellä ja säilyttää sisäisten sääntöjen mukaisesti heti aktivoinnin käynnistyttyä.
Joten todellinen yksityisyydensuojakysymys on:
- Miten vahingossa tehtyihin äänityksiin suhtaudutaan?
- poistetaanko ne nopeasti?
- Voivatko käyttäjät tarkastaa tai poistaa ne?
Miksi ryhmäkanteet ovat tärkeitä: laajuus ja kannustimet
Ryhmäkanteita on olemassa, koska yksittäiset käyttäjät eivät voi realistisesti haastaa oikeuteen pieniä vahinkoja.
Mutta ääniavustajavirheellä on valtava mittakaava:
- miljoonia laitteita
- käyttövuosia
- mahdollisesti tallennettu arkaluontoista sisältöä
Tämä luo yrityksille vahvoja kannustimia sopia riskin sijaan:
- suuret vahingot
- sisäisiä asiakirjoja paljastava löytö
- mainehaitta
Rinnakkaisuus Applen Siri-sopimuksen kanssa
BBC:n raportissa mainitaan Applen maksaneen 95 miljoonaa dollaria vastaavanlaisen vaateen sopimiseksi.
Kaava on suurempi kuin yksi yritys:
- ääniavustajat ovat nyt olennainen osa kuluttajalaitteita
- aina päällä olevat mikrofonit on normalisoitu
- sytytyshäiriöt ovat väistämättömiä
Tämä tarkoittaa, että sisäänrakennettu yksityisyyden suoja ei ole valinnaista. Se on tuote.
Mitä käyttäjät voivat tehdä (käytännön vaiheet)
Jos käytät ääniavustajia, muutamat käytännön toimenpiteet vähentävät riskiä:
-
Äänihistorian tarkastelu ja poistaminen
Useimmat ekosysteemit tarjoavat kojelaudan, josta voit poistaa tallenteita. -
Poista ääniaktivointi käytöstä, kun et tarvitse sitä
Avustajaa aktivoiva painike vähentää tahattomia laukaisimia. -
Rajoita mikrofonin käyttöoikeuksia
Rajoita mobiililaitteilla, millä sovelluksilla on pääsy mikrofoniin. -
Ole varovainen arkaluontoisten keskustelujen aikana
Jos keskustelet taloudellisista, lääketieteellisistä tai oikeudellisista asioista, harkitse ääniominaisuuksien väliaikaista poistamista käytöstä.
Nämä eivät ole täydellisiä ratkaisuja, mutta ne siirtävät hallinnan takaisin käyttäjälle.
Mihin sääntelyviranomaisten ja tuotesuunnittelijoiden tulisi keskittyä
Jos tavoitteena on vähentää vahinkoa, tehokkaimmat painopisteet ovat:
1) Läpinäkyvyys ja tarkastettavuus
Käyttäjien pitäisi pystyä näkemään:
- milloin aktivointi tapahtui
- mitä nauhoitettiin
- minne se lähetettiin
- säilytysaika
2) Vahvemmat maksukyvyttömyysetuudet
Vahingossa tapahtuvan tallennuksen riski on pienempi, kun:
- äänihistoria on oletuksena pois päältä
- säilytysajat ovat lyhyitä
- poistaminen on yksinkertaista
3) Tekniset suojatoimet
- korkeammat kynnysarvot herätyssanan havaitsemiselle
- laitteen tarkistus ennen pilveen lataamista
- paikallinen puskurointi, joka hylätään, ellei sitä vahvisteta
Mitä katsoa seuraavaksi
-
Sovintosopimusten hyväksymis- ja korvausprosessi
Miten maksut toimivat ja kuka on oikeutettu niihin. -
Tuotemuutokset
Muuttaako Google oletusasetuksia, säilytysasetuksia tai koontinäyttöjä? -
Sääntelytoimet
Tietosuojaviranomaiset saattavat käyttää tällaisia oikeusjuttuja tiukempien sääntöjen perustelemiseen. -
Alan siirtyminen kohti laitteisiin integroitua tekoälyä
Sirujen kehittyessä useammat avustajat voivat toimia paikallisesti, mikä vähentää datan altistumista.
Lopputulos
Tämä sovinto muistuttaa siitä, että "aina kuuntelevalla" mukavuudella on hintansa: järjestelmät joskus toimivat virheellisesti, ja kun ne toimivat, yksityisyydestä tulee tuotevika.
Ääniavustajien pitkän aikavälin voittajia eivät ole yritykset, joilla on äänekkäin markkinointi. Ne ovat yrityksiä, jotka pystyvät teknisesti ja läpinäkyvästi todistamaan, että järjestelmä kuuntelee vain silloin, kun sen on tarkoitus – ja että vahingossa tapahtuvat äänikaappaukset käsitellään turvallisesti.
Lähteet
- BBC News (teknologia):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC News (teknologia) (viittaukset vastaavaan Siri-ratkaisuun):https://www.bbc.co.uk/news/articles/cr4rvr495rgo