Összefoglalás:A Google beleegyezett a fizetésbe68 millió dollár...egyezségre jutott egy perben, amelyben azt állították, hogy a Google Asszisztens véletlen aktiválása után magánbeszélgetéseket rögzített. A Google a peren kívüli egyezségben tagadta a jogsértést, mondván, hogy a per elkerülésére törekedett.
A történet azért fontos, mert a hangasszisztensek a kényelem és a megfigyelés határán helyezkednek el. Úgy tervezték őket, hogy figyeljenek a figyelmeztető szavakra, de amikor a „mindig figyelő” rendszerek meghibásodnak, az nem csak egy hiba – hanem egy…bizalom kudarca.
Amit a kereset állít (először a tények)
A BBC riportjából:
- A Google beleegyezett a fizetésbe68 millió dollár (51 millió font)hogy rendezze az ügyet.
- A felperesek azt állították, hogy a Google Asszisztens rögzítette a beszélgetéseket, miutánvéletlenül kiváltott.
- A felperesek azt állították, hogy a felvételeket megosztották a hirdetőkkel, hogy célzott hirdetéseket jeleníthessenek meg.
- A Google a peren kívüli egyezségben tagadta a jogsértést, és azt mondta, hogy elkerüli a pert.
- A Google Asszisztens készenléti állapotban is figyel, amíg egy ébresztőszót, például a „Hey Google”-t nem hall.
- Aktiváláskor a hangfelvétel rögzíthető és elküldhető a Google szervereire elemzés céljából.
- A jogosult igénylők között lehetnek olyan Google-eszközök tulajdonosai, amelyeknek az éve:2016. május.
- A bírónak jóvá kell hagynia a csoportos keresetben hozott egyezséget; a felperes ügyvédei a díjak akár egyharmadát is követelhetik.
A jelentés egy hasonló, az Apple-t érintő Siri-ügyben hozott megállapodást is megemlít.
A technikai valóság: hogyan történik a „véletlen aktiválás”
A figyelmeztető rendszerek tökéletlenek, mert zajos környezetben működnek:
- TV és rádió
- átfedő beszélgetések
- akcentusok és beszédvariációk
- háttérzaj
Emellett olyan korlátozások mellett működnek, amelyek növelik a téves triggerelés kockázatát:
- alacsony fogyasztású chipek, amelyeknek folyamatosan figyelniük kell
- késleltetési követelmények (azonnal reagálnia kell)
- rövid ébresztő mondatok, amelyek összetéveszthetők a normál beszéddel
A készülék egy rövid, nagyon alacsony késleltetésű kifejezést próbál érzékelni. A téves riasztások akkor történnek, amikor a modell azt hiszi, hogy valami olyasmit hallott, ami elég közel van az ébresztő szóhoz.
Tervezési szempontból a fő probléma a következő:
- a téves riasztások adatvédelmi károkat okoznak (felvétel készítése akkor is, amikor a felhasználó nem szándékosan)
- a téves negatív eredmények használhatósági károkat okoznak (az asszisztens nem reagál, amikor kell)
Minden hangasszisztens e kettő között cserélget.
Miért ez egy adatvédelmi történet, nem csak egy egyezségről szóló történet?
A kártérítési megállapodásból nem derül ki, hogy a rendszer „kémkedés” jellegű volt-e. Azt viszont megmutatja, hogy a vállalat milyen perkockázatot ítélt meg.
De a tágabb adatvédelmi tanulság egyszerű:
Ha a mikrofon mindig elérhető, a rendszernek erős garanciákra van szüksége arra vonatkozóan, hogy mikor rögzítik a hangot, hol dolgozzák fel, hogyan tárolják, és ki férhet hozzá.
A bizalom nem csupán a szakpolitikai nyelven múlik, hanem az architektúrán is.
Az architektúra számít: eszközön belüli vs. felhőalapú megoldások
A hangasszisztensek általában két szakaszból állnak:
-
Ébresztőszó-észlelés
Gyakran fut az eszközön a sebesség és az adatvédelem érdekében. -
Parancsfeldolgozás
Gyakran a felhőben fut a képességek (nyelvfelismerés, keresés, integrációk) miatt.
Az adatvédelem egyik kulcsfontosságú eleme, hogy mennyi feldolgozási adat maradhat az eszközön.
- Minél több marad lokális, annál kevesebb véletlen aktiválás továbbít hangot.
- Minél több kerül a felhőbe, annál nagyobb a kockázati felület (tárolás, hozzáférés, adatvédelmi incidensek, visszaélés).
A modern eszközök egyre inkább igyekeznek több számítást helyben végezni, de a képességek iránti nyomás a felhő felé tolódik el.
Mit jelent általában a „hirdetőkkel megosztva” kifejezés?
Az ügyben az a vád, hogy a felvételeket megosztották a hirdetőkkel célzási céllal.
Sok hirdetési rendszerben a „megosztás” különböző dolgokat jelenthet:
- nyers hanganyagok közvetlen megosztása (nagyon komoly)
- átiratok vagy kinyert jelek megosztása
- belső adatok felhasználása érdeklődési profilok építéséhez
A felhasználók számára a gyakorlati tanulság a következő: még ha a cég azt is mondja, hogy „készenléti állapotban nem küldünk hangot”, az aktiválás pillanatában az adatok belső szabályok szerint feldolgozhatók és megőrizhetők.
Tehát az igazi adatvédelmi kérdés a következő lesz:
- Hogyan kezelik a véletlen felvételeket?
- gyorsan törlődnek?
- A felhasználók ellenőrizhetik vagy eltávolíthatják őket?
Miért fontosak a csoportos keresetek: mérték és ösztönzők
A csoportos keresetek azért léteznek, mert az egyes felhasználók reálisan nem perelhetnek kisebb károk miatt.
De egy hangasszisztens hibának hatalmas méretei vannak:
- több millió eszköz
- éveknyi használat
- potenciálisan rögzített érzékeny tartalom
Ez erős ösztönzőket teremt a vállalatok számára a kockázatvállalás helyett a megállapodásra:
- nagy károk
- belső dokumentumokat feltáró felfedezés
- hírnévkárosodás
A párhuzam az Apple Siri-megállapodásával
A BBC jelentése szerint az Apple 95 millió dollárt fizetett egy hasonló kártérítési igény rendezése érdekében.
A minta nagyobb, mint egyetlen vállalat:
- A hangasszisztensek ma már a fogyasztói eszközök alapját képezik
- A mindig bekapcsolt mikrofonok normalizáltak
- a gyújtáskimaradások elkerülhetetlenek
Ez azt jelenti, hogy a beépített adatvédelem nem opcionális. Maga a termék a lényeg.
Mit tehetnek a felhasználók (gyakorlati lépések)
Ha hangasszisztenseket használ, néhány gyakorlati intézkedéssel csökkentheti a kockázatot:
-
Hangelőzmények áttekintése és törlése
A legtöbb ökoszisztéma kínál egy irányítópultot, ahol törölheti a felvételeket. -
Kapcsold ki a hangaktiválást, ha nincs rá szükséged
Egy gombnyomással aktiválható asszisztens csökkenti a véletlen aktiválásokat. -
Mikrofonengedélyek korlátozása
Mobilon korlátozd, hogy mely alkalmazások férhetnek hozzá a mikrofonhoz. -
Légy körültekintő a kényes beszélgetések során
Ha pénzügyi, orvosi vagy jogi kérdésekről beszélget, érdemes lehet ideiglenesen letiltani a hangfunkciókat.
Ezek nem tökéletes megoldások, de visszaadják az irányítást a felhasználónak.
Mire kell összpontosítaniuk a szabályozó hatóságoknak és a terméktervezőknek?
Ha a cél a kár csökkentése, a leghatékonyabb nyomáspontok a következők:
1) Átláthatóság és ellenőrizhetőség
A felhasználóknak a következőket kell látniuk:
- amikor az aktiválás megtörtént
- amit rögzítettek
- hová küldték
- megőrzési időszak
2) Erősebb nemteljesítések
A véletlen felvétel kockázata alacsonyabb, ha:
- a hangelőzmények alapértelmezés szerint ki vannak kapcsolva
- a megtartási ablakok rövidek
- a törlés egyszerű
3) Műszaki biztosítékok
- magasabb küszöbértékek az ébresztőszó-észleléshez
- eszközön történő ellenőrzés a felhőbe való feltöltés előtt
- helyi pufferelés, amely megerősítés nélkül elvetendő
Mit érdemes legközelebb nézni?
-
Elszámolás jóváhagyása és kárigénylési folyamat
Hogyan működik a kifizetés, és kik jogosultak rá. -
Termékváltozások
A Google módosítja az alapértelmezett beállításokat, a megőrzési adatokat vagy az irányítópultokat? -
Szabályozási intézkedés
Az adatvédelmi szabályozók az ilyen pereket felhasználhatják a szigorúbb szabályok igazolására. -
Az iparág elmozdulása az eszközökre épített mesterséges intelligencia felé
Ahogy a chipek fejlődnek, egyre több asszisztens dolgozhat helyben, csökkentve az adatoknak való kitettséget.
A lényeg
Ez a megállapodás emlékeztetőül szolgál arra, hogy a „mindig figyelő” kényelemnek ára van: a rendszerek időnként hibásan működnek, és amikor ez megtörténik, az adatvédelem termékhibává válik.
A hangasszisztensek hosszú távú nyertesei nem a leghangosabb marketinggel rendelkező cégek lesznek. Azok lesznek, amelyek technikailag és átláthatóan be tudják bizonyítani, hogy a rendszer csak akkor figyel, amikor kell – és hogy a véletlen rögzítéseket biztonságosan kezelik.
Források
- BBC Hírek (Technológia):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC News (Technológia) (hasonló Siri-megállapodásra hivatkozva):https://www.bbc.co.uk/news/articles/cr4rvr495rgo