Kopsavilkums:Google ir piekritis maksāt68 miljoni ASV dolārulai izbeigtu tiesas prāvu, kurā tika apgalvots, ka Google Assistant ierakstījis privātas sarunas pēc tam, kad tas netīši aktivizēts. Google izlīguma iesniegumā noliedza jebkādus pārkāpumus, sakot, ka centies izvairīties no tiesvedības.
Šis stāsts ir svarīgs, jo balss asistenti atrodas uz robežas starp ērtībām un uzraudzību. Tie ir paredzēti, lai klausītos modinātāja signālos, taču, ja “vienmēr klausošās” sistēmas nedarbojas pareizi, rezultāts nav tikai kļūda — tā ir…uzticības neveiksme.
Kas ir prasības pamatā (vispirms fakti)
No BBC ziņojuma:
- Google piekrita maksāt68 miljoni ASV dolāru (51 miljons mārciņu)lai lietu nokārtotu.
- Prasītāji apgalvoja, ka Google asistents ierakstīja sarunas pēc tam, kad bijanejauši iedarbināts.
- Prasītāji apgalvoja, ka ieraksti tika kopīgoti ar reklāmdevējiem, lai iespējotu mērķtiecīgas reklāmas.
- Iesniegumā par izlīgumu Google noliedza jebkādus pārkāpumus un paziņoja, ka izvairās no tiesvedības.
- Google asistents ir izstrādāts tā, lai gaidīšanas režīmā klausītos, līdz dzird modināšanas frāzi, piemēram, “Hei, Google”.
- Kad šī funkcija ir aktivizēta, audio var tikt ierakstīts un nosūtīts uz Google serveriem analīzei.
- Tiesīgie pretendenti var būt Google ierīču īpašnieki, kuru vēsture sākas2016. gada maijs.
- Tiesnesim ir jāapstiprina kolektīvās prasības izlīgums; prasītāju advokāti var pieprasīt līdz pat vienai trešdaļai no honorāra.
Ziņojumā ir minēts arī līdzīgs Siri izlīgums, kurā iesaistīts Apple.
Tehniskā realitāte: kā notiek “nejauša aktivizēšana”
Modināšanas vārdu sistēmas ir nepilnīgas, jo tās darbojas trokšņainā vidē:
- TV un radio
- pārklājošās sarunas
- akcenti un runas variācijas
- fona troksnis
Tie darbojas arī ar ierobežojumiem, kas palielina viltus aktivizēšanas risku:
- mazjaudas mikroshēmas, kurām nepārtraukti jāklausās
- latentuma prasības (tam jāreaģē nekavējoties)
- īsas pamošanās frāzes, kuras var sajaukt ar normālu runu
Ierīce mēģina noteikt īsu frāzi ar ļoti zemu latentumu. Kļūdaini pozitīvi rezultāti rodas, ja modelis domā, ka ir dzirdējis kaut ko pietiekami tuvu modināšanas vārdam.
No dizaina viedokļa galvenā problēma ir:
- viltus pozitīvi rezultāti rada kaitējumu privātumam (ierakstīšana, kad lietotājs to nebija paredzējis)
- viltus negatīvi rezultāti rada lietojamības traucējumus (asistents nereaģē, kad paredzēts)
Katrs balss asistents meklē kompromisus starp šiem diviem.
Kāpēc šis ir stāsts par privātumu, nevis tikai par izlīgumu
Izmaksa par izlīgumu nepasaka, vai sistēma veica "spiegošanu". Tā norāda, kādu tiesvedības risku uzņēmums novērtēja.
Taču plašākā privātuma mācība ir vienkārša:
Ja mikrofons vienmēr ir pieejams, sistēmai ir nepieciešamas stingras garantijas par to, kad audio tiek ierakstīts, kur tas tiek apstrādāts, kā tas tiek glabāts un kas tam var piekļūt.
Uzticība ir atkarīga ne tikai no politikas valodas. Tā ir atkarīga no arhitektūras.
Arhitektūrai ir nozīme: ierīcē iebūvēta vs. mākonī
Balss asistentu darbība parasti ietver divus posmus:
-
Modināšanas vārdu noteikšana
Bieži darbojas ierīcē ātruma un privātuma labad. -
Komandu apstrāde
Bieži darbojas mākonī iespēju optimizēšanai (valodas izpratne, meklēšana, integrācijas).
Svarīgs privātuma regulējums ir tas, cik daudz apstrādes datu var palikt ierīcē.
- Jo vairāk tas paliek lokāls, jo mazāk nejaušas aktivizācijas pārraida audio.
- Jo vairāk informācijas nonāk mākonī, jo lielāka ir riska virsma (krātuve, piekļuve, pārkāpumi, ļaunprātīga izmantošana).
Mūsdienu ierīces arvien vairāk cenšas saglabāt lielāku aprēķinu apjomu lokāli, taču spēju spiediens virzās uz mākoņpakalpojumiem.
Ko parasti nozīmē “kopīgots ar reklāmdevējiem”
Lietā tiek apgalvots, ka ieraksti tika kopīgoti ar reklāmdevējiem mērķauditorijas atlases nolūkā.
Daudzās reklāmu sistēmās “kopīgošana” var nozīmēt dažādas lietas:
- neapstrādāta audio tieša koplietošana (ļoti nopietni)
- transkriptu vai iegūto signālu kopīgošana
- izmantojot datus iekšēji, lai veidotu interešu profilus
Praktisks secinājums lietotājiem ir šāds: pat ja uzņēmums apgalvo, ka “gaidīšanas režīmā audio netiek sūtīts”, brīdī, kad tiek aktivizēta ierīce, dati var tikt apstrādāti un saglabāti saskaņā ar iekšējiem noteikumiem.
Tātad īstais jautājums par privātumu kļūst:
- Kā tiek apstrādāti nejauši ieraksti?
- Vai tie tiek ātri izdzēsti?
- Vai lietotāji var tos pārbaudīt vai noņemt?
Kāpēc kolektīvās prasības ir svarīgas: apmērs un stimuli
Kolektīvās prasības pastāv tāpēc, ka atsevišķi lietotāji reāli nevar iesūdzēt tiesā par nelieliem zaudējumiem.
Bet balss asistenta kļūdai ir milzīgs mērogs:
- miljoniem ierīču
- lietošanas gadi
- potenciāli uztverts sensitīvs saturs
Tas rada uzņēmumiem spēcīgu stimulu norēķināties, nevis riskēt:
- lieli bojājumi
- atklājums, kas atklāj iekšējos dokumentus
- reputācijas kaitējums
Paralēle ar Apple Siri vienošanos
BBC ziņojumā minēts, ka Apple samaksāja 95 miljonus dolāru, lai nokārtotu līdzīgu prasību.
Šis modelis ir lielāks nekā viens uzņēmums:
- Balss asistenti tagad ir patērētāju ierīču pamatā
- Vienmēr ieslēgtie mikrofoni ir normalizēti
- aizdedzes kļūmes ir neizbēgamas
Tas nozīmē, ka privātuma aizsardzība pēc noklusējuma nav izvēles iespēja. Tā ir produkta būtība.
Ko lietotāji var darīt (praktiski soļi)
Ja izmantojat balss palīgus, daži praktiski pasākumi samazina risku:
-
Balss vēstures pārskatīšana un dzēšana
Lielākā daļa ekosistēmu piedāvā informācijas paneli, kurā var dzēst ierakstus. -
Izslēdziet balss aktivizēšanu, kad tā nav nepieciešama
Izmantojot pogu, lai aktivizētu palīgu, tiek samazināta nejauša aktivizēšana. -
Ierobežot mikrofona atļaujas
Mobilajā ierīcē ierobežojiet, kuras lietotnes var piekļūt mikrofonam. -
Esiet uzmanīgi jutīgu sarunu laikā
Ja apspriežat finanšu, medicīniskus vai juridiskus jautājumus, apsveriet iespēju īslaicīgi atspējot balss funkcijas.
Tie nav ideāli risinājumi, taču tie atdod kontroli atpakaļ lietotājam.
Uz ko regulatoriem un produktu izstrādātājiem jākoncentrējas
Ja mērķis ir mazināt kaitējumu, visefektīvākie spiediena punkti ir:
1) Caurspīdīgums un auditējamība
Lietotājiem vajadzētu būt iespējai redzēt:
- kad notika aktivizēšana
- kas tika ierakstīts
- kur tas tika nosūtīts
- saglabāšanas periods
2) Stingrāki saistību neizpildes gadījumi
Nejaušas ierakstīšanas risks ir mazāks, ja:
- balss vēsture pēc noklusējuma ir izslēgta
- saglabāšanas logi ir īsi
- dzēšana ir vienkārša
3) Tehniskie drošības pasākumi
- augstāki sliekšņi modināšanas vārdu noteikšanai
- ierīces verifikācija pirms augšupielādes mākonī
- lokālā buferizācija, kas tiek atmesta, ja vien tā netiek apstiprināta
Ko skatīties tālāk
-
Izlīguma apstiprināšanas un prasību iesniegšanas process
Kā notiek izmaksa un kam tā ir piemērota. -
Produkta izmaiņas
Vai Google pielāgo noklusējuma iestatījumus, saglabāšanas iestatījumus vai informācijas paneļus? -
Regulējošas darbības
Privātuma regulatori var izmantot šādas tiesas prāvas, lai pamatotu stingrākus noteikumus. -
Nozares pāreja uz ierīcēs iebūvētu mākslīgo intelektu
Mikroshēmām uzlabojoties, vairāk asistentu var darboties lokāli, tādējādi samazinot datu pakļautību saskarei.
Apakšējā līnija
Šis izlīgums atgādina, ka ērtībai “vienmēr klausīties” ir sava cena: sistēmas dažreiz nedarbojas pareizi, un, kad tas notiek, privātums kļūst par produkta kļūmi.
Ilgtermiņa uzvarētāji balss asistentu jomā nebūs uzņēmumi ar skaļāko mārketingu. Tie būs uzņēmumi, kas spēs tehniski un caurspīdīgi pierādīt, ka sistēma klausās tikai tad, kad tas ir paredzēts, un ka nejaušas uztveršanas gadījumā tiek veiktas drošas darbības.
Avoti
- BBC ziņas (tehnoloģijas):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC News (Tehnoloģijas) (atsauce uz līdzīgu Siri vienošanos):https://www.bbc.co.uk/news/articles/cr4rvr495rgo