Streszczenie:Google zgodziło się zapłacić68 mln dolaróww celu rozstrzygnięcia pozwu, w którym zarzucono Asystentowi Google nagrywanie prywatnych rozmów po nieumyślnym uruchomieniu. Google zaprzeczyło zarzutom w pozwie ugodowym, twierdząc, że stara się uniknąć postępowania sądowego.
Ta historia ma znaczenie, ponieważ asystenci głosowi znajdują się na granicy między wygodą a inwigilacją. Zaprojektowano ich tak, aby nasłuchiwali słowa alarmowego, ale gdy systemy „zawsze nasłuchujące” zawodzą, rezultatem nie jest tylko błąd – to…brak zaufania.
Co zarzuca pozew (najpierw fakty)
Z raportu BBC:
- Google zgodziło się zapłacić68 mln dolarów (51 mln funtów)aby rozstrzygnąć sprawę.
- Powodowie twierdzili, że Asystent Google nagrywał rozmowy ponieumyślnie wyzwolony.
- Powodowie twierdzili, że nagrania udostępniano reklamodawcom w celu umożliwienia wyświetlania reklam kierowanych do konkretnych osób.
- Google zaprzeczyło wszelkim nieprawidłowościom w złożonym wniosku o ugodę i stwierdziło, że unika postępowania sądowego.
- Asystent Google’a został zaprojektowany tak, aby nasłuchiwać w trybie czuwania, dopóki nie usłyszy frazy wybudzającej, np. „Hej Google”.
- Po aktywacji dźwięk może być nagrywany i wysyłany na serwery Google w celu analizy.
- Uprawnieni do ubiegania się o zwrot kosztów mogą być właściciele urządzeń Google wyprodukowanych odMaj 2016.
- Sędzia musi zatwierdzić ugodę zbiorową; prawnicy powoda mogą ubiegać się o zwrot do jednej trzeciej kosztów.
W raporcie odnotowano również podobną ugodę w sprawie Siri, w którą uwikłany jest Apple.
Rzeczywistość techniczna: jak dochodzi do „przypadkowej aktywacji”
Systemy oparte na słowach aktywujących są niedoskonałe, ponieważ działają w hałaśliwym otoczeniu:
- Telewizja i radio
- nakładające się rozmowy
- akcenty i zmienność mowy
- szum tła
Działają one również w ramach ograniczeń, które zwiększają ryzyko wystąpienia fałszywych alarmów:
- układy scalone o niskim poborze mocy, które muszą stale nasłuchiwać
- wymagania dotyczące opóźnienia (musi reagować natychmiast)
- krótkie frazy budzące, które można pomylić z normalną mową
Urządzenie próbuje wykryć krótką frazę z bardzo niskim opóźnieniem. Fałszywe wyniki pojawiają się, gdy model uważa, że usłyszał coś wystarczająco blisko słowa-wyjścia.
Z punktu widzenia projektowania, zasadniczy problem jest następujący:
- fałszywe alarmy powodują naruszenie prywatności (nagrywanie, gdy użytkownik nie miał takiego zamiaru)
- fałszywe negatywy powodują szkody w użyteczności (asystent nie reaguje, gdy jest to zamierzone)
Każdy asystent głosowy wybiera pomiędzy tymi dwoma.
Dlaczego jest to historia o prywatności, a nie tylko o ugodzie
Wypłata odszkodowania nie mówi nam, czy system „podsłuchiwał”. Informuje nas natomiast o tym, jakie ryzyko sądowe firma uznała za wysokie.
Ale szersza lekcja dotycząca prywatności jest prosta:
Jeśli mikrofon jest zawsze dostępny, system musi mieć solidne gwarancje dotyczące tego, kiedy dźwięk jest przechwytywany, gdzie jest przetwarzany, jak jest przechowywany i kto ma do niego dostęp.
Zaufanie zależy od czegoś więcej niż tylko od języka polityki. Zależy od architektury.
Architektura ma znaczenie: na urządzeniu czy w chmurze
Asystenci głosowi zazwyczaj działają w dwóch etapach:
-
Wykrywanie słów wybudzających
Często uruchamia się na urządzeniu ze względu na szybkość i prywatność. -
Przetwarzanie poleceń
Często działa w chmurze ze względu na swoje możliwości (rozumienie języka, wyszukiwanie, integracje).
Kluczowym czynnikiem wpływającym na prywatność jest zakres przetwarzania, jaki może pozostać na urządzeniu.
- Im więcej elementów pozostanie lokalnych, tym mniej przypadkowych aktywacji przekaże dźwięk.
- Im więcej danych trafia do chmury, tym większa powierzchnia ryzyka (przechowywanie, dostęp, naruszenia, niewłaściwe wykorzystanie).
Nowoczesne urządzenia starają się coraz częściej wykonywać więcej obliczeń lokalnie, ale presja wydajnościowa przesuwa je w stronę chmury.
Co zazwyczaj oznacza „udostępniane reklamodawcom”
W tej sprawie zarzuca się, że nagrania były udostępniane reklamodawcom w celu targetowania.
W wielu systemach reklamowych „udostępnianie” może oznaczać różne rzeczy:
- bezpośrednie udostępnianie surowego dźwięku (bardzo poważne)
- udostępnianie transkryptów lub wyodrębnionych sygnałów
- wykorzystywanie danych wewnętrznie do tworzenia profili zainteresowań
Praktyczna wskazówka dla użytkowników: nawet jeśli firma twierdzi, że „nie wysyła dźwięku w trybie czuwania”, w momencie aktywacji dane mogą być przetwarzane i przechowywane zgodnie z wewnętrznymi zasadami.
Prawdziwe pytanie dotyczące prywatności brzmi zatem:
- Jak radzimy sobie z przypadkowymi nagraniami?
- Czy są one szybko usuwane?
- Czy użytkownicy mogą je kontrolować lub usuwać?
Dlaczego powództwa zbiorowe są ważne: skala i zachęty
Powództwa zbiorowe powstają, ponieważ poszczególni użytkownicy nie mogą realistycznie pozywać innych osób za drobne szkody.
Ale błąd asystenta głosowego ma ogromną skalę:
- miliony urządzeń
- lat użytkowania
- potencjalnie przechwycona treść wrażliwa
Tworzy to silną zachętę dla firm, aby ugody przeprowadzać zamiast podejmować ryzyko:
- duże szkody
- odkrycie ujawniające wewnętrzne dokumenty
- szkoda dla reputacji
Paralela z ugodą Apple dotyczącą Siri
W raporcie BBC podano, że Apple zapłaciło 95 mln dolarów w ramach ugody w podobnej sprawie.
Ten wzór jest szerszy niż jedna firma:
- asystenci głosowi są teraz podstawą urządzeń konsumenckich
- mikrofony zawsze włączone są znormalizowane
- niewypały są nieuniknione
Oznacza to, że uwzględnianie prywatności w fazie projektowania nie jest opcjonalne. To kwestia produktu.
Co mogą zrobić użytkownicy (praktyczne kroki)
Jeśli korzystasz z asystentów głosowych, oto kilka praktycznych wskazówek, które pomogą Ci zmniejszyć ryzyko:
-
Przejrzyj i usuń historię głosową
Większość ekosystemów oferuje panel, w którym można usuwać nagrania. -
Wyłącz aktywację głosową, gdy jej nie potrzebujesz
Użycie przycisku do aktywacji asystenta zmniejsza ryzyko przypadkowych uruchomień. -
Ogranicz uprawnienia mikrofonu
Na urządzeniach mobilnych ogranicz aplikacje, które mogą mieć dostęp do mikrofonu. -
Zachowaj ostrożność podczas rozmów o wrażliwych sprawach
Jeśli omawiasz kwestie finansowe, medyczne lub prawne, rozważ tymczasowe wyłączenie funkcji głosowych.
Nie są to rozwiązania idealne, ale oddają kontrolę użytkownikowi.
Na czym powinni skupić się regulatorzy i projektanci produktów
Jeśli celem jest ograniczenie szkód, najbardziej skuteczne punkty nacisku to:
1) Przejrzystość i możliwość audytu
Użytkownicy powinni móc zobaczyć:
- kiedy nastąpiła aktywacja
- co zostało nagrane
- gdzie to zostało wysłane
- okres przechowywania
2) Silniejsze niewypłacalności
Ryzyko przypadkowego nagrania jest niższe, gdy:
- historia głosowa jest domyślnie wyłączona
- okna retencji są krótkie
- usunięcie jest proste
3) Zabezpieczenia techniczne
- wyższe progi wykrywania słowa-wybuchu
- weryfikacja na urządzeniu przed przesłaniem do chmury
- buforowanie lokalne, które jest odrzucane, chyba że zostanie potwierdzone
Co obejrzeć dalej
-
Zatwierdzenie ugody i proces składania roszczeń
Jak działa wypłata i kto jest uprawniony. -
Zmiany produktu
Czy Google dostosowuje ustawienia domyślne, retencję lub pulpity nawigacyjne? -
Działania regulacyjne
Organy ochrony prywatności mogą wykorzystywać tego typu pozwy do uzasadnienia surowszych przepisów. -
Zmiana w branży w kierunku sztucznej inteligencji na urządzeniach
W miarę udoskonalania układów scalonych coraz więcej asystentów może działać lokalnie, co zmniejsza ryzyko ujawnienia danych.
Podsumowanie
Ta ugoda jest przypomnieniem, że wygoda „ciągłego słuchania” ma swoją cenę: systemy czasami zawodzą, a gdy tak się stanie, prywatność staje się wadą produktu.
Długoterminowymi zwycięzcami na rynku asystentów głosowych nie będą firmy z najgłośniejszym marketingiem. Będą to firmy, które udowodnią technicznie i transparentnie, że system słucha tylko wtedy, gdy powinien – i że przypadkowe przechwycenia są bezpiecznie obsługiwane.
Źródła
- BBC News (technologia):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC News (Technologia) (pokazano podobną ugodę Siri):https://www.bbc.co.uk/news/articles/cr4rvr495rgo