Özet:Google ödeme yapmayı kabul etti.68 milyon dolarGoogle, Google Asistan'ın yanlışlıkla tetiklendikten sonra özel konuşmaları kaydettiği iddiasıyla açılan bir davayı çözüme kavuşturmak için anlaşmaya vardı. Google, anlaşma dosyasında herhangi bir yanlışlık yapmadığını ve davadan kaçınmayı amaçladığını belirtti.
Bu hikaye önemli çünkü sesli asistanlar, kolaylık ve gözetim arasında bir sınırda yer alıyor. Bir uyandırma kelimesini dinlemek üzere tasarlanmışlardır, ancak "sürekli dinleyen" sistemler arıza yaptığında sonuç sadece bir hata değil, aynı zamanda bir güvenlik açığıdır.güven başarısızlığı.
Dava dilekçesinde iddia edilenler (önce olgular)
BBC haberinden:
- Google ödeme yapmayı kabul etti.68 milyon dolar (51 milyon sterlin)Davayı sonuçlandırmak için.
- Davacıların iddiasına göre Google Asistan, konuşmaları kaydettikten sonra kayıt altına aldı.istemeden tetiklendi.
- Davacıların iddiasına göre, kayıtlar hedefli reklamların yapılmasını sağlamak amacıyla reklamverenlerle paylaşıldı.
- Google, uzlaşma dosyasında herhangi bir yanlışlık yapmadığını ve davadan kaçındığını belirtti.
- Google Asistan, "Hey Google" gibi bir uyandırma ifadesi duyana kadar bekleme modunda dinlemek üzere tasarlanmıştır.
- Etkinleştirildiğinde, ses kaydedilebilir ve analiz için Google'ın sunucularına gönderilebilir.
- Hak sahibi olabilecek kişiler arasında 2000'li yıllardan itibaren Google cihazlarının sahipleri de yer alabilir.Mayıs 2016.
- Toplu dava uzlaşmasının bir hakim tarafından onaylanması gerekir; davacı avukatları ücretlerin üçte birine kadarını talep edebilirler.
Raporda ayrıca Apple'ın da dahil olduğu benzer bir Siri anlaşmasına da değiniliyor.
Teknik gerçeklik: "Kazara aktivasyon" nasıl gerçekleşir?
Uyandırma kelimesi sistemleri, gürültülü ortamlarda çalıştıkları için kusurludur:
- TV ve radyo
- örtüşen konuşmalar
- aksanlar ve konuşma varyasyonları
- arka plan gürültüsü
Ayrıca, yanlış tetikleme riskini artıran kısıtlamalar altında çalışırlar:
- sürekli dinlemesi gereken düşük güç tüketimli çipler
- Gecikme gereksinimleri (hemen yanıt vermesi gerekir)
- Normal konuşmayla karıştırılabilecek kısa uyandırma cümleleri
Cihaz, çok düşük gecikmeyle kısa bir ifadeyi algılamaya çalışıyor. Yanlış pozitifler, modelin uyandırma kelimesine yeterince yakın bir şey duyduğunu düşündüğünde ortaya çıkar.
Tasarım açısından bakıldığında, temel sorun şudur:
- Yanlış pozitif sonuçlar gizlilik ihlaline yol açar (kullanıcının istemediği halde kayıt yapılması).
- Yanlış negatif sonuçlar kullanılabilirlik sorununa yol açar (asistan istenildiği gibi yanıt vermez).
Her sesli asistan bu ikisi arasında bir denge kurar.
Bu neden sadece bir uzlaşma öyküsü değil, aynı zamanda bir gizlilik öyküsü?
Bir tazminat ödemesi, sistemin "casusluk" yapıp yapmadığını göstermez. Size şirketin dava riskini nasıl değerlendirdiğini gösterir.
Ancak gizlilikle ilgili daha geniş kapsamlı ders oldukça basit:
Mikrofonun her zaman kullanılabilir olması durumunda, sistemin sesin ne zaman kaydedildiği, nerede işlendiği, nasıl saklandığı ve kimlerin erişebileceği konusunda güçlü güvencelere ihtiyacı vardır.
Güven, politika dilinden daha fazlasına bağlıdır. Mimariye bağlıdır.
Mimari önemlidir: cihaz üzerinde mi yoksa bulutta mı?
Sesli asistanlar genellikle iki aşamadan oluşur:
-
Uyandırma kelimesi algılama
Hız ve gizlilik için genellikle cihaz üzerinde çalışır. -
Komut işleme
Genellikle bulut ortamında çalışır (dil anlama, arama, entegrasyonlar gibi özellikler için).
Gizlilik konusunda en önemli unsurlardan biri, cihazda ne kadar işlem gücünün kalabileceğidir.
- Ne kadar çok şey yerel kalırsa, yanlışlıkla gerçekleşen aktivasyonlar sonucu ses iletimi de o kadar azalır.
- Buluta taşınan veri miktarı arttıkça risk alanı da genişler (depolama, erişim, ihlaller, kötüye kullanım).
Modern cihazlar giderek daha fazla hesaplamayı yerel olarak yapmaya çalışıyor, ancak kapasite baskısı buluta doğru bir yönelim yaratıyor.
"Reklamverenlerle paylaşıldı" ifadesi tipik olarak ne anlama gelir?
Dava dosyasındaki iddia, kayıtların hedefleme amacıyla reklamverenlerle paylaşıldığı yönünde.
Birçok reklam sisteminde "paylaşım" farklı anlamlara gelebilir:
- Ham ses dosyalarının doğrudan paylaşılması (çok ciddi bir durum)
- transkriptlerin veya çıkarılan sinyallerin paylaşılması
- İlgi profilleri oluşturmak için dahili verileri kullanmak
Kullanıcılar için pratik çıkarım şu: Şirket "bekleme modundayken ses göndermiyoruz" dese bile, bir aktivasyon tetiklendiği anda, dahili kurallar uyarınca veriler işlenebilir ve saklanabilir.
Dolayısıyla asıl gizlilik sorunu şu hale geliyor:
- Kazara yapılan kayıtlar nasıl ele alınıyor?
- Hızlıca siliniyorlar mı?
- Kullanıcılar bunları denetleyebilir veya kaldırabilir mi?
Toplu davaların önemi: ölçek ve teşvikler
Toplu davalar, bireysel kullanıcıların küçük zararlar için dava açmasının gerçekçi olmaması nedeniyle vardır.
Ancak sesli asistanlardaki bir hata çok büyük boyutlara ulaştı:
- milyonlarca cihaz
- yıllarca kullanım
- potansiyel olarak hassas içerik yakalanabilir.
Bu durum, şirketler için risk almak yerine uzlaşmaya varmayı tercih etmeleri yönünde güçlü teşvikler yaratıyor:
- büyük hasarlar
- keşif iç belgeleri ortaya çıkarıyor
- itibar kaybı
Apple'ın Siri anlaşmasıyla paralellik
BBC'nin haberine göre Apple, benzer bir davayı çözmek için 95 milyon dolar ödedi.
Bu durum tek bir şirketi kapsamıyor:
- Sesli asistanlar artık tüketici cihazlarının temel bir parçası.
- Sürekli açık olan mikrofonlar normalize edilir.
- Arızalar kaçınılmazdır.
Bu, gizliliğin tasarım aşamasında isteğe bağlı olmadığı anlamına gelir. Bu, ürünün kendisidir.
Kullanıcıların yapabilecekleri (pratik adımlar)
Sesli asistan kullanıyorsanız, riski azaltmak için birkaç pratik önlem alabilirsiniz:
-
Ses geçmişini inceleyin ve silin.
Çoğu ekosistem, kayıtları silebileceğiniz bir kontrol paneli sunar. -
İhtiyacınız olmadığında sesli aktivasyonu kapatın.
Bir düğme kullanarak asistanı etkinleştirmek, yanlışlıkla tetiklenme olasılığını azaltır. -
Mikrofon izinlerini sınırlandırın
Mobil cihazlarda, hangi uygulamaların mikrofona erişebileceğini kısıtlayın. -
Hassas konular hakkında konuşurken dikkatli olun.
Finansal, tıbbi veya hukuki konuları görüşüyorsanız, sesli görüşme özelliklerini geçici olarak devre dışı bırakmayı düşünün.
Bunlar mükemmel çözümler değil, ancak kontrolü tekrar kullanıcıya veriyorlar.
Düzenleyicilerin ve ürün tasarımcılarının nelere odaklanması gerekiyor?
Amaç zararı azaltmaksa, en etkili baskı noktaları şunlardır:
1) Şeffaflık ve denetlenebilirlik
Kullanıcılar şunları görebilmelidir:
- aktivasyon gerçekleştiğinde
- kaydedilenler
- gönderildiği yer
- saklama süresi
2) Daha güçlü varsayılan ayarlar
Yanlışlıkla kayıt yapma riski şu durumlarda daha düşüktür:
- Ses geçmişi varsayılan olarak kapalıdır.
- Bekleme süreleri kısadır.
- Silme işlemi basittir.
3) Teknik güvenlik önlemleri
- uyandırma kelimesi algılaması için daha yüksek eşikler
- Buluta yüklemeden önce cihaz üzerinde doğrulama
- Onaylanmadığı takdirde atılan yerel tamponlama.
Sırada ne izlenecek?
-
Yerleşim onayı ve tazminat talebi süreci
Ödemelerin nasıl yapıldığı ve kimlerin hak kazandığı. -
Ürün değişiklikleri
Google varsayılan ayarları, kullanıcı tutma oranını veya kontrol panellerini değiştiriyor mu? -
Düzenleyici işlem
Gizlilik düzenleyicileri, bu tür davaları daha sıkı kurallar getirmek için gerekçe olarak kullanabilirler. -
Endüstri, cihaz içi yapay zekaya doğru kayıyor.
Çiplerin gelişmesiyle birlikte, daha fazla asistan yerel olarak çalışabiliyor ve böylece veri riskine maruz kalma azalıyor.
Özetle
Bu anlaşma, "her zaman dinleme" kolaylığının bir bedeli olduğunu hatırlatıyor: sistemler bazen arıza yapabilir ve böyle durumlarda gizlilik bir ürün başarısızlığı haline gelir.
Sesli asistanlar alanında uzun vadeli kazananlar en gürültülü pazarlamayı yapan şirketler olmayacak. Kazananlar, sistemin yalnızca gerektiğinde dinlediğini ve yanlışlıkla yapılan kayıtların güvenli bir şekilde ele alındığını teknik ve şeffaf bir şekilde kanıtlayabilen şirketler olacak.
Kaynaklar
- BBC Haberleri (Teknoloji):https://www.bbc.com/news/articles/c4g38jv8zzwo?at_medium=RSS&at_campaign=rss
- BBC Haberleri (Teknoloji) (Siri ile yapılan benzer anlaşmaya atıfta bulunuldu):https://www.bbc.co.uk/news/articles/cr4rvr495rgo