Perakendeciler, çok eski bir sorun olan hırsızlıkla başa çıkmak için giderek daha fazla "akıllı" gözetim sistemlerine yöneliyor. En yeni dalga, standart CCTV'nin ötesine geçerek, yüzleri, vücutları veya davranış kalıplarını gerçek zamanlı olarak tespit edebilen araçlar kullanıyor.
Jim Connolly tarafından çekilen bir BBC raporu, bu tür yapay zekâ destekli hırsızlık önleme teknolojisinin büyük zincir mağazalardan bağımsız bir postane gibi günlük yerlere ne kadar hızlı yayıldığını gösteriyor. Ayrıca, bu sistemlere karşı tepkilerin de aynı hızla artmasının nedenini ortaya koyuyor: Bu sistemler sadece izlemekle kalmıyor, insanları risk kategorilerine ayırabiliyor.
Teknolojinin şimdi yayılmasının nedenleri
Mağaza hırsızlığı her zaman perakende sektörünün bir parçası olmuştur, ancak bununla ilgili teşvikler değişmiştir. Mağazalar daha az personel, daha fazla self servis kasa ve daha küçük ekipler aracılığıyla daha yüksek hacimli işlemlerle çalışmaktadır. Bu da pratikte bir boşluk yaratır: mağaza içinde daha az insan gözü, ancak daha fazla kayıp fırsatı.
Bu nedenle satıcılar cazip bir teklif sunuyor: Yazılım kullanarak güvenlik önlemlerini "katlayarak" personel sayısını yaklaşık olarak aynı seviyede tutmak.
BBC haberinde, bazı büyük perakendecilerin ve bağımsız mağazaların şu unsurları bir arada kullandığı belirtiliyor:
- yapay zeka vücut taramaları
- Otomatik uyarı sistemine sahip CCTV sistemleri
- yüz tanıma ekipmanı
Kağıt üzerinde sistemler basit: personelden bir ekran duvarını izlemesini istemek yerine, bilgisayar izliyor ve şüpheli bir şey gördüğünde personele bildirim gönderiyor.
Pratikte, "şüpheli" kelimesi ürüne bağlı olarak birkaç farklı anlama gelebilir:
- Sistemin daha önceki bir olayla eşleştiğini düşündüğü bir yüz
- Sistemin "bilinen" veya "bilinmeyen" olarak sınıflandırdığı bir cisim
- önceki hırsızlıklara benzeyen hareket kalıpları
Bu geniş bir ağ. Ve geniş ağlar daha çok balık yakalar - ve daha çok istenmeyen av yakalar.
Yapay zekâ destekli vücut taramaları ve yüz tanıma teknolojisi aslında ne işe yarıyor?
Bu araçları düşünmenin faydalı bir yolu, videoları aranabilir verilere dönüştürdükleri şeklinde düşünmektir.
Geleneksel güvenlik kameraları çoğunlukla pasiftir: birilerinin daha sonra inceleyebileceği görüntüleri kaydeder. Yapay zeka destekli güvenlik kameraları ise aktiftir: gördüklerini gerçekleştiği anda etiketlemeye çalışır.
Yüz tanıma (en bariz olanı)
Yüz tanıma sistemi, kamera görüntülerinden bir "yüz izi" oluşturmaya ve bunu depolanmış bir listeyle karşılaştırmaya çalışır. Benzerlik varsa, sistem bir çalışanı uyarabilir, kapıyı kilitleyebilir, güvenliği bilgilendirebilir veya olayı kaydedebilir.
Mağaza açısından bakıldığında, bu durum tutarlılık sağladığı için caziptir: Geçen hafta hırsızlık yapan aynı kişi bugün de girişte görülebilir.
Ancak bu durum aynı zamanda şu önemli soruyu da gündeme getiriyor: Kaynakça nereden geliyor ve biri bu listeden nasıl çıkabiliyor?
Yapay zekâ destekli vücut taramaları (daha az sezgisel, ancak genellikle daha yaygın)
BBC raporunda yapay zekâ destekli vücut taramaları, yüz tanıma teknolojisiyle birlikte ele alınıyor. Birçok uygulamada "vücut tarama" bilim kurgu filmlerindeki gibi tüm vücudu tarayan bir cihaz anlamına gelmiyor. Genellikle vücut şekline, duruşuna, kıyafet silüetine veya hareketine göre insanları tespit eden ve izleyen bir sistem anlamına geliyor.
Bir perakendeci neden bunu kullansın ki?
- Vücut tabanlı kimlik tespiti, yüzün kısmen gizlendiği durumlarda bile çalışabilir.
- Bir kişiyi birden fazla kamera açısı üzerinden takip edebiliyor.
- Davranışları (oyalanma, hızlı hareket etme, rafa geri dönme) kalıplar olarak etiketleyebilir.
Sivil özgürlük savunucularını tedirgin eden kısım burası: "Gözlem altında tutmamız gereken biri" olarak değerlendirilmek için adınızın belirtilmesine gerek olmayabilir.
İzleme listelerinin sessiz gücü
Sivil özgürlük savunucuları BBC'ye, halkın "gizli izleme listelerine alındığını ve elektronik olarak kara listeye alındığını" söyledi.
Bu dil önemlidir, çünkü tek bir dükkanın bir müşteriyi yasaklamasından daha büyük bir şeyi tanımlar.
Bir izleme listesi şu özelliklere sahip olduğunda daha etkili hale gelir:
-
Bu durum zamanla devam eder.Bir anlık şüphe, gelecekteki ziyaretlerinizi de etkileyebilir.
-
Farklı yerler arasında seyahat eder.Bir dükkandan aldığınız bayrak, başka bir dükkanda size nasıl davranılacağını etkileyebilir.
-
Buna itiraz etmek zor.Sistem size hiçbir zaman işaretlendiğinizi bildirmezse, buna itiraz edemezsiniz.
Resmi bir "yasak" olmasa bile, bir izleme listesi sonuçları şekillendirebilir:
- personel size farklı şekilde yaklaşıyor
- Daha yakından izleniyorsunuz
- Girişinize izin verilmedi.
- Güvenlik, normalde olacağından daha erken bir aşamada devreye giriyor.
Risk sadece yanlış pozitif sonuçlarla sınırlı değil; yanlış pozitif sonuçların kalıcı hale gelmesi de bir risk.
Kanun ne diyor, insanlar ne deneyimliyor?
BBC'nin haberine göre, hükümetin görüşü, ticari yüz tanıma teknolojisinin yasal olduğu ancak kullanımının sıkı veri koruma yasalarına uygun olması ve şeffaf bir şekilde gerçekleştirilmesi gerektiği yönündedir.
O tek cümle, gerçek savaş alanını içeriyor.
"Yasal" olmak, "sosyal olarak kabul edilebilir" olmakla aynı şey değildir.
Bir perakendeci teknik olarak yasal olan bir şey yapsa bile, müşteriler kuralların tek taraflı olduğunu düşünürse yine de tepkiyle karşılaşabilir.
Gözetim teknolojisi, alışverişin duygusal sözleşmesini değiştiriyor. İnsanlar belirli bir düzeyde kayıp önleme önlemini (kameralar, personel, etiketler) kabul ediyor. Ancak sistem ziyaretçileri -potansiyel olarak onların haberi olmadan- kategorize etmeye başladığında, ilişki "mağaza mallarını koruyor"dan "mağaza beni değerlendiriyor"a dönüşüyor.
Şeffaflık, tabela asmaktan daha zordur.
“Şeffaflık” kulağa kolayca yerine getirilebilecek bir şey gibi geliyor: kapıya bir uyarı notu asmak yeterli. Ancak anlamlı bir şeffaflık, şu gibi sorulara cevap verilmesini gerektirir:
- Yüz tanıma teknolojisi mi kullanıyorsunuz, yoksa sadece standart güvenlik kameraları mı?
- Hangi verileri saklıyorsunuz ve ne kadar süreyle?
- Verilerinizi başka siteler veya ortaklarla paylaşıyor musunuz?
- Birisi hatalı bir bayrağı nasıl düzeltebilir veya itiraz edebilir?
Müşterilerin çoğu için varsayılan durum bilgisizliktir: Bir sistemin varlığından ancak bir sorun çıktığında haberdar olurlar.
Perakendecilerin reklamını yapmadığı operasyonel ödünleşmeler
Perakendeciler bu sistemleri maliyet ve kapsam açısından benimsiyorlar, ancak bütçe tablosuna düzgün bir şekilde sığmayan riskleri de üstleniyorlar.
1) Yanlış pozitif sonuçlar gerçek dünyada zarara yol açar.
Sistem masum bir kişiyi işaretlerse, "zarar" soyut bir şey değildir. Utanç, yıldırma, dışlanma veya gerginliğin artması şeklinde olabilir.
Ayrıca bir geri bildirim etkisi de vardır: Bir kişi şüpheli olarak ele alındığında, herhangi bir gergin davranış daha "şüpheli" görünebilir ve sistemin ilk hatasını pekiştirebilir.
2) Personel, kara kutunun uygulayıcıları haline gelir.
Sistem bir uyarı sinyali gönderdiğinde, personel bir karar verme noktasına gelir: harekete geçmek veya görmezden gelmek.
Eğer harekete geçerlerse ve bu yanlışsa, insanların hatırlayacağı şey algoritma değil, insan etkileşimidir. Eğer uyarıyı görmezden gelirlerse ve hırsızlık gerçekleşirse, yönetim uyarının neden dikkate alınmadığını sorabilir.
Dolayısıyla, araç "tavsiye niteliğinde" olsa bile, iş yerinde zorlayıcı bir hale gelir.
3) Teknoloji, görev kapsamının genişlemesine yol açıyor.
Mağaza hırsızlığı için kurulan bir sistem daha sonra şu amaçlarla yeniden kullanılabilir:
- tekrarlanan para iadesi girişimlerini tespit etmek
- toplumsal düzeni bozan davranışlara yönelik yasakların uygulanması
- personel performansının takibi
Görev kapsamının genişlemesi her zaman kötü niyetli değildir. Çoğu zaman sadece yatırım mantığından kaynaklanır: "Bu sistem için zaten ödeme yaptık; daha ne yapabilir ki?"
Kamuoyu tartışmasının nasıl gelişmesi muhtemel?
Bundan sonraki aşama donanımdan ziyade yönetişimle ilgili olacak.
Kısa vadede muhtemelen şöyle bir örüntü göreceğiz:
- daha fazla kurulum (özellikle satıcılar sistemleri küçük işletmeler için paketledikçe)
- Daha fazla kampanya, net kurallar ve şeffaflık talep ediyor.
- Müşteriler "akıllı gözetim" sistemlerinin günlük yaşam alanlarında da var olduğunu öğrendikçe sürtüşme artıyor.
En etkili politika soruları felsefi olmaktan ziyade pratik olacaktır:
- Doğruluk standartlarını kim belirliyor?
- İzleme listelerini kim denetliyor?
- Bir kişi işaretlendiğini nasıl öğrenir?
- Sökme işlemi nasıl yapılır?
Yanıt bulamayan perakendeciler, kayıpları önlemek için tasarlanmış bir aracın farklı bir maliyete yol açtığını görebilirler: itibar kaybı ve müşteri güvensizliği.
Özetle
Yapay zekâ destekli hırsızlık önleme sistemleri, personel zaman kaybını otomatik gözetimle telafi etmeyi vaat ediyor ve bu nedenle büyük perakendecilerden yerel dükkanlara yayılıyorlar. Ancak gözetim, kategorizasyona dönüştüğünde – izleme listeleri, kara listeye alma ve belirsiz “risk” etiketleri – teknoloji sessiz bir güvenlik önlemi olmaktan çıkıp kamu güveni sorunu haline geliyor.
Kaynaklar
- BBC Haberleri (Teknoloji):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss