Sprzedawcy detaliczni coraz częściej sięgają po „inteligentny” monitoring, aby uporać się z bardzo starym problemem: kradzieżami. Najnowsza fala wykracza poza standardowy monitoring CCTV, wykorzystując narzędzia, które mogą w czasie rzeczywistym identyfikować twarze, sylwetki lub wzorce zachowań.
Reportaż BBC nakręcony przez Jima Connolly'ego pokazuje, jak szybko tego typu oparta na sztucznej inteligencji technologia antykradzieżowa przenosi się z dużych sieci do zwykłych miejsc, takich jak niezależna poczta. Pokazuje również, dlaczego opór rośnie równie szybko: te systemy nie tylko obserwują, ale i klasyfikują ludzi do kategorii ryzyka.
Dlaczego technologia rozprzestrzenia się teraz
Kradzieże sklepowe zawsze były częścią handlu detalicznego, ale motywy je motywujące uległy zmianie. Sklepy działają z mniejszą liczbą pracowników, większą liczbą kas samoobsługowych i większymi ilościami towarów obsługiwanymi przez mniejsze zespoły. To tworzy praktyczną lukę: mniej ludzi na sali, ale większe ryzyko strat.
Dostawcy składają więc kuszącą propozycję: utrzymanie mniej więcej stałego poziomu zatrudnienia przy jednoczesnym „zwiększeniu” czujności za pomocą oprogramowania.
W artykule BBC zauważono, że niektórzy duzi sprzedawcy detaliczni i niezależne sklepy wprowadzili zestaw następujących rozwiązań:
- Skanowanie ciała za pomocą sztucznej inteligencji
- Systemy CCTV z automatycznymi alertami
- sprzęt do rozpoznawania twarzy
Na papierze systemy są proste: zamiast prosić personel o obserwowanie ściany ekranów, komputer obserwuje pracownika i wysyła do niego sygnał, gdy coś wydaje mu się podejrzane.
W praktyce „podejrzany” może oznaczać kilka różnych rzeczy, w zależności od produktu:
- twarz, którą system uważa za odpowiadającą wcześniejszemu incydentowi
- ciało, które system klasyfikuje jako „znane” lub „nieznane”
- wzorce ruchu przypominające wcześniejsze kradzieże
To szeroka sieć. A szerokie sieci łowią więcej ryb — i więcej przyłowu.
Co tak naprawdę robią „skanowanie ciała za pomocą sztucznej inteligencji” i rozpoznawanie twarzy
Przydatnym sposobem myślenia o tych narzędziach jest to, że zamieniają one wideo w dane, które można przeszukiwać.
Tradycyjny monitoring CCTV jest w większości pasywny: rejestruje nagrania, które ktoś może później obejrzeć. Monitoring oparty na sztucznej inteligencji jest aktywny: próbuje oznaczać to, co widzi, na bieżąco.
Rozpoznawanie twarzy (oczywiste)
System rozpoznawania twarzy próbuje utworzyć „odcisk twarzy” na podstawie nagrania z kamery i porównać go z zapisaną listą. W przypadku bliskiego dopasowania, system może powiadomić pracownika, zamknąć drzwi, powiadomić ochronę lub po prostu zarejestrować zdarzenie.
Z punktu widzenia sklepu jest to atrakcyjne, ponieważ obiecuje spójność: tę samą osobę, która dokonała kradzieży w zeszłym tygodniu, można dziś spotkać przy wejściu.
Ale nasuwa się też pytanie: skąd bierze się lista referencyjna i jak można z niej zrezygnować?
Skanowanie ciała przez sztuczną inteligencję (mniej intuicyjne, ale często bardziej powszechne)
Raport BBC wspomina o skanowaniu ciała przez sztuczną inteligencję obok rozpoznawania twarzy. W wielu zastosowaniach „skanowanie ciała” nie oznacza skanera całego ciała rodem z filmów science fiction. Często oznacza system, który wykrywa i śledzi ludzi na podstawie kształtu ciała, postawy, sylwetki ubrania lub ruchu.
Dlaczego sprzedawca detaliczny miałby z tego korzystać?
- Identyfikacja na podstawie ciała może działać nawet wtedy, gdy twarz jest częściowo zasłonięta.
- Może śledzić osobę pod wieloma kątami kamery.
- Można określić „zachowanie” (opóźnianie się, szybkie poruszanie się, powrót na półkę) jako wzorce.
To właśnie ta część niepokoi obrońców praw obywatelskich: być może nie będzie trzeba ujawniać swojego nazwiska, aby zostać potraktowanym jako „kogoś, kogo powinniśmy obserwować”.
Cicha moc list obserwacyjnych
Aktywiści na rzecz swobód obywatelskich poinformowali BBC, że osoby przebywające na głównych ulicach handlowych są umieszczane na „tajnych listach obserwacyjnych i elektronicznie wykluczane”.
To sformułowanie ma znaczenie, ponieważ opisuje coś większego niż pojedynczy sklep decydujący się na zablokowanie klienta.
Lista obserwowanych staje się bardziej znacząca, gdy ma następujące cechy:
-
Utrzymuje się przez długi czas.Chwila podejrzeń może się za Tobą ciągnąć podczas następnych wizyt.
-
Podróżuje między lokacjami.Flaga jednego sklepu może mieć wpływ na to, jak będziesz traktowany w innym.
-
Trudno to podważyć.Jeśli system nigdy nie poinformuje Cię o tym, że zostałeś oznaczony, nie możesz tego zakwestionować.
Nawet bez formalnego „zakazu” lista obserwacyjna może wpływać na wyniki:
- personel podchodzi do ciebie inaczej
- jesteś pod większą obserwacją
- odmówiono ci wstępu
- bezpieczeństwo jest wzywane wcześniej, niż miałoby to miejsce w innych okolicznościach
Ryzyko nie polega tylko na fałszywie pozytywnych wynikach — ryzyko polega także na tym, że fałszywie pozytywne wyniki staną się toksyczne.
Co mówi prawo a to, czego doświadczają ludzie
Z raportu BBC wynika, że stanowisko rządu jest takie, iż komercyjne rozpoznawanie twarzy jest legalne, ale jego stosowanie musi być zgodne z rygorystycznymi przepisami o ochronie danych i transparentne.
To jedno zdanie zawiera prawdziwe pole bitwy.
„Legalne” nie jest tym samym co „społecznie akceptowalne”
Sprzedawca detaliczny może robić coś, co jest technicznie zgodne z prawem, a mimo to spotkać się z negatywną reakcją klientów, jeśli odczują, że przepisy są jednostronne.
Technologia monitoringu zmienia emocjonalny aspekt zakupów. Ludzie akceptują pewien poziom zabezpieczeń przed stratami (kamery, personel, tagi). Ale kiedy system zaczyna kategoryzować odwiedzających – potencjalnie bez ich wiedzy – relacja zmienia się z „sklep chroni swój towar” na „sklep mnie ocenia”.
Przejrzystość jest trudniejsza niż postawienie znaku
„Przejrzystość” brzmi jak łatwe pole do odhaczenia: dodanie ogłoszenia przy drzwiach. Jednak znacząca przejrzystość wymagałaby odpowiedzi na pytania takie jak:
- Czy korzystasz z funkcji rozpoznawania twarzy, czy tylko ze standardowego monitoringu CCTV?
- Jakie dane przechowujesz i jak długo?
- Czy udostępniacie dane innym stronom lub partnerom?
- Jak można odwołać się od błędnej flagi lub ją poprawić?
Dla większości klientów domyślnym stanem jest ignorancja: dowiadują się o istnieniu systemu dopiero wtedy, gdy coś pójdzie nie tak.
Kompromisy operacyjne, których sprzedawcy detaliczni nie reklamują
Sprzedawcy detaliczni stosują te systemy w celu określenia kosztów i zakresu ochrony, ale dziedziczą ryzyko, którego nie da się dokładnie uwzględnić w arkuszu kalkulacyjnym dotyczącym budżetu.
1) Fałszywie pozytywne wyniki powodują realne szkody
Jeśli system oznaczy niewinną osobę, „szkoda” nie jest abstrakcyjna. Może to być zażenowanie, zastraszenie, wykluczenie lub eskalacja.
Ma to również efekt sprzężenia zwrotnego: gdy ktoś zostanie potraktowany jak podejrzany, każde nerwowe zachowanie może wydawać się bardziej „podejrzane”, co wzmacnia początkowy błąd systemu.
2) Pracownicy stają się egzekutorami czarnej skrzynki
Gdy system wysyła alert, personel staje przed koniecznością podjęcia decyzji: podjąć działanie lub zignorować alert.
Jeśli podejmą działanie, które okaże się niewłaściwe, zapamiętują interakcję międzyludzką, a nie algorytm. Jeśli zignorują je i dojdzie do kradzieży, kierownictwo może zapytać, dlaczego alert został odrzucony.
Więc nawet jeśli narzędzie ma charakter „doradczy”, w miejscu pracy staje się narzędziem przymusu.
3) Technologia ta zachęca do rozszerzania misji
System zainstalowany na potrzeby zapobiegania kradzieżom sklepowym może być później wykorzystany w następujący sposób:
- identyfikacja powtarzających się prób zwrotu pieniędzy
- egzekwowanie zakazów za zachowania antyspołeczne
- śledzenie wydajności personelu
Rozrost misji nie zawsze jest złośliwy. Często wynika po prostu z logiki inwestycji: „Zapłaciliśmy już za ten system; co jeszcze może zrobić?”.
Jak prawdopodobnie będzie rozwijać się dyskusja publiczna
Teraz mniej będzie o sprzęcie, a więcej o zarządzaniu.
W krótkiej perspektywie prawdopodobnie zobaczymy następujący schemat:
- więcej wdrożeń (szczególnie w przypadku, gdy dostawcy oferują systemy w pakietach dla mniejszych firm)
- więcej kampanii domagających się jasnych zasad i ujawniania informacji
- więcej tarć, gdy klienci dowiadują się, że „inteligentny nadzór” jest obecny w codziennych miejscach
Najważniejsze pytania polityczne będą miały charakter praktyczny, a nie filozoficzny:
- Kto ustala standardy dokładności?
- Kto dokonuje audytu list obserwacyjnych?
- Jak ktoś dowiaduje się, że został oznaczony?
- Jaki jest proces usuwania?
Jeśli nie uda się znaleźć odpowiedzi, sprzedawcy detaliczni mogą dojść do wniosku, że narzędzie mające zapobiegać stratom generuje innego rodzaju koszty: utratę reputacji i utratę zaufania klientów.
Podsumowanie
Systemy antykradzieżowe oparte na sztucznej inteligencji obiecują zastąpić braki w czasie pracy personelu zautomatyzowanym systemem nadzoru, dlatego rozprzestrzeniają się z dużych sieci handlowych na lokalne sklepy. Jednak gdy nadzór przekształca się w kategoryzację – listy obserwacyjne, czarne listy i niejasne etykiety „ryzyka” – technologia przestaje być cichym środkiem bezpieczeństwa, a staje się problemem zaufania publicznego.
Źródła
- BBC News (technologia):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss