Maloobchodníci se stále častěji obracejí k „chytrému“ dohledu, aby se vypořádali s velmi starým problémem: krádežemi. Nejnovější vlna jde nad rámec standardních CCTV systémů a využívá nástroje, které dokáží v reálném čase označovat tváře, těla nebo vzorce chování.
Reportáž BBC natočená Jimem Connollym ukazuje, jak rychle se tento druh technologie proti krádežím v obchodech, řízené umělou inteligencí, přesouvá z velkých řetězců do každodenních míst, jako je nezávislá pošta. Ukazuje také, proč odpor roste stejně rychle: tyto systémy nejen sledují – dokáží lidi třídit do rizikových kategorií.
Proč se technologie šíří právě teď
Krádeže v obchodech byly vždy součástí maloobchodu, ale motivace k nim se změnily. Obchody fungují s menším počtem zaměstnanců, více samoobslužnými pokladnami a většími objemy zboží procházejícími menšími týmy. To vytváří praktickou mezeru: méně lidských očí v obchodě, ale více příležitostí ke ztrátám.
Dodavatelé tedy předkládají lákavý návrh: zachovat zhruba stejný počet zaměstnanců a zároveň „znásobit“ bdělost pomocí softwaru.
Článek BBC uvádí, že někteří velcí maloobchodníci a nezávislé obchody zavedli kombinaci:
- Skenování těla pomocí umělé inteligence
- Systémy CCTV s automatickými upozorněními
- zařízení pro rozpoznávání obličeje
Na papíře jsou systémy jednoduché: místo aby počítač požadoval, aby zaměstnanci sledovali zeď obrazovek, sleduje ji a pingne zaměstnance, když si myslí, že něco vypadá podezřele.
V praxi může „podezřelý“ znamenat několik různých věcí v závislosti na produktu:
- tvář, o které systém myslí, že odpovídá předchozímu incidentu
- těleso, které systém klasifikuje jako „známé“ nebo „neznámé“
- vzorce pohybu, které připomínají předchozí krádeže
To je široká síť. A široké sítě chytí více ryb – a více vedlejších úlovků.
Co vlastně dělají „skenování těla pomocí umělé inteligence“ a rozpoznávání obličeje
Užitečný způsob, jak si tyto nástroje představit, je, že přeměňují video na prohledávatelná data.
Tradiční CCTV je většinou pasivní: nahrává záběry, které si někdo může později prohlédnout. CCTV s umělou inteligencí je aktivní: snaží se označit to, co vidí, hned jak se to děje.
Rozpoznávání obličeje (to zřejmé)
Rozpoznávání obličeje se pokouší vytvořit „otisk obličeje“ ze záznamu kamery a porovnat ho s uloženým seznamem. Pokud existuje blízká shoda, systém může upozornit pracovníka, zamknout dveře, upozornit ostrahu nebo jednoduše zaznamenat událost.
Z pohledu obchodu je to atraktivní, protože to slibuje konzistenci: u vchodu je dnes vidět tentýž člověk, který kradl minulý týden.
Ale zároveň to vyvolává ostrou otázku: odkud se bere seznam literatury a jak se z něj někdo dostane?
Skenování těla pomocí umělé inteligence (méně intuitivní, ale často běžnější)
Zpráva BBC zmiňuje skenování těla pomocí umělé inteligence vedle rozpoznávání obličeje. V mnoha případech se pod pojmem „skenování těla“ nemyslí sci-fi skener celého těla. Často se tím myslí systém, který detekuje a sleduje lidi na základě tvaru těla, držení těla, siluety oblečení nebo pohybu.
Proč by to maloobchodník používal?
- Identifikace na základě těla může fungovat i tehdy, když je obličej částečně zakrytý.
- Dokáže sledovat osobu z více úhlů kamery.
- Může označit „chování“ (zdržování se, rychlý pohyb, návrat k poličce) jako vzorce.
Právě tohle znepokojuje zastánce občanských svobod: nemusíte být jmenováni, abyste byli považováni za „někoho, koho bychom měli sledovat“.
Tichá síla seznamů sledovaných položek
Aktivisté za občanské svobody sdělili BBC, že veřejnost je v jejich hlavních ulicích zařazována na „tajné seznamy sledovaných osob a elektronicky na černé listiny“.
Tato formulace je důležitá, protože popisuje něco většího než jen jeden obchod, který se rozhodne zákazníkovi zakázat vstup.
Seznam sledovaných položek se stává důležitějším, pokud má tyto vlastnosti:
-
Přetrvává to v průběhu času.Okamžik podezření vás může provázet i při budoucích návštěvách.
-
Cestuje mezi lokalitami.Vlajka z jednoho obchodu může ovlivnit, jak se s vámi zachází v jiném.
-
Je těžké to napadnout.Pokud vám systém nikdy neřekne, že jste byli nahlášeni, nemůžete to napadnout.
I bez formálního „zákazu“ může seznam sledovaných subjektů ovlivnit výsledky:
- personál k vám přistupuje jinak
- jsi sledován bedlivěji
- je vám odepřen vstup
- zabezpečení je voláno dříve, než by tomu bylo jinak.
Riziko nespočívá jen v falešně pozitivních výsledcích – riziko spočívá v tom, že se falešně pozitivní výsledky stanou trvalými.
Co říká zákon vs. co lidé zažívají
Zpráva BBC uvádí, že postoj vlády je, že komerční rozpoznávání obličeje je legální, ale jeho používání musí být v souladu s přísnými zákony na ochranu osobních údajů a musí být používáno transparentně.
Ta jediná věta obsahuje skutečné bojiště.
„Legální“ není totéž co „společensky přijatelné“
Prodejce může udělat něco, co je technicky v souladu s předpisy, a přesto vyvolat negativní reakci, pokud si zákazníci myslí, že pravidla jsou jednostranná.
Technologie sledování mění emocionální vztah k nakupování. Lidé akceptují určitou úroveň prevence ztrát (kamery, personál, štítky). Ale když systém začne návštěvníky kategorizovat – potenciálně bez jejich vědomí – vztah se změní z „obchod chrání své zboží“ na „obchod mě hodnotí“.
Transparentnost je těžší než umístění cedule
„Transparentnost“ zní jako snadné políčko k zaškrtnutí: přidat oznámení ke dveřím. Smysluplná transparentnost by však vyžadovala odpovědi na otázky jako:
- Používáte rozpoznávání obličeje, nebo jen standardní CCTV?
- Jaká data uchováváte a jak dlouho?
- Sdílíte data s jinými weby nebo partnery?
- Jak se lze odvolat proti chybnému nahlášení nebo jej opravit?
Pro většinu zákazníků je výchozím stavem nevědomost: o existenci systému se dozví, až když se něco pokazí.
Provozní kompromisy, které maloobchodníci neinzerují
Maloobchodníci tyto systémy zavádějí kvůli nákladům a krytí, ale dědí s nimi rizika, která se do rozpočtové tabulky nehodí.
1) Falešně pozitivní výsledky způsobují škody v reálném světě
Pokud systém označí nevinnou osobu, „újma“ není abstraktní. Může se jednat o ztrapnění, zastrašování, vyloučení nebo eskalaci.
Má to také efekt zpětné vazby: jakmile je s někým zacházeno jako s podezřelým, jakékoli nervózní chování může vypadat „podezřeleji“, což posiluje počáteční chybu systému.
2) Zaměstnanci se stávají strážci černé skříňky
Když systém odešle upozornění pomocí pingu, zaměstnanci jsou nuceni k rozhodnutí: jednat na základě něj, nebo ho ignorovat.
Pokud jednají a je to špatně, lidé si pamatují lidskou interakci – nikoli algoritmus. Pokud to ignorují a dojde ke krádeži, vedení se může zeptat, proč bylo upozornění zamítnuto.
Takže i když je nástroj „poradenský“, stává se na pracovišti donucovacím.
3) Technologie láká k postupnému navyšování mise
Systém instalovaný pro krádeže v obchodech by mohl být později znovu využit pro:
- identifikace opakovaných pokusů o vrácení peněz
- vynucování zákazů antisociálního chování
- sledování výkonu zaměstnanců
Plíživé navyšování cílů nemusí být vždycky zlomyslné. Často jde jen o logiku investice: „Za tento systém jsme už zaplatili, co jiného může dělat?“
Jak se bude pravděpodobně vyvíjet veřejná diskuse
Dále se méně zaměříme na hardware a více na správu a řízení.
V krátkodobém horizontu pravděpodobně uvidíme vzorec:
- více nasazení (zejména proto, že dodavatelé balí systémy pro menší firmy)
- více kampaní požadujících jasná pravidla a zveřejňování informací
- větší napětí, protože zákazníci se dozvídají, že „chytrý dohled“ existuje v každodenních prostorách
Nejdůležitější politické otázky budou spíše praktické než filozofické:
- Kdo stanovuje standardy pro přesnost?
- Kdo audituje seznamy sledovaných položek?
- Jak se někdo dozví, že byl nahlášen?
- Jaký je postup pro odstranění?
Bez odpovědí mohou maloobchodníci zjistit, že nástroj určený k prevenci ztrát vytváří jiný druh nákladů: poškození pověsti a nedůvěru zákazníků.
Sečteno a podtrženo
Systémy umělé inteligence proti krádežím v obchodech slibují nahradit chybějící pracovní dobu zaměstnanců automatizovanou ostražitostí, a proto se šíří z velkých maloobchodníků do místních obchodů. Když se ale dohled změní v kategorizaci – seznamy sledovaných subjektů, černé listiny a neprůhledné označení „riziko“ – technologie přestává být tichým bezpečnostním opatřením a stává se problémem veřejné důvěry.
Zdroje
- Zprávy BBC (Technologie):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss