Maloobchodníci sa čoraz viac obracajú na „inteligentný“ dohľad, aby sa vysporiadali s veľmi starým problémom: krádežou. Najnovšia vlna ide nad rámec štandardného CCTV a využíva nástroje, ktoré dokážu v reálnom čase označovať tváre, telá alebo vzorce správania.
Reportáž BBC, ktorú natočil Jim Connolly, ukazuje, ako rýchlo sa tento druh technológie proti krádežiam v obchodoch, riadenej umelou inteligenciou, presúva z veľkých reťazcov do každodenných miest, ako je napríklad nezávislá pošta. Ukazuje tiež, prečo odpor rastie rovnako rýchlo: tieto systémy nielen sledujú – dokážu ľudí triediť do rizikových kategórií.
Prečo sa táto technológia šíri práve teraz
Krádeže v obchodoch boli vždy súčasťou maloobchodu, ale stimuly, ktoré s nimi súvisia, sa zmenili. Obchody fungujú s menším počtom zamestnancov, viac samoobslužnými pokladňami a väčšími objemami tovaru, ktoré prepravujú menšie tímy. To vytvára praktickú medzeru: menej ľudských očí na predajni, ale viac príležitostí na straty.
Dodávatelia teda ponúkajú lákavý návrh: zachovať zhruba rovnaký počet zamestnancov a zároveň „znásobiť“ ostražitosť pomocou softvéru.
Článok BBC uvádza, že niektorí veľkí maloobchodníci a nezávislé obchody zaviedli kombináciu:
- Skenovanie tela pomocou umelej inteligencie
- CCTV systémy s automatickými upozorneniami
- zariadenia na rozpoznávanie tváre
Na papieri sú systémy jednoduché: namiesto toho, aby počítač žiadal zamestnancov, aby sledovali stenu obrazoviek, sleduje ich a pingne zamestnanca, keď si myslí, že niečo vyzerá podozrivo.
V praxi môže „podozrivý“ znamenať niekoľko rôznych vecí v závislosti od produktu:
- tvár, ktorú systém považuje za zhodnú s predchádzajúcim incidentom
- teleso, ktoré systém klasifikuje ako „známe“ alebo „neznáme“
- vzorce pohybu, ktoré pripomínajú predchádzajúce krádeže
To je široká sieť. A široké siete chytia viac rýb – a viac vedľajších úlovkov.
Čo vlastne robia „skenovanie tela pomocou umelej inteligencie“ a rozpoznávanie tváre
Užitočný spôsob, ako si tieto nástroje predstaviť, je, že premieňajú video na vyhľadávateľné dáta.
Tradičný CCTV je väčšinou pasívny: nahráva zábery, ktoré si niekto môže neskôr prezrieť. CCTV s umelou inteligenciou je aktívny: snaží sa označiť to, čo vidí, hneď ako sa to deje.
Rozpoznávanie tváre (to zrejmé)
Rozpoznávanie tváre sa pokúša vytvoriť „odtlačok tváre“ zo záznamu kamery a porovnať ho s uloženým zoznamom. Ak existuje blízka zhoda, systém môže upozorniť pracovníka, zamknúť dvere, upozorniť bezpečnostnú službu alebo jednoducho zaznamenať udalosť.
Z pohľadu obchodu je to atraktívne, pretože sľubuje konzistentnosť: tú istú osobu, ktorá kradla minulý týždeň, možno dnes spozorovať pri vchode.
Zároveň to však vyvoláva ostrú otázku: odkiaľ pochádza zoznam referencií a ako sa z neho niekto dostane?
Skenovanie tela pomocou umelej inteligencie (menej intuitívne, ale často bežnejšie)
V správe BBC sa okrem rozpoznávania tváre spomína aj skenovanie tela pomocou umelej inteligencie. V mnohých prípadoch sa pod pojmom „skenovanie tela“ nemyslí sci-fi skener celého tela. Často sa tým myslí systém, ktorý detekuje a sleduje ľudí na základe tvaru tela, držania tela, siluety oblečenia alebo pohybu.
Prečo by to maloobchodník používal?
- Identifikácia na základe tela môže fungovať aj vtedy, keď je tvár čiastočne zakrytá.
- Dokáže sledovať osobu z viacerých uhlov kamery.
- Môže označiť „správanie“ (zostávanie, rýchly pohyb, návrat na poličku) ako vzorce.
Toto je tá časť, ktorá znepokojuje zástancov občianskych slobôd: možno nemusíte byť identifikovaní menom, aby ste boli považovaní za „niekoho, koho by sme mali sledovať“.
Tichá sila zoznamov sledovaných položiek
Aktivisti za občianske slobody pre BBC uviedli, že verejnosť je v ich hlavných uliciach zaraďovaná na „tajné zoznamy sledovaných osôb a elektronicky zaraďovaná na čiernu listinu“.
Táto formulácia je dôležitá, pretože opisuje niečo väčšie ako len jeden obchod, ktorý sa rozhodol zakázať zákazníkovi vstup.
Zoznam sledovaných položiek sa stáva dôležitejším, keď má tieto vlastnosti:
-
Pretrváva to v priebehu času.Chvíľka podozrievania vás môže sprevádzať aj pri budúcich návštevách.
-
Cestuje medzi lokalitami.Vlajka z jedného obchodu môže ovplyvniť, ako sa s vami bude zaobchádzať v inom.
-
Je ťažké to napadnúť.Ak vám systém nikdy neoznámi, že ste boli nahlásení, nemôžete to napadnúť.
Aj bez formálneho „zákazu“ môže zoznam sledovaných subjektov ovplyvniť výsledky:
- personál k vám pristupuje inak
- si pozornejšie sledovaný
- máš zamietnutý vstup
- zabezpečenie sa volá skôr, ako by to bolo inak
Riziko nespočíva len v falošne pozitívnych výsledkoch – ide o to, že falošne pozitívne výsledky sa stanú „lepivými“.
Čo hovorí zákon verzus to, čo ľudia zažívajú
V správe BBC sa uvádza, že vláda zastáva názor, že komerčné rozpoznávanie tváre je legálne, ale jeho používanie musí byť v súlade s prísnymi zákonmi o ochrane údajov a musí sa používať transparentne.
Táto jediná veta obsahuje skutočné bojisko.
„Legálne“ nie je to isté ako „spoločensky prijateľné“
Predajca môže urobiť niečo, čo je technicky legálne, a stále vyvolať negatívnu reakciu, ak majú zákazníci pocit, že pravidlá sú jednostranné.
Technológia sledovania mení emocionálny vzťah k nakupovaniu. Ľudia akceptujú určitú úroveň prevencie strát (kamery, personál, štítky). Keď však systém začne kategorizovať návštevníkov – potenciálne bez ich vedomia – vzťah sa zmení z „obchod chráni svoj tovar“ na „obchod ma hodnotí“.
Transparentnosť je ťažšia ako umiestnenie nápisu
„Transparentnosť“ znie ako jednoduché políčko, ktoré treba zaškrtnúť: pridajte oznam na dvere. Zmysluplná transparentnosť by si však vyžadovala odpovede na otázky ako:
- Používate rozpoznávanie tváre alebo iba štandardný CCTV?
- Aké údaje uchovávate a ako dlho?
- Zdieľate údaje s inými stránkami alebo partnermi?
- Ako sa niekto môže odvolať proti chybnému nahláseniu alebo ho opraviť?
Pre väčšinu zákazníkov je štandardným stavom nevedomosť: o existencii systému sa dozvedia až vtedy, keď sa niečo pokazí.
Prevádzkové kompromisy, ktoré maloobchodníci neinzerujú
Maloobchodníci prijímajú tieto systémy kvôli nákladom a krytiu, ale zdedia riziká, ktoré sa nezmestia do tabuľky rozpočtu.
1) Falošne pozitívne výsledky spôsobujú škody v reálnom svete
Ak systém označí nevinnú osobu, „ujma“ nie je abstraktná. Môže ísť o zahanbenie, zastrašovanie, vylúčenie alebo eskaláciu.
Má to tiež efekt spätnej väzby: akonáhle sa s niekým zaobchádza ako s podozrivým, akékoľvek nervózne správanie môže vyzerať „podozrivejšie“, čo posilňuje počiatočnú chybu systému.
2) Zamestnanci sa stávajú strážcami čiernej skrinky
Keď systém odošle upozornenie pomocou pingu, zamestnanci sú nútení rozhodnúť sa: konať na základe neho alebo ho ignorovať.
Ak konajú a je to nesprávne, ľudia si zapamätajú ľudskú interakciu – nie algoritmus. Ak to ignorujú a dôjde ku krádeži, vedenie sa môže opýtať, prečo bolo upozornenie zamietnuté.
Takže aj keď je nástroj „poradenský“, na pracovisku sa stáva donucovacím.
3) Technológia pozýva na postupné rozširovanie misie
Systém nainštalovaný na krádeže v obchodoch môže byť neskôr znovu použitý na:
- identifikácia opakovaných pokusov o vrátenie peňazí
- presadzovanie zákazov antisociálneho správania
- sledovanie výkonnosti zamestnancov
Plíženie cieľov nie je vždy zlomyseľné. Často je to len logika investície: „Za tento systém sme už zaplatili, čo ešte dokáže?“
Ako sa bude pravdepodobne vyvíjať verejná diskusia
To, čo príde ďalej, sa už menej týka hardvéru a viac správy vecí verejných.
V krátkodobom horizonte pravdepodobne uvidíme vzorec:
- viac nasadení (najmä preto, že dodávatelia balia systémy pre menšie podniky)
- viac kampaní požadujúcich jasné pravidlá a zverejňovanie informácií
- väčšie trenie, keďže zákazníci sa dozvedia, že „inteligentný dohľad“ existuje v každodenných priestoroch
Najdôležitejšie politické otázky budú skôr praktické než filozofické:
- Kto stanovuje štandardy presnosti?
- Kto kontroluje zoznamy sledovaných položiek?
- Ako sa niekto dozvie, že bol nahlásený?
- Aký je postup pri odstránení?
Bez odpovedí môžu maloobchodníci zistiť, že nástroj určený na predchádzanie stratám vytvára iný druh nákladov: poškodenie reputácie a nedôveru zákazníkov.
Zrátané a podčiarknuté
Systémy umelej inteligencie proti krádežiam v obchodoch sľubujú nahradenie chýbajúceho času zamestnancov automatizovanou ostražitosťou, a preto sa šíria z veľkých maloobchodníkov do lokálnych obchodov. Keď sa však dohľad zmení na kategorizáciu – zoznamy sledovaných subjektov, čierne listiny a nepriehľadné označenia „rizika“ – technológia prestáva byť tichým bezpečnostným opatrením a stáva sa problémom verejnej dôvery.
Zdroje
- Správy BBC (Technológia):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss