Jaemüüjad pöörduvad üha enam „nutika“ valve poole, et tegeleda väga vana probleemiga: vargustega. Uusim laine läheb tavapärasest CCTV-st kaugemale, kasutades tööriistu, mis suudavad nägusid, kehasid või käitumismustreid reaalajas märgistada.
Jim Connolly filmitud BBC reportaaž näitab, kui kiiresti selline tehisintellektil põhinev poevarguste vastane tehnoloogia liigub suurtest kettidest igapäevastesse kohtadesse, näiteks sõltumatutesse postkontoritesse. See näitab ka, miks vastuseisud sama kiiresti kasvavad: need süsteemid ei piirdu ainult jälgimisega – nad suudavad inimesi riskikategooriatesse jagada.
Miks tehnoloogia praegu levib
Poevargused on jaemüügis alati olnud, kuid sellega seotud stiimulid on muutunud. Kauplused töötavad tihedama personalitöö, rohkemate iseteeninduskassade ja suuremate kaubamahtudega, mida liigutavad väiksemad meeskonnad. See loob praktilise tühimiku: vähem inimsilmi müügisaalis, kuid rohkem võimalusi kahjumi tekkeks.
Seega pakuvad müüjad ahvatlevat ettepanekut: hoida personali enam-vähem muutumatuna, samal ajal tarkvara abil valvsust „mitmekordistades“.
BBC artiklis märgitakse, et mõned suured jaemüüjad ja sõltumatud kauplused on kasutusele võtnud segu järgmistest toodetest:
- Tehisintellekti kehaskaneeringud
- Videovalvesüsteemid automaatsete häiretega
- näotuvastusseadmed
Paberil on süsteemid lihtsad: selle asemel, et paluda töötajatel ekraaniseina jälgida, jälgib arvuti ise ja annab töötajale märku, kui midagi kahtlast tundub.
Praktikas võib „kahtlane” olenevalt tootest tähendada mitut erinevat asja:
- nägu, mille süsteem arvab vastavat varasemale juhtumile
- keha, mille süsteem liigitab "teadaolevaks" või "tundmatuks"
- liikumismustrid, mis meenutavad varasemaid vargusi
See on lai võrk. Ja laiad võrgud püüavad rohkem kala – ja rohkem kaaspüüki.
Mida „tehisintellekti kehaskannid ja näotuvastus tegelikult teevad”
Nende tööriistade puhul on kasulik mõelda nii, et need muudavad video otsitavaks andmeks.
Traditsiooniline videovalve on enamasti passiivne: see salvestab materjali, mida keegi võib hiljem üle vaadata. Tehisintellektiga videovalve on aktiivne: see püüab nähtut märgistada kohe, kui see toimub.
Näotuvastus (ilmselge)
Näotuvastus püüab kaamera salvestiste põhjal luua „näojälje“ ja võrrelda seda salvestatud nimekirjaga. Kui leitakse tihe vaste, saab süsteem töötajat hoiatada, ukse lukustada, turvatöötajaid teavitada või lihtsalt sündmuse logida.
Poe seisukohast on see atraktiivne, sest see lubab järjepidevust: sama inimest, kes eelmisel nädalal varastas, võib täna sissepääsu juures märgata.
Kuid see tekitab ka terava küsimuse: kust pärineb viitenimekiri ja kuidas keegi sellest loobub?
Tehisintellekti abil teostatavad kehaskaneeringud (vähem intuitiivsed, aga sageli levinumad)
BBC raportis mainitakse näotuvastuse kõrval ka tehisintellektil põhinevaid kehaskaneeringuid. Paljudes rakendustes ei tähenda „kehaskaneerimine” ulmelist täiskehaskannerit. Sageli tähendab see süsteemi, mis tuvastab ja jälgib inimesi kehakuju, kehahoiaku, riiete silueti või liikumise põhjal.
Miks peaks jaemüüja seda kasutama?
- Kehapõhine tuvastamine võib toimida isegi siis, kui nägu on osaliselt varjatud.
- See suudab inimest jälgida mitme kaameranurga alt.
- See võib märgistada „käitumist” (pikalt aega veetmine, kiire liikumine, riiulile naasmine) mustritena.
See on see osa, mis teeb kodanikuvabaduste eestkõnelejad närviliseks: teid ei pruugi vaja olla nimepidi tuvastamiseks, et teid koheldaks kui „kedagi, keda peaksime jälgima“.
Jälgimisnimekirjade vaikne jõud
Kodanikuvabaduste eest võitlejad ütlesid BBC-le, et avalikkust kantakse nende peatänavatelt „salajastesse jälgimisnimekirjadesse ja elektrooniliselt musta nimekirja“.
See sõnastus on oluline, sest see kirjeldab midagi enamat kui ühe poe otsust kliendile sissepääsu keelata.
Jälgimisnimekiri muutub olulisemaks, kui sellel on järgmised omadused:
-
See püsib aja jooksul.Hetkeline kahtlus võib sind tulevastel külastustel saatma jääda.
-
See liigub asukohtade vahel.Ühe poe lipp võib mõjutada seda, kuidas sind teises koheldakse.
-
Seda on raske vaidlustada.Kui süsteem ei ütle sulle kunagi, et sind märgistati, ei saa sa seda vaidlustada.
Isegi ilma ametliku „keeluta” võib jälgimisnimekiri tulemusi mõjutada:
- töötajad lähenevad teile erinevalt
- sind jälgitakse tähelepanelikumalt
- teil on sissepääs keelatud
- turvalisust kutsutakse välja varem, kui see muidu oleks
Risk ei seisne ainult valepositiivsetes tulemustes – risk seisneb selles, et valepositiivsed tulemused muutuvad kleepuvaks.
Mida seadus ütleb vs mida inimesed kogevad
BBC raportis öeldakse, et valitsuse seisukoht on, et äriline näotuvastus on seaduslik, kuid selle kasutamine peab vastama rangetele andmekaitseseadustele ja olema läbipaistev.
See üksainus lause sisaldab tegelikku lahinguvälja.
„Seaduslik” ei ole sama mis „sotsiaalselt vastuvõetav”.
Jaemüüja võib teha midagi, mis on tehniliselt seaduslik, ja ikkagi põhjustada negatiivse reaktsiooni, kui kliendid tunnevad, et reeglid on ühekülgsed.
Jälgimistehnoloogia muudab ostlemisega kaasnevat emotsionaalset lepingut. Inimesed aktsepteerivad teatud tasemel kaotuste ennetamist (kaamerad, personal, sildid). Aga kui süsteem hakkab külastajaid kategoriseerima – potentsiaalselt ilma nende teadmata –, nihkub suhe „pood kaitseb oma kaupa” suhtumisest „pood hindab mind”.
Läbipaistvus on raskem kui sildi ülespanemine
„Läbipaistvus” kõlab lihtsa linnukese moodi: lisa uksele teade. Kuid sisuka läbipaistvuse saavutamiseks on vaja vastuseid sellistele küsimustele nagu:
- Kas kasutate näotuvastust või ainult tavalist videovalvet?
- Milliseid andmeid te säilitate ja kui kaua?
- Kas jagate andmeid teiste saitide või partneritega?
- Kuidas keegi saab eksliku lipu kohta kaebuse esitada või selle parandada?
Enamiku klientide jaoks on vaikimisi teadmatus: nad saavad süsteemi olemasolust teada alles siis, kui midagi valesti läheb.
Operatiivsed kompromissid, mida jaemüüjad ei reklaami
Jaemüüjad võtavad need süsteemid kasutusele kulude ja katvuse jaoks, kuid nad pärivad riske, mis ei mahu täpselt eelarvetabelisse.
1) Valepositiivsed tulemused tekitavad reaalset kahju
Kui süsteem märgistab süütu inimese, ei ole „kahju” abstraktne. See võib olla piinlikkustunne, hirmutamine, tõrjutus või olukorra eskaleerumine.
Sellel on ka tagasisideefekt: kui kedagi koheldakse kahtlusalusena, võib iga närviline käitumine tunduda „kahtlasemana“, mis tugevdab süsteemi esialgset viga.
2) Töötajatest saavad musta kasti jõustajad
Kui süsteem saadab hoiatuse, seisavad töötajad silmitsi otsustuspunktiga: tegutseda vastavalt või ignoreerida seda.
Kui nad tegutsevad ja see on vale, siis jäävad meelde inimlik suhtlus, mitte algoritm. Kui nad seda ignoreerivad ja vargus toimub, võib juhtkond küsida, miks hoiatus tühistati.
Seega, isegi kui tööriist on „nõuandev”, muutub see töökohal sunniviisiliseks.
3) Tehnoloogia kutsub esile missiooni laienemise
Poevarguste jaoks paigaldatud süsteemi võidakse hiljem ümber kujundada järgmiselt:
- korduvate tagasimaksekatsete tuvastamine
- antisotsiaalse käitumise keeldude jõustamine
- töötajate tulemuslikkuse jälgimine
Missiooni laienemine ei ole alati pahatahtlik. Sageli on see lihtsalt investeerimisloogika: „Me oleme selle süsteemi eest juba maksnud; mida see veel teha saab?“
Kuidas avalik vestlus tõenäoliselt areneb
Järgmine on vähem riistvara ja rohkem juhtimise küsimus.
Lühiajaliselt näeme tõenäoliselt mustrit:
- rohkem juurutusi (eriti kuna müüjad pakuvad süsteeme väiksematele ettevõtetele)
- rohkem kampaaniaid, mis nõuavad selgeid reegleid ja avalikustamist
- rohkem hõõrdumist, kuna kliendid saavad teada, et „nutikas valve” eksisteerib igapäevastes kohtades
Kõige suurema mõjuga poliitilised küsimused on pigem praktilised kui filosoofilised:
- Kes seab täpsuse standardid?
- Kes auditeerib jälgimisnimekirju?
- Kuidas keegi saab teada, et talle on märguanne antud?
- Milline on eemaldamise protsess?
Vastusteta võivad jaemüüjad avastada, et kahjumi ennetamise vahend tekitab teistsuguseid kulusid: mainekahju ja klientide umbusaldust.
Lõpptulemus
Tehisintellektil põhinevad poevarguste vastased süsteemid lubavad asendada töötajate puuduva aja automaatse valvsusega ning seetõttu levivad need suurtest jaemüüjatest kohalikesse kauplustesse. Aga kui jälgimine muutub kategoriseerimiseks – jälgimisnimekirjad, mustad nimekirjad ja läbipaistmatud „riski” sildid –, lakkab tehnoloogia olemast vaikne turvameede ja muutub avaliku usalduse probleemiks.
Allikad
- BBC uudised (tehnoloogia):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss