Mazumtirgotāji arvien vairāk pievēršas “viedajai” novērošanai, lai risinātu ļoti senu problēmu: zādzības. Jaunākā tendence pārsniedz standarta videonovērošanas iespējas, izmantojot rīkus, kas reāllaikā var atzīmēt sejas, ķermeņus vai uzvedības modeļus.
Džima Konolija filmētā BBC reportāža parāda, cik ātri šāda veida mākslīgā intelekta vadīta pretzagļu tehnoloģija pāriet no lieliem veikalu tīkliem uz ikdienas vietām, piemēram, neatkarīgām pasta nodaļām. Tā arī parāda, kāpēc pretestība pieaug tikpat strauji: šīs sistēmas ne tikai novēro — tās var šķirot cilvēkus riska kategorijās.
Kāpēc tehnoloģijas tagad izplatās
Zādzības veikalos vienmēr ir bijušas daļa no mazumtirdzniecības, taču ar tām saistītie stimuli ir mainījušies. Veikali darbojas ar mazāku personāla noslogojumu, vairāk pašapkalpošanās kasēm un lielākiem apjomiem, kas pārvietojas caur mazākām komandām. Tas rada praktisku plaisu: mazāk cilvēku acu uz tirdzniecības vietas, bet lielāka iespēja zaudēt.
Tāpēc pārdevēji piedāvā vilinošu priekšlikumu: saglabāt personāla skaitu aptuveni nemainīgu, vienlaikus "reizinot" modrību, izmantojot programmatūru.
BBC rakstā norādīts, ka daži lielākie mazumtirgotāji un neatkarīgie veikali ir ieviesuši dažādu produktu kombināciju:
- AI ķermeņa skenēšana
- Videonovērošanas sistēmas ar automatizētām brīdināšanas ierīcēm
- sejas atpazīšanas iekārtas
Uz papīra sistēmas ir vienkāršas: tā vietā, lai lūgtu darbiniekiem vērot ekrānu sienu, dators pats novēro un nosūta darbiniekam ziņu, kad tam šķiet, ka kaut kas izskatās aizdomīgs.
Praksē “aizdomīgs” var nozīmēt vairākas dažādas lietas atkarībā no produkta:
- seja, ko sistēma uzskata par atbilstošu iepriekšējam incidentam
- ķermenis, ko sistēma klasificē kā “zināmu” vai “nezināmu”
- kustību modeļi, kas atgādina iepriekšējās zādzības
Tas ir plats tīkls. Un platie tīkli noķer vairāk zivju — un vairāk piezvejas.
Ko patiesībā dara “mākslīgā intelekta ķermeņa skenēšana” un sejas atpazīšana
Noderīgs veids, kā domāt par šiem rīkiem, ir tas, ka tie pārvērš video meklējamos datos.
Tradicionālā videonovērošana lielākoties ir pasīva: tā ieraksta materiālus, kurus kāds varētu vēlāk pārskatīt. Ar mākslīgo intelektu aprīkotā videonovērošana ir aktīva: tā mēģina apzīmēt redzēto, tiklīdz tas notiek.
Sejas atpazīšana (acīmredzamā)
Sejas atpazīšanas sistēma mēģina izveidot “sejas nospiedumu” no kameras ieraksta un salīdzināt to ar saglabātu sarakstu. Ja ir tuva atbilstība, sistēma var brīdināt darbinieku, aizslēgt durvis, paziņot apsardzei vai vienkārši reģistrēt notikumu.
No veikala viedokļa tas ir pievilcīgi, jo sola konsekvenci: to pašu personu, kas zaga pagājušajā nedēļā, šodien var pamanīt pie ieejas.
Bet tas rada arī asu jautājumu: no kurienes rodas atsauču saraksts un kā kāds var no tā tikt vaļā?
AI ķermeņa skenēšana (mazāk intuitīva, bet bieži vien biežāka)
BBC ziņojumā līdzās sejas atpazīšanai minētas mākslīgā intelekta ķermeņa skenēšanas. Daudzos ieviešanas gadījumos “ķermeņa skenēšana” nenozīmē zinātniskās fantastikas pilna ķermeņa skeneri. Bieži vien tā nozīmē sistēmu, kas atpazīst un izseko cilvēkus, pamatojoties uz ķermeņa formu, stāju, apģērba siluetu vai kustību.
Kāpēc mazumtirgotājs to izmantotu?
- Identifikācija pēc ķermeņa var darboties pat tad, ja seja ir daļēji aizsegta.
- Tas var izsekot cilvēku no vairākiem kameras leņķiem.
- Tas var apzīmēt “uzvedību” (kavēšanos, ātru pārvietošanos, atgriešanos pie plaukta) kā modeļus.
Šī ir tā daļa, kas pilsoņu brīvību aizstāvjus satrauc: jums, iespējams, nav jābūt identificētam vārdā, lai pret jums izturētos kā pret "kādu, kuru mums vajadzētu novērot".
Vērošanas sarakstu klusais spēks
Pilsoņu brīvību aktīvisti BBC pastāstīja, ka sabiedrība tiek iekļauta "slepenos novērošanas sarakstos un elektroniski melnajos sarakstos" no savām galvenajām ielām.
Šai valodai ir nozīme, jo tā apraksta kaut ko lielāku nekā viena veikala lēmums aizliegt klientu.
Novērošanas saraksts kļūst nozīmīgāks, ja tam ir šādas funkcijas:
-
Tas saglabājas laika gaitā.Nākamajās vizītēs jūs var pavadīt aizdomu brīdis.
-
Tas pārvietojas starp vietām.Karogs vienā veikalā var ietekmēt to, kā pret jums izturas citā.
-
To ir grūti apstrīdēt.Ja sistēma nekad nepaziņo, ka esat atzīmēts ar karodziņu, jūs to nevarat apstrīdēt.
Pat bez oficiāla “aizlieguma” novērošanas saraksts var ietekmēt rezultātus:
- personāls pret jums vēršas atšķirīgi
- tevi vēro rūpīgāk
- jums ir liegta iebraukšana
- drošība tiek izsaukta agrāk, nekā tā citādi būtu
Risks nav tikai viltus pozitīvi rezultāti — viltus pozitīvie rezultāti kļūst lipīgi.
Ko saka likums, salīdzinot ar to, ko cilvēki piedzīvo
BBC ziņojumā teikts, ka valdības nostāja ir tāda, ka komerciāla sejas atpazīšana ir likumīga, taču tās lietošanai ir jāatbilst stingriem datu aizsardzības likumiem un tā jāizmanto pārredzami.
Šis viens teikums satur īsto kaujas lauku.
“Likumīgs” nav tas pats, kas “sociāli pieņemams”
Mazumtirgotājs var darīt kaut ko tehniski likumīgu un joprojām izraisīt negatīvu reakciju, ja klienti uzskata, ka noteikumi ir vienpusēji.
Novērošanas tehnoloģijas maina iepirkšanās emocionālo līgumu. Cilvēki pieņem noteiktu zaudējumu novēršanas līmeni (kameras, personāls, birkas). Taču, kad sistēma sāk apmeklētājus kategorizēt — iespējams, viņiem nezinot —, attiecības mainās no “veikals aizsargā savas preces” uz “veikals mani novērtē”.
Caurspīdīgums ir grūtāks nekā zīmes izvietošana
“Caurspīdīgums” izklausās pēc viegli atzīmējama lodziņa: pievienojiet paziņojumu pie durvīm. Taču jēgpilnai pārredzamībai būtu nepieciešamas atbildes uz tādiem jautājumiem kā:
- Vai jūs izmantojat sejas atpazīšanu vai tikai standarta videonovērošanu?
- Kādus datus jūs glabājat un cik ilgi?
- Vai jūs kopīgojat datus ar citām vietnēm vai partneriem?
- Kā kāds var iesniegt apelāciju vai labot kļūdainu karodziņu?
Lielākajai daļai klientu noklusējuma iestatījums ir nezināšana: viņi uzzina par sistēmas pastāvēšanu tikai tad, kad kaut kas noiet greizi.
Operacionālie kompromisi, ko mazumtirgotāji nereklamē
Mazumtirgotāji izmanto šīs sistēmas izmaksu un seguma noteikšanai, taču tie pārmanto riskus, kas precīzi neietilpst budžeta izklājlapā.
1) Viltus pozitīvi rezultāti rada reālu kaitējumu
Ja sistēma atzīmē nevainīgu personu, “kaitējums” nav abstrakts. Tas var būt apkaunojums, iebiedēšana, izslēgšana vai eskalācija.
Tam ir arī atgriezeniskās saites efekts: tiklīdz pret kādu izturas kā pret aizdomās turamo, jebkura nervoza uzvedība var izskatīties “aizdomīgāka”, pastiprinot sistēmas sākotnējo kļūdu.
2) Darbinieki kļūst par melnās kastes uzraugiem
Kad sistēma nosūta brīdinājumu, darbinieki tiek piespiesti pieņemt lēmumu: rīkoties atbilstoši brīdinājumam vai ignorēt to.
Ja viņi rīkojas un tas ir nepareizi, cilvēki atceras cilvēcisko mijiedarbību, nevis algoritmu. Ja viņi to ignorē un notiek zādzība, vadība var jautāt, kāpēc brīdinājums tika noraidīts.
Tātad, pat ja rīks ir “ieteicams”, tas darba vietā kļūst par piespiedu līdzekli.
3) Tehnoloģija veicina misijas izplatīšanos
Veikalu zādzību novēršanai uzstādīta sistēma vēlāk varētu tikt pārveidota:
- atkārtotu atmaksas mēģinājumu identificēšana
- aizliegumu piemērošana antisociālas uzvedības gadījumā
- personāla snieguma izsekošana
Misijas paplašināšana ne vienmēr ir ļaunprātīga. Bieži vien tā ir tikai investīcijas loģika: "Mēs jau samaksājām par šo sistēmu; ko gan citu tā var darīt?"
Kā, visticamāk, attīstīsies publiskā diskusija
Tālāk mazāk būs runa par aparatūru un vairāk par pārvaldību.
Īstermiņā mēs, iespējams, redzēsim modeli:
- vairāk izvietojumu (īpaši tāpēc, ka pārdevēji pakotnēs piedāvā sistēmas mazākiem uzņēmumiem)
- vairāk kampaņu, pieprasot skaidrus noteikumus un atklātību
- lielāka berze, jo klienti uzzina, ka “viedā novērošana” pastāv ikdienas vietās
Vislielākās ietekmes politikas jautājumi būs praktiski, nevis filozofiski:
- Kas nosaka precizitātes standartus?
- Kas veic vērošanas sarakstu auditu?
- Kā kāds uzzina, ka viņam ir atzīmēts karodziņš?
- Kāds ir noņemšanas process?
Bez atbildēm mazumtirgotāji var atklāt, ka rīks, kas paredzēts zaudējumu novēršanai, rada cita veida izmaksas: reputācijas kaitējumu un klientu neuzticēšanos.
Apakšējā līnija
Mākslīgā intelekta sistēmas pret veikalu zādzībām sola aizstāt darbinieku trūkstošo laiku ar automatizētu modrību, un tāpēc tās izplatās no lieliem mazumtirgotājiem uz vietējiem veikaliem. Taču, kad uzraudzība pārvēršas kategorizācijā — novērošanas sarakstos, melnajos sarakstos un necaurspīdīgās “riska” etiķetēs —, tehnoloģija pārstāj būt kluss drošības pasākums un kļūst par sabiedrības uzticēšanās problēmu.
Avoti
- BBC ziņas (tehnoloģijas):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss