A kiskereskedők egyre inkább az „intelligens” megfigyeléshez fordulnak egy nagyon régi probléma, a lopás kezelésére. A legújabb hullám túlmutat a hagyományos CCTV-n, olyan eszközöket használva, amelyek valós időben képesek megjelölni az arcokat, testeket vagy viselkedési mintákat.
Egy Jim Connolly által forgatott BBC-riport bemutatja, hogy milyen gyorsan terjed ez a fajta mesterséges intelligencia által vezérelt lopásellenes technológia a nagy áruházláncoktól a mindennapi helyekre, például egy független postára. Azt is bemutatja, hogy miért növekszik ilyen gyorsan az ellenállás: ezek a rendszerek nem csak figyelnek – képesek az embereket kockázati kategóriákba sorolni.
Miért terjed mostanában a technológia?
A bolti lopás mindig is része volt a kiskereskedelemnek, de az azt övező ösztönzők megváltoztak. Az üzletek szorosabb személyzettel, több önkiszolgáló kasszával és nagyobb mennyiségű áruval működnek, kisebb csapatokon keresztül. Ez egy gyakorlati rést teremt: kevesebb emberi szem a boltban, de több lehetőség a veszteségre.
Így a szállítók egy csábító javaslattal állnak elő: nagyjából változatlanul kell tartani a személyzeti létszámot, miközben szoftverek segítségével „megsokszorozzák” az éberséget.
A BBC cikke megjegyzi, hogy néhány nagyobb kiskereskedő és független üzlet a következők keverékét vezette be:
- AI testszkennelések
- CCTV rendszerek automatikus riasztásokkal
- arcfelismerő berendezés
Papíron a rendszerek egyszerűek: ahelyett, hogy a képernyők falát kellene figyelniük, a számítógép figyeli és pingeli az alkalmazottat, ha valami gyanúsnak tűnik.
A gyakorlatban a „gyanús” szó a terméktől függően több különböző dolgot is jelenthet:
- egy arc, amelyet a rendszer egy korábbi incidenssel egyezőnek gondol
- egy olyan test, amelyet a rendszer „ismertnek” vagy „ismeretlennek” minősít
- olyan mozgásminták, amelyek korábbi lopásokra emlékeztetnek
Ez egy széles háló. És a széles hálók több halat fognak – és több mellékfogást.
Mit csinálnak valójában a „mesterséges intelligencia által végzett testszkennelések” és az arcfelismerés?
Hasznosnak tartom ezeket az eszközöket abban, hogy a videókat kereshető adatokká alakítják.
A hagyományos CCTV többnyire passzív: olyan felvételeket rögzít, amelyeket valaki később megtekinthet. A mesterséges intelligenciával támogatott CCTV aktív: megpróbálja címkézni a látottakat, ahogy azok történnek.
Arcfelismerés (a nyilvánvaló)
Az arcfelismerő rendszer megpróbál „arclenyomatot” létrehozni a kamerafelvételekből, és összehasonlítani azt egy tárolt listával. Ha szoros egyezést talál, a rendszer riaszthatja a dolgozót, bezárhatja az ajtót, értesítheti a biztonsági szolgálatot, vagy egyszerűen naplózhatja az eseményt.
Az üzlet szempontjából ez azért vonzó, mert állandóságot ígér: ugyanaz a személy, aki múlt héten lopott, ma is felbukkan a bejáratnál.
De ez egy éles kérdést is felvet: honnan származik a referencialista, és hogyan lehet lekerülni róla?
AI testszkennelés (kevésbé intuitív, de gyakran gyakoribb)
A BBC jelentése az arcfelismerés mellett említi a mesterséges intelligenciával működő testszkennelést is. Sok alkalmazásban a „testszkennelés” nem egy sci-fi teljes testszkennert jelent. Gyakran egy olyan rendszert jelent, amely testforma, testtartás, ruházat sziluettje vagy mozgás alapján érzékeli és követi nyomon az embereket.
Miért használná ezt egy kiskereskedő?
- A testalapú azonosítás akkor is működhet, ha az arc részben el van takarva.
- Több kameraszögből is képes követni egy személyt.
- A „viselkedést” (elidőzés, gyors mozgás, visszatérés a polcra) mintákként tudja megjelölni.
Ez az a rész, ami idegessé teszi a polgári szabadságjogok aktivistáit: lehet, hogy nem kell név szerint azonosítani valakit ahhoz, hogy úgy kezeljenek, mint „akit figyelnünk kell”.
A figyelőlisták csendes ereje
A polgárjogi aktivisták a BBC-nek azt mondták, hogy a lakosságot „titkos figyelőlistákra és elektronikus feketelistára” helyezik a főutcáikról.
Ez a megfogalmazás azért fontos, mert többet ír le annál, mint hogy egyetlen üzlet úgy dönt, kitilt egy vásárlót.
Egy figyelőlista jelentőségteljesebbé válik, ha a következő tulajdonságokkal rendelkezik:
-
Idővel fennmarad.Egy pillanatnyi gyanakvás elkísérheti Önt a jövőbeli látogatásai során.
-
Helyek között utazik.Egyik üzletben kitűzött zászló befolyásolhatja, hogyan bánnak Önnel egy másikban.
-
Nehéz vitatkozni.Ha a rendszer soha nem jelzi, hogy megjelöltek, akkor nem tudod megtámadni.
Még hivatalos „tiltás” nélkül is, egy figyelőlista befolyásolhatja az eredményeket:
- a személyzet másképp közeledik hozzád
- jobban figyelnek téged
- megtagadták a belépést
- a biztonságot korábban hívják meg, mint egyébként tenné
A kockázat nem csak a téves pozitív eredményekben rejlik – hanem abban is, hogy a téves pozitívak ragadóssá válnak.
Mit mond a törvény, illetve mit tapasztalnak az emberek
A BBC jelentése szerint a kormány álláspontja szerint a kereskedelmi arcfelismerés legális, de használatának szigorú adatvédelmi törvényeknek kell megfelelnie, és átláthatóan kell alkalmazni.
Ez az egyetlen mondat tartalmazza az igazi csatateret.
A „legális” nem ugyanaz, mint a „társadalmilag elfogadható”.
Egy kiskereskedő tehet valamit, ami technikailag legális, és mégis negatív reakciót válthat ki, ha a vásárlók úgy érzik, hogy a szabályok egyoldalúak.
A megfigyelőtechnológia megváltoztatja a vásárlás érzelmi szerződését. Az emberek elfogadnak egy bizonyos szintű veszteségmegelőzést (kamerák, személyzet, címkék). De amikor a rendszer elkezdi kategorizálni a látogatókat – potenciálisan anélkül, hogy tudnának róla –, a kapcsolat az „üzlet védi az áruit” viszonyról az „üzlet értékel engem” viszonyra változik.
Az átláthatóság nehezebb, mint egy tábla kihelyezése
Az „átláthatóság” könnyen kipipálhatónak hangzik: tegyél ki egy hirdetményt az ajtóra. Az érdemi átláthatósághoz azonban olyan kérdésekre kellene választ kapni, mint:
- Arcfelismerést használsz, vagy csak a hagyományos CCTV-t?
- Milyen adatokat tárol, és mennyi ideig?
- Megosztják az adatokat más webhelyekkel vagy partnerekkel?
- Hogyan lehet fellebbezni vagy kijavítani egy hibásan megjelölt jelölést?
A legtöbb ügyfél számára az alapértelmezett a tudatlanság: csak akkor értesülnek a rendszer létezéséről, amikor valami rosszul sül el.
Az operatív kompromisszumok, amelyeket a kiskereskedők nem hirdetnek
A kiskereskedők ezeket a rendszereket költség- és fedezeti célokra alkalmazzák, de olyan kockázatokat örökölnek, amelyek nem illenek bele szépen egy költségvetési táblázatba.
1) A téves pozitív eredmények valós károkat okoznak
Ha a rendszer egy ártatlan személyt jelöl meg, a „kár” nem elvont. Lehet zavarba ejtés, megfélemlítés, kizárás vagy eszkaláció.
Visszacsatolási hatása is van: ha valakit gyanúsítottként kezelnek, bármilyen ideges viselkedés „gyanúsabbnak” tűnhet, megerősítve a rendszer kezdeti hibáját.
2) A személyzet egy fekete doboz végrehajtóivá válik
Amikor egy rendszer riasztást küld, a személyzet döntés elé kerül: cselekedjenek, vagy figyelmen kívül hagyják.
Ha mégis cselekszenek, és az helytelen, az emberi interakcióra emlékeznek az emberek – nem az algoritmusra. Ha figyelmen kívül hagyják, és lopás történik, a vezetőség megkérdezheti, miért vetették el a riasztást.
Tehát még ha az eszköz „tanácsadó” jellegű is, a munkahelyen kényszerítő erejűvé válik.
3) A technológia küldetésbeli kúszást idéz elő
Egy bolti lopásokra telepített rendszer később átalakítható a következőkre:
- ismételt visszatérítési kísérletek azonosítása
- antiszociális viselkedés miatti tilalmak érvényesítése
- a személyzet teljesítményének nyomon követése
A küldetésbeli áttérés nem mindig rosszindulatú. Gyakran csak a befektetés logikája: „Már kifizettük ezt a rendszert; mit tehetne még?”
Hogyan fog valószínűleg alakulni a nyilvános párbeszéd
Ami ezután következik, az kevésbé a hardverről és inkább az irányításról szól.
Rövid távon valószínűleg egy mintát fogunk látni:
- több telepítés (különösen mivel a szállítók kisebb vállalkozások számára csomagolnak rendszereket)
- több kampány, amelyek világos szabályokat és nyilvánosságot követelnek
- nagyobb súrlódás, mivel az ügyfelek megtudják, hogy az „intelligens megfigyelés” a mindennapi helyszíneken is létezik
A legnagyobb befolyással bíró szakpolitikai kérdések inkább gyakorlati, mint filozófiai jellegűek lesznek:
- Ki határozza meg a pontosság mércéjét?
- Ki ellenőrzi a figyelőlistákat?
- Hogyan tudja meg valaki, hogy megjelölték?
- Mi a folyamata az eltávolításnak?
Válaszok nélkül a kiskereskedők rájöhetnek, hogy egy a veszteség megelőzésére szolgáló eszköz másfajta költséget okoz: hírnévkárosodást és a vásárlói bizalmatlanságot.
A lényeg
A mesterséges intelligencia által vezérelt bolti lopás elleni rendszerek ígérete szerint a hiányzó munkaidőt automatizált éberséggel helyettesítik, és ezért terjednek el a nagy kiskereskedőktől a helyi üzletekig. De amikor a megfigyelés kategorizálásba – figyelőlistákba, feketelistákba és átlátszatlan „kockázati” címkékbe –, a technológia már nem csendes biztonsági intézkedés, hanem közbizalom-problémává válik.
Források
- BBC Hírek (Technológia):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss