Οι λιανοπωλητές στρέφονται ολοένα και περισσότερο στην «έξυπνη» παρακολούθηση για να αντιμετωπίσουν ένα πολύ παλιό πρόβλημα: την κλοπή. Το νεότερο κύμα ξεπερνά τα τυπικά κλειστά κυκλώματα τηλεόρασης (CCTV), χρησιμοποιώντας εργαλεία που μπορούν να εντοπίζουν πρόσωπα, σώματα ή πρότυπα συμπεριφοράς σε πραγματικό χρόνο.
Ένα ρεπορτάζ του BBC, που γυρίστηκε από τον Jim Connolly, δείχνει πόσο γρήγορα αυτό το είδος τεχνολογίας κατά των κλοπών από καταστήματα, που βασίζεται στην τεχνητή νοημοσύνη, μετακινείται από τις μεγάλες αλυσίδες σε καθημερινά μέρη, όπως ένα ανεξάρτητο ταχυδρομείο. Δείχνει επίσης γιατί η αντίδραση αυξάνεται εξίσου γρήγορα: αυτά τα συστήματα δεν απλώς παρακολουθούν — μπορούν να ταξινομήσουν τους ανθρώπους σε κατηγορίες κινδύνου.
Γιατί η τεχνολογία εξαπλώνεται τώρα
Οι κλοπές από καταστήματα αποτελούσαν ανέκαθεν μέρος του λιανικού εμπορίου, αλλά τα κίνητρα γύρω από αυτές έχουν αλλάξει. Τα καταστήματα λειτουργούν με πιο περιορισμένο προσωπικό, περισσότερα ταμεία αυτοεξυπηρέτησης και μεγαλύτερους όγκους που διακινούνται μέσω μικρότερων ομάδων. Αυτό δημιουργεί ένα πρακτικό κενό: λιγότερα ανθρώπινα μάτια στο κατάστημα, αλλά περισσότερες ευκαιρίες για απώλειες.
Έτσι, οι προμηθευτές παρουσιάζουν μια δελεαστική πρόταση: να διατηρήσουν το προσωπικό περίπου σταθερό, ενώ παράλληλα να «πολλαπλασιάσουν» την επαγρύπνηση χρησιμοποιώντας λογισμικό.
Το άρθρο του BBC σημειώνει ότι ορισμένοι μεγάλοι λιανοπωλητές και ανεξάρτητα καταστήματα έχουν εισαγάγει ένα μείγμα από:
- Σαρώσεις σώματος με τεχνητή νοημοσύνη
- Συστήματα CCTV με αυτόματες ειδοποιήσεις
- εξοπλισμός αναγνώρισης προσώπου
Στα χαρτιά, τα συστήματα είναι απλά: αντί να ζητάει από το προσωπικό να παρακολουθεί έναν τοίχο από οθόνες, ο υπολογιστής παρακολουθεί και στέλνει μήνυμα σε ένα μέλος του προσωπικού όταν πιστεύει ότι κάτι φαίνεται ύποπτο.
Στην πράξη, ο όρος «ύποπτο» μπορεί να σημαίνει πολλά διαφορετικά πράγματα ανάλογα με το προϊόν:
- ένα πρόσωπο που το σύστημα πιστεύει ότι ταιριάζει με ένα προηγούμενο περιστατικό
- ένα σώμα που το σύστημα ταξινομεί ως «γνωστό» ή «άγνωστο»
- μοτίβα κινήσεων που μοιάζουν με προηγούμενες κλοπές
Αυτό είναι ένα πλατύ δίχτυ. Και τα πλατύ δίχτυα πιάνουν περισσότερα ψάρια — και περισσότερα παρεμπίπτοντα αλιεύματα.
Τι κάνουν στην πραγματικότητα οι «σαρώσεις σώματος με τεχνητή νοημοσύνη» και η αναγνώριση προσώπου
Ένας χρήσιμος τρόπος για να σκεφτείτε αυτά τα εργαλεία είναι ότι μετατρέπουν το βίντεο σε δεδομένα με δυνατότητα αναζήτησης.
Το παραδοσιακό CCTV είναι ως επί το πλείστον παθητικό: καταγράφει υλικό που κάποιος μπορεί να εξετάσει αργότερα. Το CCTV με δυνατότητα τεχνητής νοημοσύνης είναι ενεργό: προσπαθεί να επισημάνει αυτό που βλέπει καθώς συμβαίνει.
Αναγνώριση προσώπου (η προφανής)
Η αναγνώριση προσώπου επιχειρεί να δημιουργήσει ένα «αποτύπωμα προσώπου» από το υλικό της κάμερας και να το συγκρίνει με μια αποθηκευμένη λίστα. Εάν υπάρχει κάποια στενή αντιστοιχία, το σύστημα μπορεί να ειδοποιήσει έναν εργαζόμενο, να κλειδώσει μια πόρτα, να ειδοποιήσει τον υπεύθυνο ασφαλείας ή απλώς να καταγράψει το συμβάν.
Από την άποψη του καταστήματος, αυτό είναι ελκυστικό επειδή υπόσχεται συνέπεια: το ίδιο άτομο που έκλεψε την περασμένη εβδομάδα μπορεί να εντοπιστεί στην είσοδο σήμερα.
Αλλά δημιουργεί επίσης ένα οξύ ερώτημα: από πού προέρχεται η λίστα αναφορών και πώς μπορεί κάποιος να την βρει;
Σαρώσεις σώματος με τεχνητή νοημοσύνη (λιγότερο διαισθητικές, αλλά συχνά πιο συνηθισμένες)
Το ρεπορτάζ του BBC αναφέρει τις σαρώσεις σώματος με τεχνητή νοημοσύνη παράλληλα με την αναγνώριση προσώπου. Σε πολλές εφαρμογές, η «σάρωση σώματος» δεν σημαίνει έναν σαρωτή ολόκληρου σώματος επιστημονικής φαντασίας. Συχνά σημαίνει ένα σύστημα που ανιχνεύει και παρακολουθεί άτομα με βάση το σχήμα του σώματος, τη στάση του σώματος, τη σιλουέτα των ρούχων ή την κίνηση.
Γιατί να το χρησιμοποιήσει αυτό ένας λιανοπωλητής;
- Η αναγνώριση με βάση το σώμα μπορεί να λειτουργήσει ακόμα και όταν το πρόσωπο είναι εν μέρει καλυμμένο.
- Μπορεί να παρακολουθεί ένα άτομο από πολλαπλές γωνίες λήψης.
- Μπορεί να χαρακτηρίσει τη «συμπεριφορά» (παραμονή, γρήγορη κίνηση, επιστροφή σε ένα ράφι) ως μοτίβα.
Αυτό είναι το κομμάτι που κάνει τους υποστηρικτές των πολιτικών ελευθεριών νευρικούς: ίσως να μην χρειάζεται να σας αναφέρουν με το όνομά σας για να σας αντιμετωπίσουν ως «κάποιον που πρέπει να παρακολουθούμε».
Η σιωπηλή δύναμη των λιστών παρακολούθησης
Ακτιβιστές για την πολιτική ελευθερία δήλωσαν στο BBC ότι το κοινό τίθεται σε «μυστικές λίστες παρακολούθησης και σε ηλεκτρονική μαύρη λίστα» από τους κεντρικούς δρόμους του.
Αυτή η γλώσσα έχει σημασία, επειδή περιγράφει κάτι μεγαλύτερο από την απόφαση ενός μεμονωμένου καταστήματος να αποκλείσει έναν πελάτη.
Μια λίστα παρακολούθησης αποκτά μεγαλύτερη σημασία όταν διαθέτει τα εξής χαρακτηριστικά:
-
Επιμένει με την πάροδο του χρόνου.Μια στιγμή καχυποψίας μπορεί να σας ακολουθήσει σε μελλοντικές επισκέψεις.
-
Ταξιδεύει μεταξύ τοποθεσιών.Μια σημαία από ένα κατάστημα μπορεί να επηρεάσει τον τρόπο που σας φέρονται σε ένα άλλο.
-
Είναι δύσκολο να το αμφισβητήσεις.Εάν το σύστημα δεν σας ενημερώσει ποτέ ότι έχετε επισημανθεί με επισήμανση, δεν μπορείτε να το αμφισβητήσετε.
Ακόμα και χωρίς επίσημη «απαγόρευση», μια λίστα παρακολούθησης μπορεί να διαμορφώσει τα αποτελέσματα:
- το προσωπικό σας προσεγγίζει διαφορετικά
- σε παρακολουθούν πιο στενά
- σου απαγορεύεται η είσοδος
- η ασφάλεια καλείται νωρίτερα από ό,τι θα γινόταν διαφορετικά
Ο κίνδυνος δεν είναι μόνο τα ψευδώς θετικά αποτελέσματα — είναι ότι τα ψευδώς θετικά γίνονται ασταθή.
Τι ορίζει ο νόμος έναντι τι βιώνουν οι άνθρωποι
Το ρεπορτάζ του BBC αναφέρει ότι η θέση της κυβέρνησης είναι ότι η εμπορική αναγνώριση προσώπου είναι νόμιμη, αλλά η χρήση της πρέπει να συμμορφώνεται με τους αυστηρούς νόμους περί προστασίας δεδομένων και να χρησιμοποιείται με διαφάνεια.
Αυτή και μόνο η πρόταση περιέχει το πραγματικό πεδίο της μάχης.
Το «νόμιμο» δεν είναι το ίδιο με το «κοινωνικά αποδεκτό»
Ένας λιανοπωλητής μπορεί να κάνει κάτι που είναι τεχνικά νόμιμο και παρόλα αυτά να προκαλέσει αντιδράσεις εάν οι πελάτες θεωρήσουν ότι οι κανόνες είναι μονόπλευροι.
Η τεχνολογία παρακολούθησης αλλάζει το συναισθηματικό συμβόλαιο των αγορών. Οι άνθρωποι αποδέχονται ένα ορισμένο επίπεδο πρόληψης απωλειών (κάμερες, προσωπικό, ετικέτες). Αλλά όταν το σύστημα αρχίζει να κατηγοριοποιεί τους επισκέπτες — πιθανώς χωρίς να το γνωρίζουν — η σχέση μετατοπίζεται από το «το κατάστημα προστατεύει τα προϊόντα του» στο «το κατάστημα με αξιολογεί».
Η διαφάνεια είναι πιο δύσκολη από το να βάλεις μια πινακίδα
Η «διαφάνεια» ακούγεται σαν ένα εύκολο κουτάκι: προσθέστε μια ειδοποίηση στην πόρτα. Αλλά η ουσιαστική διαφάνεια θα απαιτούσε απαντήσεις σε ερωτήματα όπως:
- Χρησιμοποιείτε αναγνώριση προσώπου ή μόνο τυπικό CCTV;
- Ποια δεδομένα αποθηκεύετε και για πόσο καιρό;
- Κοινοποιείτε τα δεδομένα σε άλλους ιστότοπους ή συνεργάτες;
- Πώς μπορεί κάποιος να ασκήσει έφεση ή να διορθώσει μια λανθασμένη σημαία;
Για τους περισσότερους πελάτες, η προεπιλογή είναι η άγνοια: μαθαίνουν ότι υπάρχει ένα σύστημα μόνο όταν κάτι πάει στραβά.
Οι λειτουργικοί συμβιβασμοί που δεν διαφημίζουν οι λιανοπωλητές
Οι λιανοπωλητές υιοθετούν αυτά τα συστήματα για το κόστος και την κάλυψη, αλλά κληρονομούν κινδύνους που δεν ταιριάζουν απόλυτα σε ένα υπολογιστικό φύλλο προϋπολογισμού.
1) Τα ψευδώς θετικά αποτελέσματα δημιουργούν βλάβη στον πραγματικό κόσμο
Εάν το σύστημα επισημάνει ένα αθώο άτομο, η «βλάβη» δεν είναι αφηρημένη. Μπορεί να είναι αμηχανία, εκφοβισμός, αποκλεισμός ή κλιμάκωση.
Έχει επίσης ένα φαινόμενο ανατροφοδότησης: όταν κάποιος αντιμετωπίζεται ως ύποπτος, οποιαδήποτε νευρική συμπεριφορά μπορεί να φαίνεται πιο «ύποπτη», ενισχύοντας το αρχικό σφάλμα του συστήματος.
2) Το προσωπικό γίνεται επιβλέπων ενός μαύρου κουτιού
Όταν ένα σύστημα στέλνει μια ειδοποίηση με ping, το προσωπικό ωθείται σε ένα σημείο λήψης απόφασης: είτε να ενεργήσει βάσει αυτής της ειδοποίησης είτε να την αγνοήσει.
Αν ενεργήσουν και είναι λάθος, η ανθρώπινη αλληλεπίδραση είναι αυτό που θυμούνται οι άνθρωποι — όχι ο αλγόριθμος. Αν την αγνοήσουν και συμβεί κλοπή, η διοίκηση μπορεί να ρωτήσει γιατί η ειδοποίηση απορρίφθηκε.
Έτσι, ακόμη και αν το εργαλείο είναι «συμβουλευτικό», καθίσταται καταναγκαστικό εντός του χώρου εργασίας.
3) Η τεχνολογία προκαλεί την ιλιγγιώδη ανατροπή της αποστολής
Ένα σύστημα που έχει εγκατασταθεί για κλοπές από καταστήματα θα μπορούσε αργότερα να επαναχρησιμοποιηθεί για:
- εντοπισμός επαναλαμβανόμενων προσπαθειών επιστροφής χρημάτων
- επιβολή απαγορεύσεων για αντικοινωνική συμπεριφορά
- παρακολούθηση της απόδοσης του προσωπικού
Η υστέρηση στην αποστολή δεν είναι πάντα κακόβουλη. Συχνά είναι απλώς η λογική της επένδυσης: «Έχουμε ήδη πληρώσει για αυτό το σύστημα. Τι άλλο μπορεί να κάνει;»
Πώς είναι πιθανό να εξελιχθεί η δημόσια συζήτηση
Αυτό που ακολουθεί αφορά λιγότερο το υλικό και περισσότερο τη διακυβέρνηση.
Βραχυπρόθεσμα, πιθανότατα θα δούμε ένα μοτίβο:
- περισσότερες αναπτύξεις (ειδικά καθώς οι προμηθευτές συσκευάζουν συστήματα για μικρότερες επιχειρήσεις)
- περισσότερες καμπάνιες που απαιτούν σαφείς κανόνες και γνωστοποίηση
- περισσότερες τριβές καθώς οι πελάτες μαθαίνουν ότι υπάρχει «έξυπνη επιτήρηση» σε καθημερινές τοποθεσίες
Τα ερωτήματα πολιτικής με την υψηλότερη μόχλευση θα είναι πρακτικά παρά φιλοσοφικά:
- Ποιος θέτει τα πρότυπα ακρίβειας;
- Ποιος ελέγχει τις λίστες παρακολούθησης;
- Πώς μαθαίνει κάποιος ότι έχει επισημανθεί;
- Ποια είναι η διαδικασία για την αφαίρεση;
Χωρίς απαντήσεις, οι λιανοπωλητές μπορεί να διαπιστώσουν ότι ένα εργαλείο που αποσκοπεί στην πρόληψη απωλειών δημιουργεί ένα διαφορετικό είδος κόστους: ζημία στη φήμη και δυσπιστία των πελατών.
Συμπέρασμα
Τα συστήματα τεχνητής νοημοσύνης κατά των κλοπών από καταστήματα υπόσχονται να αντικαταστήσουν τον χαμένο χρόνο του προσωπικού με αυτοματοποιημένη επαγρύπνηση και γι' αυτό εξαπλώνονται από τους μεγάλους λιανοπωλητές στα τοπικά καταστήματα. Αλλά όταν η επιτήρηση μετατρέπεται σε κατηγοριοποίηση — λίστες παρακολούθησης, μαύρες λίστες και αδιαφανείς ετικέτες «κινδύνου» — η τεχνολογία παύει να είναι ένα σιωπηλό μέτρο ασφαλείας και μετατρέπεται σε πρόβλημα δημόσιας εμπιστοσύνης.
Πηγές
- BBC News (Τεχνολογία):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss