Розничные торговцы все чаще обращаются к «умным» системам видеонаблюдения для решения очень старой проблемы: краж. Новейшее направление выходит за рамки стандартных систем видеонаблюдения, используя инструменты, которые могут в режиме реального времени распознавать лица, тела или модели поведения.
В репортаже BBC, снятом Джимом Коннолли, показано, как быстро подобные технологии борьбы с магазинными кражами, основанные на искусственном интеллекте, проникают из крупных сетей в обычные места, такие как независимые почтовые отделения. В нем также объясняется, почему сопротивление растет так же быстро: эти системы не просто наблюдают — они могут распределять людей по категориям риска.
Почему эта технология распространяется именно сейчас?
Магазинные кражи всегда были частью розничной торговли, но стимулы, связанные с ними, изменились. Магазины работают с меньшим количеством персонала, большим количеством касс самообслуживания и большими объемами товаров, обрабатываемых меньшими командами. Это создает практическую проблему: меньше людей в торговом зале, но больше возможностей для краж.
Поэтому поставщики предлагают заманчивое решение: сохранить численность персонала примерно на том же уровне, одновременно «увеличивая» бдительность с помощью программного обеспечения.
В статье BBC отмечается, что некоторые крупные розничные сети и независимые магазины внедрили сочетание следующих вариантов:
- Сканирование тела с помощью ИИ
- Системы видеонаблюдения с автоматическим оповещением
- оборудование для распознавания лиц
На бумаге системы просты: вместо того, чтобы просить сотрудников следить за множеством экранов, компьютер следит за сотрудником и уведомляет его, когда считает что-то подозрительным.
На практике слово «подозрительный» может означать несколько разных вещей в зависимости от продукта:
- лицо, которое, по мнению системы, соответствует предыдущему инциденту
- Объект, который система классифицирует как «известный» или «неизвестный».
- модели передвижения, напоминающие предыдущие кражи
Это широкая сеть. А широкие сети ловят больше рыбы — и больше прилова.
Что на самом деле делают «сканирование тела с помощью ИИ» и распознавание лиц
Полезно рассматривать эти инструменты как средство преобразования видео в данные, доступные для поиска.
Традиционные системы видеонаблюдения в основном пассивны: они записывают видеоматериалы, которые кто-то может просмотреть позже. Системы видеонаблюдения с поддержкой искусственного интеллекта активны: они пытаются маркировать увиденное в режиме реального времени.
Распознавание лиц (самый очевидный вариант)
Система распознавания лиц пытается создать «отпечаток лица» на основе видеозаписи с камеры и сравнить его с сохраненным списком. При обнаружении близкого совпадения система может оповестить сотрудника, заблокировать дверь, уведомить службу безопасности или просто зарегистрировать событие.
С точки зрения магазина, это привлекательно, поскольку гарантирует стабильность: сегодня у входа можно увидеть того же человека, который совершил кражу на прошлой неделе.
Но это также порождает острый вопрос: откуда берется список литературы и как от него отказаться?
Сканирование тела с помощью ИИ (менее интуитивно понятное, но часто более распространенное)
В репортаже BBC упоминается сканирование тела с помощью ИИ наряду с распознаванием лиц. Во многих случаях «сканирование тела» не означает научно-фантастический сканер всего тела. Часто это означает систему, которая обнаруживает и отслеживает людей на основе формы тела, позы, силуэта одежды или движений.
Зачем розничному продавцу это использовать?
- Идентификация по телу может работать даже тогда, когда лицо частично скрыто.
- Оно может отслеживать человека с нескольких ракурсов камеры.
- Оно может классифицировать «поведение» (задержку, быстрое движение, возвращение на полку) как закономерности.
Вот что беспокоит защитников гражданских свобод: возможно, вам даже не нужно называть свое имя, чтобы вас считали «тем, за кем следует следить».
Скрытая сила списков наблюдения
Защитники гражданских свобод заявили Би-би-си, что граждан вносят в «секретные списки наблюдения и блокируют доступ к их магазинам с помощью электронных средств».
Такая формулировка имеет значение, потому что она описывает нечто большее, чем просто решение одного магазина запретить посещение магазина покупателю.
Список наблюдения становится более значимым, если он обладает следующими характеристиками:
-
Это сохраняется с течением времени.Мгновенное подозрение может преследовать вас и при последующих визитах.
-
Оно перемещается между локациями.Флаг одного магазина может повлиять на то, как к вам отнесутся в другом.
-
С этим трудно поспорить.Если система никогда не сообщает вам о том, что вас отметили как нарушителя, вы не можете это оспорить.
Даже без формального «запрета» список наблюдения может повлиять на результаты:
- персонал относится к вам по-другому.
- За тобой следят внимательнее.
- Вам отказано во въезде.
- Службу безопасности вызывают раньше, чем это было бы в противном случае.
Риск заключается не только в ложных срабатываниях, но и в том, что ложные срабатывания могут закрепиться надолго.
Что гласит закон и что испытывают люди.
В репортаже BBC говорится, что позиция правительства заключается в том, что коммерческое использование систем распознавания лиц законно, но их применение должно соответствовать строгим законам о защите данных и осуществляться прозрачно.
В этом единственном предложении отражена настоящая суть противостояния.
«Законно» — это не то же самое, что «социально приемлемо».
Розничный продавец может совершать действия, которые формально являются законными, и при этом вызывать негативную реакцию, если покупатели сочтут правила односторонними.
Технологии видеонаблюдения меняют эмоциональный аспект шопинга. Люди принимают определенный уровень защиты от краж (камеры, персонал, метки). Но когда система начинает классифицировать посетителей — потенциально без их ведома — отношения меняются с «магазин защищает свои товары» на «магазин оценивает меня».
Прозрачность сложнее, чем повесить табличку.
«Прозрачность» кажется простым делом, которое легко выполнить: достаточно повесить объявление на дверь. Но для достижения подлинной прозрачности потребуются ответы на такие вопросы, как:
- Вы используете систему распознавания лиц или только стандартное видеонаблюдение?
- Какие данные вы храните и как долго?
- Вы делитесь данными с другими сайтами или партнерами?
- Как можно обжаловать или исправить ошибочно установленный флаг?
Для большинства клиентов характерно неведение: они узнают о существовании системы только тогда, когда что-то идёт не так.
Операционные компромиссы, о которых розничные продавцы не говорят вслух.
Розничные продавцы внедряют эти системы из-за экономии средств и расширения охвата, но они также сопряжены с рисками, которые не вписываются в бюджетную таблицу.
1) Ложные срабатывания причиняют реальный вред.
Если система выявляет невиновного человека, то «вред» не является абстрактным. Это может быть унижение, запугивание, отчуждение или эскалация конфликта.
Это также имеет эффект обратной связи: как только человека начинают воспринимать как подозреваемого, любое нервное поведение может выглядеть еще более «подозрительным», что усиливает первоначальную ошибку системы.
2) Сотрудники становятся наблюдателями за работой «черного ящика».
Когда система отправляет оповещение, перед сотрудниками встает вопрос: отреагировать на него или проигнорировать.
Если они предпримут какие-либо действия, и это окажется неправильным, люди запомнят именно человеческое взаимодействие, а не алгоритм. Если же они проигнорируют это, и произойдет кража, руководство может спросить, почему оповещение было отклонено.
Таким образом, даже если инструмент носит «консультативный» характер, внутри рабочего места он приобретает принудительный характер.
3) Технология способствует расширению сферы применения.
Система, установленная для предотвращения краж в магазинах, впоследствии может быть перепрофилирована для следующих целей:
- выявление повторных попыток возврата средств
- обеспечение соблюдения запретов на антиобщественное поведение
- отслеживание эффективности работы персонала
Расширение функционала не всегда происходит из злых побуждений. Зачастую это просто логика инвестиций: «Мы уже заплатили за эту систему; что еще она может делать?»
Как, вероятно, будет развиваться публичная дискуссия.
В дальнейшем речь пойдёт не столько об оборудовании, сколько об управлении.
В краткосрочной перспективе, вероятно, мы увидим следующую закономерность:
- Увеличение числа развертываний (особенно по мере того, как поставщики предлагают готовые системы для малых предприятий).
- Всё больше кампаний требуют чётких правил и прозрачности.
- Конфликт усиливается по мере того, как клиенты узнают о существовании «умных систем видеонаблюдения» в обычных местах.
Наиболее важные политические вопросы будут носить скорее практический, чем философский характер:
- Кто устанавливает стандарты точности?
- Кто проводит аудит списков наблюдения?
- Как человек узнает, что его отметили как потенциально уязвимого?
- Какова процедура удаления?
Без ответов розничные продавцы могут обнаружить, что инструмент, предназначенный для предотвращения потерь, порождает другой вид издержек: ущерб репутации и недоверие клиентов.
Итог
Системы защиты от краж в магазинах на основе искусственного интеллекта обещают заменить потерянное рабочее время персонала автоматизированным наблюдением, и именно поэтому они распространяются из крупных розничных сетей в местные магазины. Но когда наблюдение превращается в категоризацию — списки наблюдения, черные списки и непрозрачные метки «риска» — технология перестает быть тихой мерой безопасности и становится проблемой общественного доверия.
Источники
- Новости BBC (Технологии):https://www.bbc.com/news/videos/c98p1jg3p58o?at_medium=RSS&at_campaign=rss