소매업체들은 절도라는 오랜 문제에 대처하기 위해 점점 더 "스마트" 감시 시스템을 도입하고 있습니다. 최신 스마트 감시 시스템은 일반 CCTV를 넘어 얼굴, 신체 또는 행동 패턴을 실시간으로 식별할 수 있는 도구를 사용합니다.
짐 코놀리가 촬영한 BBC 보도 영상은 이러한 인공지능 기반 절도 방지 기술이 대형 체인점에서 독립 우체국과 같은 일상적인 장소로 얼마나 빠르게 확산되고 있는지를 보여줍니다. 또한 반발이 왜 그만큼 빠르게 커지고 있는지도 보여줍니다. 이러한 시스템은 단순히 감시하는 데 그치지 않고 사람들을 위험 범주로 분류할 수 있기 때문입니다.
이 기술이 지금 확산되는 이유
절도는 예전부터 소매업계의 일부였지만, 그 동기는 변화해 왔습니다. 매장들은 인력 감축, 셀프 계산대 증가, 그리고 적은 인원으로 더 많은 상품을 처리하는 방식으로 운영되고 있습니다. 이는 실질적인 공백을 만들어냅니다. 매장을 감시하는 사람이 줄어든 반면, 절도 손실의 기회는 늘어났습니다.
그래서 공급업체들은 매력적인 제안을 내놓고 있습니다. 인력은 거의 그대로 유지하면서 소프트웨어를 이용해 감시 기능을 "증폭"시키자는 것입니다.
BBC 보도에 따르면 일부 대형 소매업체와 독립 매장들이 다음과 같은 다양한 방식을 도입했습니다.
- AI 신체 스캔
- 자동 경보 기능이 있는 CCTV 시스템
- 얼굴 인식 장비
이론상으로는 시스템이 간단합니다. 직원들에게 여러 대의 모니터를 감시하도록 하는 대신, 컴퓨터가 상황을 감시하고 의심스러운 상황이 발생하면 직원에게 알림을 보냅니다.
실제로 "의심스럽다"는 말은 제품에 따라 여러 가지 다른 의미를 가질 수 있습니다.
- 시스템이 이전 사건과 일치한다고 판단하는 얼굴
- 시스템이 "알려진" 또는 "알려지지 않은" 것으로 분류하는 개체
- 이전 절도 사건과 유사한 이동 패턴
그건 그물이 넓네요. 그물이 넓으면 물고기도 더 많이 잡히지만, 다른 어종도 더 많이 잡힙니다.
AI 신체 스캔 및 얼굴 인식의 실제 기능은 무엇일까요?
이러한 도구들을 이해하는 유용한 방법은 동영상을 검색 가능한 데이터로 변환해준다는 점입니다.
기존 CCTV는 대부분 수동적입니다. 누군가가 나중에 검토할 수 있도록 영상을 녹화하는 방식입니다. 반면 AI 기반 CCTV는 능동적입니다. 영상이 촬영되는 즉시 내용을 분류하려고 시도합니다.
얼굴 인식 (가장 명백한 방법)
얼굴 인식 기술은 카메라 영상에서 "얼굴 특징"을 추출하여 저장된 목록과 비교합니다. 일치하는 얼굴이 많으면 시스템은 작업자에게 경고하거나, 문을 잠그거나, 보안 담당자에게 알리거나, 단순히 해당 이벤트를 기록할 수 있습니다.
매장 입장에서 보면 이는 일관성을 보장해 주기 때문에 매력적입니다. 지난주에 물건을 훔친 사람이 오늘도 입구에서 목격될 수 있기 때문입니다.
하지만 이는 또한 다음과 같은 날카로운 질문을 제기합니다. 참고 문헌 목록은 어디에서 오는 것이며, 어떻게 하면 목록에서 제외될 수 있을까요?
AI 기반 신체 스캔(직관적이지는 않지만 더 흔하게 사용됨)
BBC 보도에서는 AI 기반 신체 스캔이 안면 인식과 함께 언급됩니다. 많은 경우 "신체 스캔"은 공상 과학 영화에 나오는 전신 스캐너를 의미하는 것이 아닙니다. 신체 형태, 자세, 옷의 실루엣 또는 움직임을 기반으로 사람을 감지하고 추적하는 시스템을 의미하는 경우가 많습니다.
소매업체가 이것을 사용하는 이유는 무엇일까요?
- 신체 기반 식별은 얼굴이 부분적으로 가려진 경우에도 작동할 수 있습니다.
- 이 시스템은 여러 대의 카메라 각도에서 사람을 추적할 수 있습니다.
- 이는 "행동"(머무르는 것, 빠르게 움직이는 것, 선반으로 돌아가는 것)을 패턴으로 분류할 수 있습니다.
시민 자유 옹호자들이 불안해하는 부분은 바로 이것입니다. 당신의 이름이 밝혀지지 않더라도 "주시해야 할 인물"로 간주될 수 있다는 점입니다.
관심 목록의 조용한 힘
시민 자유 운동가들은 BBC에 시민들이 "비밀 감시 명단에 오르고 전자적으로 블랙리스트에 올라" 번화가에서 출입이 금지되고 있다고 밝혔습니다.
그러한 표현은 중요합니다. 왜냐하면 그것은 단순히 한 가게가 고객을 출입 금지시키는 것보다 훨씬 더 큰 의미를 담고 있기 때문입니다.
다음과 같은 특징을 갖춘 관심 목록은 더욱 중요해집니다.
-
시간이 지나도 지속됩니다.순간적인 의심은 다음 방문까지 이어질 수 있습니다.
-
그것은 여러 장소를 이동합니다.한 가게에 걸려 있는 깃발 하나가 다른 가게에서 당신을 대하는 방식에 영향을 미칠 수 있습니다.
-
반박하기 어렵습니다.시스템에서 사용자가 차단되었다는 사실을 알려주지 않으면 이의를 제기할 수 없습니다.
공식적인 "금지" 조치가 없더라도 감시 목록은 결과에 영향을 미칠 수 있습니다.
- 직원들이 당신에게 접근하는 방식이 다릅니다.
- 당신은 더욱 면밀히 감시받고 있습니다.
- 입장이 거부되었습니다.
- 보안팀이 평소보다 일찍 호출됩니다.
문제는 단순히 오탐지뿐만 아니라, 오탐지가 고착화되는 것입니다.
법률이 규정하는 바와 사람들이 경험하는 바 사이의 차이
BBC 보도에 따르면 정부의 입장은 상업용 얼굴 인식 기술 자체는 합법이지만, 엄격한 데이터 보호법을 준수하고 투명하게 사용해야 한다는 것입니다.
그 한 문장이 바로 진정한 싸움의 핵심입니다.
"합법적"이라는 것은 "사회적으로 용인되는" 것과 같은 의미가 아닙니다.
소매업체가 법적으로는 합법적인 행위를 하더라도 고객들이 규칙이 불공평하다고 느끼면 반발을 불러일으킬 수 있습니다.
감시 기술은 쇼핑의 감정적 관계를 변화시킵니다. 사람들은 일정 수준의 손실 방지 조치(카메라, 직원, 태그)는 받아들입니다. 하지만 시스템이 방문객을 (어쩌면 방문객도 모르는 사이에) 분류하기 시작하면, 관계는 "매장이 상품을 보호한다"에서 "매장이 나를 평가하고 있다"로 바뀝니다.
투명성은 단순히 표지판을 세우는 것보다 어렵습니다.
'투명성'은 쉽게 충족할 수 있는 조건처럼 들립니다. 문에 안내문을 붙이면 되니까요. 하지만 진정한 투명성을 위해서는 다음과 같은 질문에 대한 답이 필요합니다.
- 얼굴 인식 시스템을 사용하고 계신가요, 아니면 일반 CCTV만 사용하고 계신가요?
- 어떤 데이터를 저장하시나요? 그리고 얼마나 오랫동안 저장하시나요?
- 데이터를 다른 사이트나 파트너와 공유하시나요?
- 잘못된 플래그에 대해 어떻게 이의를 제기하거나 수정할 수 있나요?
대부분의 고객은 기본적으로 시스템의 존재를 알지 못합니다. 문제가 발생했을 때에야 비로소 시스템의 존재를 알게 됩니다.
소매업체들이 광고하지 않는 운영상의 절충점
소매업체들은 비용과 적용 범위 때문에 이러한 시스템을 도입하지만, 예산표에 깔끔하게 들어맞지 않는 위험도 떠안게 됩니다.
1) 오탐은 실제적인 피해를 초래합니다.
시스템이 무고한 사람을 범죄자로 오인할 경우, 그로 인한 "피해"는 추상적인 것이 아닙니다. 이는 당혹감, 위협, 배제 또는 갈등 악화로 이어질 수 있습니다.
또한 이는 피드백 효과를 가져옵니다. 일단 누군가가 용의자로 취급되면, 불안한 행동은 더욱 "의심스럽게" 보일 수 있으며, 이는 시스템의 초기 오류를 강화합니다.
2) 직원들은 블랙박스의 집행자가 된다
시스템에서 경고음이 울리면 직원들은 조치를 취할지, 무시할지 결정해야 하는 상황에 놓입니다.
만약 그들이 행동했는데 그 결과가 잘못되면, 사람들이 기억하는 것은 알고리즘이 아니라 사람과의 상호작용입니다. 반대로 그들이 경고를 무시했는데 절도가 발생하면, 경영진은 왜 경고를 무시했는지 의문을 제기할 수 있습니다.
따라서 해당 도구가 "권고용"이라 할지라도 직장 내에서는 강압적인 수단으로 작용하게 됩니다.
3) 해당 기술은 임무 확장을 유발합니다.
절도 방지를 위해 설치된 시스템이 나중에 다음과 같은 용도로 재활용될 수 있습니다.
- 반복적인 환불 시도 식별
- 반사회적 행동에 대한 금지 조치 시행
- 직원 성과 추적
기능 확장이 항상 악의적인 것은 아닙니다. 종종 투자 논리에서 비롯됩니다. "이미 이 시스템에 돈을 지불했는데, 이 시스템으로 무엇을 더 할 수 있을까?"
대중 담론이 어떻게 전개될 가능성이 높은가
다음 단계는 하드웨어보다는 거버넌스에 관한 것입니다.
단기적으로는 다음과 같은 패턴이 나타날 가능성이 높습니다.
- (특히 공급업체들이 중소기업용 시스템 패키지를 출시함에 따라) 구축 사례가 더욱 증가할 전망입니다.
- 명확한 규칙과 정보 공개를 요구하는 캠페인이 더욱 활발해지고 있습니다.
- 고객들이 일상적인 장소에 "스마트 감시"가 존재한다는 사실을 알게 될수록 마찰이 더 커질 것입니다.
정책적으로 가장 큰 영향력을 미칠 질문은 철학적인 질문보다는 실용적인 질문일 것이다.
- 정확성의 기준은 누가 정하는가?
- 누가 감시 목록을 감사합니까?
- 어떻게 자신이 감시 대상에 올랐다는 사실을 알게 되나요?
- 삭제 절차는 어떻게 되나요?
해결책을 찾지 못하면 소매업체는 손실 방지를 위해 고안된 도구가 오히려 평판 손상과 고객 불신이라는 다른 종류의 비용을 초래한다는 사실을 알게 될 수 있습니다.
결론적으로
인공지능 기반 절도 방지 시스템은 직원들의 업무 공백을 자동화된 감시 시스템으로 대체할 수 있다는 약속을 내세우고 있으며, 이러한 이유로 대형 소매업체에서 지역 상점으로 확산되고 있습니다. 그러나 감시가 분류, 즉 감시 목록, 블랙리스트, 불투명한 "위험" 라벨링으로 변질될 때, 해당 기술은 조용한 보안 조치가 아닌 공공의 신뢰 문제로 전락하게 됩니다.