[NYT]Facial Recognition Spreads as Tool to Fight Shoplifting
오래된 데스크톱 컴퓨터에서, 그는 보안 카메라 영상을 꺼내어 각 도둑의 사진을 확대하고 저장하기 위해 잠시 멈췄습니다. 그리고 나서 그는 그의 가게가 도둑을 식별하기 위해 사용하는 얼굴 인식 프로그램인 페이스워치에 로그인했습니다. 다음 번에 그 사람들이 페이스워치를 사용하는 몇 마일 이내의 가게에 들어가면, 가게 직원들은 경고를 받을 것입니다.
“누군가가 ‘지난 주에 가방에 넣은 사람이 방금 들어왔다’고 말하는 것과 같습니다.”라고 맥켄지 씨가 말했습니다.
경찰의 얼굴 인식 기술 사용은 최근 몇 년 동안 엄격하게 조사되었지만, 민간 사업자의 응용은 주목을 덜 받았습니다. 이제, 기술이 향상되고 비용이 감소함에 따라, 시스템은 사람들의 삶 속으로 더 깊이 들어가고 있습니다. 더 이상 정부 기관의 권한뿐만 아니라, 얼굴 인식은 점점 더 많은 도둑, 문제가 있는 고객 및 법적 적대자를 식별하기 위해 배치되고 있습니다.
영국 회사인 페이스워치는 사소한 범죄로 좌절한 전국의 소매상들이 사용하고 있습니다. Facewatch는 한 달에 250파운드(약 320달러)의 적은 비용으로 다른 공유 근처에 저장되는 맞춤형 감시 목록에 액세스할 수 있습니다. Facewatch가 플래그가 표시된 얼굴을 발견하면 경고 메시지가 상점의 스마트폰으로 전송되며, 직원들은 그 사람을 주의 깊게 지켜볼 것인지 아니면 그 사람에게 나가달라고 요청할 것인지 결정합니다.
매켄지 씨는 주로 기저귀, 식료품, 애완동물 용품 및 기타 저가 상품을 훔치는 사람들로 매주 한두 명의 새 얼굴을 추가한다고 말했습니다. 그는 그들의 경제적 어려움이 그를 동정하게 만들었지만, 절도 건수가 너무 많아서 얼굴 인식이 필요하다고 말했습니다. 보통 하루에 적어도 한 번은 페이스워치는 그에게 시계 목록에 있는 누군가가 가게에 들어왔다고 경고합니다.
얼굴 인식 기술은 서구 국가들이 인공지능에 의해 초래된 발전에 맞서면서 확산되고 있습니다. 유럽 연합은 안면 인식의 많은 사용을 금지하는 규칙을 초안하고 있는 반면, 뉴욕 시장인 에릭 아담스는 소매업자들에게 범죄와 싸우기 위한 기술을 시도하도록 장려했습니다. 매디슨 스퀘어 가든과 라디오 시티 뮤직 홀의 소유주인 MSG 엔터테인먼트는, 자동 얼굴 인식을 사용하여 회사를 고소한 변호사의 입국을 거부했습니다.
민주주의 국가 중에서, 영국은 법원과 규제 당국이 사용을 승인하면서, 얼굴 인식을 실시간으로 사용하는 데 앞장서고 있습니다. 런던과 카디프의 경찰은 지명 수배된 범죄자들이 길을 걸을 때 그들을 식별하는 기술을 실험하고 있습니다. 5월에, 그것은 찰스 3세의 대관식에서 군중들을 스캔하는데 사용되었습니다.
하지만 소매업자들의 사용은 경미한 범죄에 대한 불균형적인 해결책이라는 비판을 받았습니다. 사람들은 자신이 감시자 명단에 있는지 또는 어떻게 호소해야 하는지를 아는 방법이 거의 없습니다. 지난해 시민사회단체 빅브라더워치는 법적 제소에서 “극단적으로 오웰식”이라고 평가했습니다
정부의 정책에 대해 조언하는 영국의 생체 인식 및 감시 카메라 위원인 프레이저 샘프슨은 과거의 개인 정보 보호 문제와 제대로 수행되지 않은 알고리즘 때문에 안면 인식 기술에 대해 “긴장과 망설임”이 있었다고 말했습니다.
“하지만 저는 속도, 규모, 정확성, 비용 측면에서 안면 인식 기술이 일부 영역에서 문자 그대로 판도를 바꿀 수 있다고 생각합니다.”라고 그가 말했습니다. “이것은 그것의 도착과 배치가 아마도 불가피하다는 것을 의미합니다. 그것은 단지 언제의 경우입니다.”
‘경찰이 올 거라고 기대할 수 없습니다.’페이스워치는 지하실 같은 인테리어와 소매치기들 사이에서 인기 있는 것으로 유명한 런던 중심부의 인기 있는 19세기 와인 바의 주인인 사이먼 고든에 의해 2010년에 설립되었습니다.
당시 고든 씨는 보안 카메라 영상을 당국과 공유할 수 있는 온라인 도구를 만들기 위해 소프트웨어 개발자를 고용했는데, 이 도구가 경찰이 사건 보고서를 제출하는 시간을 절약하고 더 많은 체포를 초래하기를 희망했습니다.
제한된 관심이 있었지만 보안 기술에 대한 고든 씨의 매력은 자극을 받았습니다. 그는 얼굴 인식 개발을 따라갔고 소매업체들이 공유하고 기여할 수 있는 시계 목록에 대한 아이디어를 얻었습니다. 그것은 마치 상점들이 계산대 옆에 보관하는 도둑들의 사진과 같았지만, 실시간으로 나쁜 사람들을 식별하기 위해 집단 데이터베이스에 추가되었습니다.
2018년까지 고든 씨는 이 기술이 상업적으로 사용될 준비가 되었다고 느꼈습니다.
“여러분은 스스로를 도와야 합니다,”라고 그는 인터뷰에서 말했습니다. “경찰이 올 거라고는 기대할 수 없습니다.”
Real Networks와 Amazon에 의해 만들어진 얼굴 인식 소프트웨어를 허가하는 Facewatch는 현재 영국 전역의 거의 400개의 상점 안에 있습니다. 수백만 장의 사진과 비디오에 대한 교육을 받은 이 시스템은 사람이 상점에 들어갈 때 얼굴의 생체 정보를 읽고 플래그가 표시된 사람들의 데이터베이스와 비교하여 확인합니다.
Facewatch의 워치리스트는 상점들이 도둑과 문제가 있는 고객들의 사진을 업로드함에 따라 지속적으로 증가하고 있습니다. 한 번 추가된 사용자는 삭제되기 전에 1년 동안 해당 사용자 위치에 남아 있습니다.
실수는 드물지만 실제로 일어납니다Facewatch의 시스템이 도둑을 식별할 때마다, 얼굴을 기억하는 특별한 재능을 가진 “슈퍼 인식자”가 되기 위한 테스트를 통과한 사람에게 알림이 전송됩니다. 몇 초 이내에 슈퍼 인식기는 경고를 보내기 전에 Facewatch 데이터베이스와의 일치 여부를 확인해야 합니다.
그러나 회사가 잘못된 식별 및 기타 오류를 방지하기 위한 정책을 수립하는 동안 실수가 발생합니다.
지난 10월, 영국 브리스톨의 한 슈퍼마켓에서 우유를 사는 한 여성이 직원과 마주쳤고 나가라는 명령을 받았습니다. 그녀는 페이스워치가 자신을 금지된 도둑이라고 표시했다는 말을 들었습니다.
사생활 문제 때문에 이름을 밝히지 말아달라고 요청했고 변호사와 페이스워치가 제공한 자료로 이야기가 확증된 이 여성은 실수가 있었을 것이라고 말했습니다. 며칠 후 그녀가 페이스워치에 연락했을 때, 그 회사는 그것이 잘못된 신원의 사례라고 말하며 사과했습니다.
그 여성이 법적 조치를 취하겠다고 위협한 후, 페이스워치는 그들의 기록을 파헤쳤습니다. 이 여성은 10개월 전 20파운드, 약 25달러의 상품과 관련된 사건 때문에 감시 대상에 추가된 것으로 밝혀졌습니다. Facewatch는 시스템이 “완벽하게 작동했다”고 말했습니다.
하지만 그 기술이 그 여성을 정확하게 식별했지만, 그것은 인간의 재량에 많은 여지를 남기지 않았습니다. 페이스워치도 사건이 발생한 가게도 그녀에게 연락하지 않고 그녀가 감시 대상에 올랐다는 것을 알리고 무슨 일이 일어났는지 물어보라고 했습니다.
이 여성은 사건을 기억하지 못했고, 물건을 훔친 적도 없다고 말했습니다. 그녀는 셀프 체크아웃 키오스크에서 직불 카드 결제가 이루어지지 않았다는 것을 깨닫지 못하고 걸어 나갔을 수도 있다고 말했습니다.
빅 브라더 워치의 법률 및 정책 담당자인 매들린 스톤은 페이스워치가 “우유 1파인트를 사는 것과 같은 일상적인 활동을 위해 공항 스타일의 보안 검사를 정상화하고 있다”고 말했습니다
고든 씨는 브리스톨에서의 사건에 대해 언급을 거부했습니다.
일반적으로, 그는 “실수는 드물지만 실제로 일어납니다.”라고 말했습니다 이어 “이런 일이 발생하면 잘못을 인정하고 사과하고 관련 자료를 삭제해 재발을 막고 비례 보상을 해준다”고 덧붙였습니다
프라이버시 사무소에 의해 승인된 시민 자유 단체들은 페이스워치에 대한 우려를 제기하고 생체 인식 기술이 “실질적인 공익”을 갖도록 요구하는 영국의 개인 정보 보호법에 따라 사소한 범죄를 방지하기 위한 그것의 배치가 불법일 수 있다고 제안했습니다
프라이버시 규제 기관인 영국 정보 위원회는 페이스워치에 대해 1년 동안 조사를 실시했습니다. 사무실은 3월에 페이스워치의 시스템이 법에 따라 허용되지만 회사가 작동 방식을 변경한 후에만 허용된다고 결론을 내렸습니다.
Stephen Bonner 규제 감독 부국장은 인터뷰에서 조사 결과 Facewatch가 정책을 변경하게 되었다고 말했습니다: 그것은 상점에 더 많은 간판을 붙이고, 상점들 사이에서 심각하고 폭력적인 범죄자들에 대한 정보만 공유하고, 재범자들에 대한 경고만 보낼 것입니다. 그것은 브리스톨의 여성에게 일어난 것처럼, 사람들이 한 번의 경미한 범죄 이후에도 감시 대상에 포함되지 않을 것이라는 것을 의미합니다.
“그것은 보유하고 있는 개인 정보의 양을 줄이고, 개인들이 이런 종류의 목록에 부당하게 추가될 가능성을 줄이며, 그것이 더 정확해질 가능성을 만듭니다,”라고 Bonner는 말했습니다. 그는 이 기술이 “아주 훌륭한 경비원들만 있는 것과 다르지 않다”고 말했습니다
페이스워치를 사용하는 23개의 스파 편의점을 소유하고 있는 로렌스 헌트의 운영 관리자 리암 아던은 이 기술이 2020년 이후 회사를 50,000파운드 이상 절약했다고 추정합니다.
그는 얼굴 인식의 사생활 위험이 과장되었다고 말했습니다. 그가 기억하는 유일한 오해의 예는 한 남자가 도둑질을 한 일란성 쌍둥이를 혼동했을 때였습니다. 비평가들은 그와 같은 상점들이 얇은 이윤을 바탕으로 운영된다는 것을 간과하고 있다고 그는 말했습니다.
“그들이 ‘아니요, 인권에 위배됩니다’라고 말하는 것은 쉽습니다,”라고 아던 씨는 말했습니다. 도둑질이 줄어들지 않는다면, 그의 가게들은 가격을 올리거나 직원을 줄여야 할 것이라고 그는 말했습니다.
Simon Mackenzie, a security officer at the discount retailer QD Stores outside London, was short of breath. He had just chased after three shoplifters who had taken off with several packages of laundry soap. Before the police arrived, he sat at a back-room desk to do something important: Capture the culprits’ faces.
On an aging desktop computer, he pulled up security camera footage, pausing to zoom in and save a photo of each thief. He then logged in to a facial recognition program, Facewatch, which his store uses to identify shoplifters. The next time those people enter any shop within a few miles that uses Facewatch, store staff will receive an alert.
“It’s like having somebody with you saying, ‘That person you bagged last week just came back in,’” Mr. Mackenzie said.
Use of facial recognition technology by the police has been heavily scrutinized in recent years, but its application by private businesses has received less attention. Now, as the technology improves and its cost falls, the systems are reaching further into people’s lives. No longer just the purview of government agencies, facial recognition is increasingly being deployed to identify shoplifters, problematic customers and legal adversaries.
Facewatch, a British company, is used by retailers across the country frustrated by petty crime. For as little as 250 pounds a month, or roughly $320, Facewatch offers access to a customized watchlist that stores near one another share. When Facewatch spots a flagged face, an alert is sent to a smartphone at the shop, where employees decide whether to keep a close eye on the person or ask the person to leave.
Mr. Mackenzie adds one or two new faces every week, he said, mainly people who steal diapers, groceries, pet supplies and other low-cost goods. He said their economic hardship made him sympathetic, but that the number of thefts had gotten so out of hand that facial recognition was needed. Usually at least once a day, Facewatch alerts him that somebody on the watchlist has entered the store.
Facial recognition technology is proliferating as Western countries grapple with advances brought on by artificial intelligence. The European Union is drafting rules that would ban many of facial recognition’s uses, while Eric Adams, the mayor of New York City, has encouraged retailers to try the technology to fight crime. MSG Entertainment, the owner of Madison Square Garden and Radio City Music Hall, has used automated facial recognition to refuse entry to lawyers whose firms have sued the company.
Among democratic nations, Britain is at the forefront of using live facial recognition, with courts and regulators signing off on its use. The police in London and Cardiff are experimenting with the technology to identify wanted criminals as they walk down the street. In May, it was used to scan the crowds at the coronation of King Charles III.
But the use by retailers has drawn criticism as a disproportionate solution for minor crimes. Individuals have little way of knowing they are on the watchlist or how to appeal. In a legal complaint last year, Big Brother Watch, a civil society group, called it “Orwellian in the extreme.”
Fraser Sampson, Britain’s biometrics and surveillance camera commissioner, who advises the government on policy, said there was “a nervousness and a hesitancy” around facial recognition technology because of privacy concerns and poorly performing algorithms in the past.
“But I think in terms of speed, scale, accuracy and cost, facial recognition technology can in some areas, you know, literally be a game changer,” he said. “That means its arrival and deployment is probably inevitable. It’s just a case of when.”
‘You can’t expect the police to come’
Facewatch was founded in 2010 by Simon Gordon, the owner of a popular 19th-century wine bar in central London known for its cellarlike interior and popularity among pickpockets.
At the time, Mr. Gordon hired software developers to create an online tool to share security camera footage with the authorities, hoping it would save the police time filing incident reports and result in more arrests.
There was limited interest, but Mr. Gordon’s fascination with security technology was piqued. He followed facial recognition developments and had the idea for a watchlist that retailers could share and contribute to. It was like the photos of shoplifters that stores keep next to the register, but supercharged into a collective database to identify bad guys in real time.
By 2018, Mr. Gordon felt the technology was ready for commercial use.
“You’ve got to help yourself,” he said in an interview. “You can’t expect the police to come.”
Facewatch, which licenses facial recognition software made by Real Networks and Amazon, is now inside nearly 400 stores across Britain. Trained on millions of pictures and videos, the systems read the biometric information of a face as the person walks into a shop and check it against a database of flagged people.
Facewatch’s watchlist is constantly growing as stores upload photos of shoplifters and problematic customers. Once added, a person remains there for a year before being deleted.
‘Mistakes are rare but do happen’
Every time Facewatch’s system identifies a shoplifter, a notification goes to a person who passed a test to be a “super recognizer” — someone with a special talent for remembering faces. Within seconds, the super recognizer must confirm the match against the Facewatch database before an alert is sent.
But while the company has created policies to prevent misidentification and other errors, mistakes happen.
In October, a woman buying milk in a supermarket in Bristol, England, was confronted by an employee and ordered to leave. She was told that Facewatch had flagged her as a barred shoplifter.
The woman, who asked that her name be withheld because of privacy concerns and whose story was corroborated by materials provided by her lawyer and Facewatch, said there must have been a mistake. When she contacted Facewatch a few days later, the company apologized, saying it was a case of mistaken identity.
After the woman threatened legal action, Facewatch dug into its records. It found that the woman had been added to the watchlist because of an incident 10 months earlier involving £20 of merchandise, about $25. The system “worked perfectly,” Facewatch said.
But while the technology had correctly identified the woman, it did not leave much room for human discretion. Neither Facewatch nor the store where the incident occurred contacted her to let her know that she was on the watchlist and to ask what had happened.
The woman said she did not recall the incident and had never shoplifted. She said she may have walked out after not realizing that her debit card payment failed to go through at a self-checkout kiosk.
Madeleine Stone, the legal and policy officer for Big Brother Watch, said Facewatch was “normalizing airport-style security checks for everyday activities like buying a pint of milk.”
Mr. Gordon declined to comment on the incident in Bristol.
In general, he said, “mistakes are rare but do happen.” He added, “If this occurs, we acknowledge our mistake, apologize, delete any relevant data to prevent reoccurrence and offer proportionate compensation.”
Approved by the privacy office
Civil liberties groups have raised concerns about Facewatch and suggested that its deployment to prevent petty crime might be illegal under British privacy law, which requires that biometric technologies have a “substantial public interest.”
The U.K. Information Commissioner’s Office, the privacy regulator, conducted a yearlong investigation into Facewatch. The office concluded in March that Facewatch’s system was permissible under the law, but only after the company made changes to how it operated.
Stephen Bonner, the office’s deputy commissioner for regulatory supervision, said in an interview that an investigation had led Facewatch to change its policies: It would put more signage in stores, share among stores only information about serious and violent offenders and send out alerts only about repeat offenders. That means people will not be put on the watchlist after a single minor offense, as happened to the woman in Bristol.
“That reduces the amount of personal data that’s held, reduces the chances of individuals being unfairly added to this kind of list and makes it more likely to be accurate,” Mr. Bonner said. The technology, he said, is “not dissimilar to having just very good security guards.”
Liam Ardern, the operations manager for Lawrence Hunt, which owns 23 Spar convenience stores that use Facewatch, estimates the technology has saved the company more than £50,000 since 2020.
He called the privacy risks of facial recognition overblown. The only example of misidentification that he recalled was when a man was confused for his identical twin, who had shoplifted. Critics overlook that stores like his operate on thin profit margins, he said.
“It’s easy for them to say, ‘No, it’s against human rights,’” Mr. Ardern said. If shoplifting isn’t reduced, he said, his shops will have to raise prices or cut staff.