[NYT]Eight Months Pregnant and Arrested After False Facial Recognition Match
그녀는 경찰관들에게 “농담하는 거야?”라고 말했던 것을 기억했습니다. 32세의 우드러프 씨는 자신이 그러한 범죄를 저지르기에 얼마나 부적당했는지를 나타내기 위해 배를 향해 손짓을 했다고 말했습니다: 그녀는 임신 8개월이었습니다.
지난 2월 목요일 아침 집 앞에서 수갑을 찬 채 울고 있는 아이들을 약혼자에게 맡기고 있는 우드러프 씨는 디트로이트 구치소로 이송되었습니다. 그녀는 11시간 동안 감금되었고, 전혀 알지 못한다고 말하는 범죄에 대해 조사를 받았고, 증거를 찾기 위해 아이폰을 압수당했다고 말했습니다.
“저는 세포를 잡고 있는 동안 수축이 있었습니다. 허리가 너무 아파요. 경련이 있었어요. 아마 공황 발작을 일으켰을 거예요,” 라고 면허를 가진 미적인이자 간호학과 학생인 우드러프 씨가 말했습니다. “저는 콘크리트 벤치에 앉아 아팠습니다.”
강도와 차량 납치 혐의로 법정에서 기소된 후, 우드러프 씨는 그날 저녁 10만 달러의 개인 채권으로 풀려났습니다. 인터뷰에서, 그녀는 탈수 진단을 받은 병원으로 곧바로 가서 정맥 수액 두 봉지를 투여했다고 말했습니다. 한 달 후, 그녀의 아들을 낳기 2주 전, 웨인 카운티 검사는 그녀에 대한 사건을 기각했습니다.
디트로이트 경찰국의 한 조사관의 보고에 따르면, 이 시련은 자동화된 안면 인식 검색으로 시작되었습니다. 우드러프 씨는 알려지지 않은 범죄자의 얼굴을 데이터베이스의 사진에 맞추기 위해 경찰이 사용한 안면 인식 기술의 결과로 범죄로 누명을 쓴 것으로 보고된 여섯 번째 사람입니다. 여섯 명 모두 흑인이었습니다. 우드러프 씨는 그런 일이 자신에게 일어난 것을 처음으로 보고한 여성입니다.
경찰이 민간 감독 단체인 디트로이트 경찰 위원회에 제공한 이 기술의 사용에 대한 주간 보고서에 따르면, 이것은 디트로이트 경찰국과 관련된 세 번째 사건으로, 1년에 평균 125건의 안면 인식 검색을 거의 전적으로 흑인에 대해 실행합니다. 이 기술을 비판하는 사람들은 이 기술의 약점과 무고한 사람들에게 가해지는 위험을 노출하는 사례들이라고 말합니다.
디트로이트 경찰국은 “얼굴 인식을 사용하는 것이 가져올 위험에 대해 알만한 충분한 이유가 있는 기관”이라고 전국형사변호사협회의 기술 전문가 클레어 가비는 말했습니다. “그리고 어쨌든 그것은 일어나고 있습니다
목요일, 우드러프 씨는 미시간 동부 지방 법원의 디트로이트 시를 상대로 부당한 체포 소송을 제기했습니다.
“저는 소송에 포함된 주장들을 검토했습니다. 그들은 매우 우려하고 있습니다.” 디트로이트 경찰서장 제임스 E. 화이트는 뉴욕 타임즈의 질문에 대한 답변으로 성명을 통해 말했습니다. “우리는 이 문제를 매우 심각하게 받아들이고 있지만, 추가 조사의 필요성 때문에 현재로서는 더 이상 언급할 수 없습니다.”
그녀의 사무실에서 발표한 성명에 따르면 웨인 카운티 검사 킴 워디는 우드러프 씨 사건의 체포 영장이 “사실에 기초하여 적절하다”고 생각합니다.
우드러프 씨의 소송에 포함된 경찰 보고서에 따르면 경찰이 우드러프 씨의 집에 나타나기 2주 반 전 일요일 밤, 25세 남성이 주류 가게에서 디트로이트 경찰에 전화를 걸어 총을 겨누고 강도를 당했다고 신고했습니다.
강도 피해자는 경찰에서 이날 오전 길에서 한 여성을 주웠다고 진술했습니다. 그는 그들이 그의 차에서 함께 술을 마셨다고 말했습니다. 먼저 그들이 성관계를 한 주류 가게 주차장에서, 그리고 BP 주유소에서. 경찰 신고에 따르면, 그가 그녀를 10분 거리에 있는 장소에 내려주자, 그녀를 만나기 위해 그곳에 있던 한 남성이 권총을 들고 피해자의 지갑과 전화기를 빼앗아 피해자의 쉐비 말리부를 타고 도망쳤다고 합니다.
며칠 후, 경찰은 도난 차량을 운전하는 한 남자를 체포했습니다. 경찰은 피해자가 제시한 설명과 일치하는 여성이 같은 BP 주유소에 휴대전화를 내려줬다고 밝혔습니다.
경찰 보고서에 따르면 경찰국의 상업용 자동차 절도 전담 형사가 BP 주유소에서 감시 비디오를 입수했으며, 경찰국의 범죄 분석가에게 이 여성에 대한 안면 인식 검색을 의뢰했습니다.
시 문서에 따르면, 그 부서는 DataWorks Plus라는 안면 인식 공급업체를 사용하여 범죄 머그샷 데이터베이스에 대해 알려지지 않은 얼굴을 실행합니다. 시스템은 동일한 사람일 가능성에 따라 순위가 매겨지는 일치 항목을 반환합니다. 인간 분석가는 궁극적으로 일치하는 항목 중 하나가 잠재적인 용의자인지 여부를 결정할 책임이 있습니다. 경찰 보고서는 범죄 분석가가 2015년 머그 샷과 일치하는 것을 근거로 우드러프 씨의 이름을 수사관에게 주었다고 말했습니다. 우드러프 씨는 한 인터뷰에서 2015년 만료된 면허증으로 운전하다 차를 세운 뒤 체포됐다고 말했습니다.
경찰 보고서에 따르면 차량 납치 사건이 발생한 지 닷새 만에 사건에 배당된 형사가 피해자에게 흔히 ‘식스팩 사진 라인업’이라고 불리는 흑인 여성 6명의 머그샷을 보라고 요청했습니다 우드러프 씨의 사진이 그들 중에 있었습니다. 그는 우드러프 씨가 그와 함께 있었던 여자라고 확인했습니다. 경찰 보고서에 따르면 그것이 그녀를 체포할 수 있는 근거였습니다. (경찰은 이후 다른 여성이 이 사건으로 기소되었는지에 대해서는 언급하지 않았습니다.)
목격자 신원의 신뢰성을 연구해온 심리학 교수인 게리 웰스는 안면 인식 기술과 목격자 신원을 연결하는 것이 누군가에게 범죄 혐의를 적용하는 근거가 되어서는 안 된다고 말했습니다. 그 비슷한 외모의 사람이 무죄라고 해도 똑같은 비교를 요구받는 목격자는 컴퓨터가 저지른 실수를 반복할 가능성이 높습니다.
“이것은 원형이고 위험합니다.”라고 웰스 박사가 말했습니다. “충분한 얼굴을 검색하면 감시 이미지에 표시된 사람과 닮은 사람을 항상 생성할 수 있는 매우 강력한 도구가 있습니다.”
웰스 박사는 이 기술이 목격자들의 기존 문제를 더욱 악화시킨다고 말했습니다. “그들은 여러분이 그들에게 식스팩을 보여줄 때, 진짜 사람이 거기에 있다고 가정합니다”라고 그는 말했습니다.
심각한 결과디트로이트 시는 이 기술의 사용을 근거로 한 부당한 체포로 세 번의 소송에 직면해 있습니다.
“조잡한 기술은 부실한 수사를 만들고, 경찰이 그들이 심각한 수사를 할 것이라는 보장은 사실이 아닙니다,”라고 미시간 주 미국 시민 자유 연합의 수석 직원 변호사인 필 메이어가 말했습니다.
시장은 2020년 1월 안면 인식 일치 불량을 이유로 절도 혐의로 체포된 디트로이트 출신 로버트 윌리엄스를 대리하고 있으며, 이후 검찰은 이에 대해 사과했습니다.
그의 소송에서, 윌리엄스 씨는 뉴욕시가 자동 얼굴 검색과 관련된 사건에서 더 많은 증거를 수집하고, 시장이 말하는 “줄 세우기 파이프라인에 대한 얼굴 인식”을 끝내기로 합의하도록 노력하고 있습니다
“이것은 우리가 알고 있는 여러 명의 잘못된 체포를 초래한 매우 위험한 관행입니다.”라고 시장은 말했습니다.
Toll Ms. Woodruff는 그녀가 남은 임신 기간 동안 스트레스를 받았다고 말했습니다. 그녀는 다음날 전화기를 되찾기 위해 경찰서에 가야 했고, 줌에 의해 두 번이나 법정 심리를 위해 출석했고 증거 불충분으로 사건이 기각되었습니다.
“무섭습니다. 걱정돼요. 누군가는 항상 다른 사람처럼 보입니다.”라고 그녀의 변호사 이반 엘 랜드가 말했습니다. “얼굴 인식은 조사 도구일 뿐입니다. 히트를 친다면 일을 하고 더 나아가세요. 더 나아가세요. 그녀의 문을 두드리세요.”
우드러프 씨는 이웃들 앞에서 체포된 것이 창피하다며 딸들이 정신적 충격을 받았다고 말했습니다. 그들은 이제 그녀의 어린 아들이 “태어나기도 전에 감옥에 있었다”고 놀립니다
임신 기간이 너무 길었기 때문에 이 경험은 더욱 어려웠지만 우드러프 씨는 자신이 임신한 것이 행운이라고 생각한다고 말했습니다. 그녀는 그것이 그녀가 범죄를 저지르지 않았다는 것을 당국에 확신시켰다고 생각합니다. 카잭에 관련된 여성은 눈에 띄게 임신하지 않았습니다.
Porsha Woodruff was getting her two daughters ready for school when six police officers showed up at her door in Detroit. They asked her to step outside because she was under arrest for robbery and carjacking.
“Are you kidding?” she recalled saying to the officers. Ms. Woodruff, 32, said she gestured at her stomach to indicate how ill-equipped she was to commit such a crime: She was eight months pregnant.
Handcuffed in front of her home on a Thursday morning last February, leaving her crying children with her fiancé, Ms. Woodruff was taken to the Detroit Detention Center. She said she was held for 11 hours, questioned about a crime she said she had no knowledge of, and had her iPhone seized to be searched for evidence.
“I was having contractions in the holding cell. My back was sending me sharp pains. I was having spasms. I think I was probably having a panic attack,” said Ms. Woodruff, a licensed aesthetician and nursing school student. “I was hurting, sitting on those concrete benches.”
After being charged in court with robbery and carjacking, Ms. Woodruff was released that evening on a $100,000 personal bond. In an interview, she said she went straight to the hospital where she was diagnosed with dehydration and given two bags of intravenous fluids. A month later, two weeks before giving birth to her son, the Wayne County prosecutor dismissed the case against her.
The ordeal started with an automated facial recognition search, according to an investigator’s report from the Detroit Police Department. Ms. Woodruff is the sixth person to report being falsely accused of a crime as a result of facial recognition technology used by police to match an unknown offender’s face to a photo in a database. All six people have been Black; Ms. Woodruff is the first woman to report it happening to her.
It is the third case involving the Detroit Police Department, which runs, on average, 125 facial recognition searches a year, almost entirely on Black men, according to weekly reports about the technology’s use provided by the police to Detroit’s Board of Police Commissioners, a civilian oversight group. Critics of the technology say the cases expose its weaknesses and the dangers posed to innocent people.
The Detroit Police Department “is an agency that has every reason to know of the risks that using face recognition carries,” said Clare Garvie, an expert on the technology at the National Association of Criminal Defense Lawyers. “And it’s happening anyway.”
On Thursday, Ms. Woodruff filed a lawsuit for wrongful arrest against the city of Detroit in U.S. District Court for the Eastern District of Michigan.
“I have reviewed the allegations contained in the lawsuit. They are very concerning,” Detroit’s police chief, James E. White, said in a statement in response to questions from The New York Times. “We are taking this matter very seriously, but we cannot comment further at this time due to the need for additional investigation.”
The Wayne County prosecutor, Kym Worthy, considers the arrest warrant in Ms. Woodruff’s case to be “appropriate based upon the facts,” according to a statement issued by her office.
The Investigation
On a Sunday night two and a half weeks before police showed up at Ms. Woodruff’s door, a 25-year-old man called the Detroit police from a liquor store to report that he had been robbed at gunpoint, according to a police report included in Ms. Woodruff’s lawsuit.
The robbery victim told the police that he had picked up a woman on the street earlier in the day. He said that they had been drinking together in his car, first in a liquor store parking lot, where they engaged in sexual intercourse, and then at a BP gas station. When he dropped her off at a spot 10 minutes away, a man there to meet her produced a handgun, took the victim’s wallet and phone, and fled in the victim’s Chevy Malibu, according to the police report.
Days later, the police arrested a man driving the stolen vehicle. A woman who matched the description given by the victim dropped off his phone at the same BP gas station, the police report said.
A detective with the police department’s commercial auto theft unit got the surveillance video from the BP gas station, the police report said, and asked a crime analyst at the department to run a facial recognition search on the woman.
According to city documents, the department uses a facial recognition vendor called DataWorks Plus to run unknown faces against a database of criminal mug shots; the system returns matches ranked by their likelihood of being the same person. A human analyst is ultimately responsible for deciding if any of the matches are a potential suspect. The police report said the crime analyst gave the investigator Ms. Woodruff’s name based on a match to a 2015 mug shot. Ms. Woodruff said in an interview that she had been arrested in 2015 after being pulled over while driving with an expired license.
Five days after the carjacking, the police report said, the detective assigned to the case asked the victim to look at the mug shots of six Black women, commonly called a “six-pack photo lineup.” Ms. Woodruff’s photo was among them. He identified Ms. Woodruff as the woman he had been with. That was the basis for her arrest, according to the police report. (The police did not say whether another woman has since been charged in the case.)
Gary Wells, a psychology professor who has studied the reliability of eyewitness identifications, said pairing facial recognition technology with an eyewitness identification should not be the basis for charging someone with a crime. Even if that similar-looking person is innocent, an eyewitness who is asked to make the same comparison is likely to repeat the mistake made by the computer.
“It is circular and dangerous,” Dr. Wells said. “You’ve got a very powerful tool that, if it searches enough faces, will always yield people who look like the person on the surveillance image.”
Dr. Wells said the technology compounds an existing problem with eyewitnesses. “They assume when you show them a six-pack, the real person is there,” he said.
Serious Consequences
The city of Detroit faces three lawsuits for wrongful arrests based on the use of the technology.
“Shoddy technology makes shoddy investigations, and police assurances that they will conduct serious investigations do not ring true,” said Phil Mayor, a senior staff attorney at the American Civil Liberties Union of Michigan.
Mr. Mayor represents Robert Williams, a Detroit man who was arrested in January 2020 for shoplifting based on a faulty facial recognition match, for which the prosecutor’s office later apologized.
In his lawsuit, Mr. Williams is trying to get the city to agree to collect more evidence in cases involving automated face searches and to end what Mr. Mayor called the “facial recognition to line-up pipeline.”
“This is an extremely dangerous practice that has led to multiple false arrests that we know of,” Mr. Mayor said.
The Toll
Ms. Woodruff said she was stressed for the rest of her pregnancy. She had to go to the police station the next day to retrieve her phone, and appeared for court hearings twice by Zoom before the case was dismissed because of insufficient evidence.
“It’s scary. I’m worried. Someone always looks like someone else,” said her attorney, Ivan L. Land. “Facial recognition is just an investigative tool. If you get a hit, do your job and go further. Knock on her door.”
Ms. Woodruff said that she was embarrassed to be arrested in front of her neighbors and that her daughters were traumatized. They now tease her infant son that he was “in jail before he was even born.”
The experience was all the more difficult because she was so far along in her pregnancy, but Ms. Woodruff said she feels lucky that she was. She thinks it convinced authorities that she did not commit the crime. The woman involved in the carjacking had not been visibly pregnant.