Tidings all around the world have taken up arms to fight for Black rights after recent incidents involving George Floyd, Breonna Taylor, Elijah McClain, and more. #ACAB (All Cops Are Bastards) is trending on all social media platforms as people are condemning the police for their flawed and racist system. In a time like this, it is crucial to take a pause and check for any more deficiencies in the police department system.

Earlier this year, Robert Williams, a Black man living in Detroit, was wrongfully arrested in front of his wife and daughters (ages 2 and 5) after a facial recognition software owned by the Michigan State Police identified him as a watch thief. After a shop security guard, who had not witnessed the stealing, confirmed his “guiltiness,” Williams was imprisoned. Williams spent a night in a jail cell until he was allowed to see the image on the surveillance feed, to which he claimed: “I hope you all don’t think all Black men look alike.”

Williams's name was eventually cleared, but that does not make this incident a dismissable matter. The harm has been done: Williams’s arrest is now on the record and his DNA sample, mugshot, and fingerprints are now on his file. Williams’s loved ones cannot unsee him being arrested, and his children play games involving the arrest and accuse him of stealing things from them.

Facial recognition has a differential performance with a factor of up to 100 depending on the skin color and gender of the subject. Though we are aware that such glitches in the system could get one arrested for physical attributes completely unrelated to crime, the FBI and many police departments continue to use it in secret. Legislations already in place do not seem to have much impact as leads from the technology are enough to land on conclusions (as it did with Williams).

Technology is evolving nonstop and it is our duty to keep up with it and its moral footprints. Facial recognition in police departments has been banned in certain states in California and Massachusetts, but it is critical that more states follow suit and no more men have to experience what Williams had to go through. After all, this broken technology only equips a racist system with a tool for injustice. To address police brutality, we need to address its technologies too.

얼굴인식 시스템의 위험성

조지 플로이드, 브레오나 테일러, 일라이자 맥클레인 외 많은 사람들에게 일어난 최근 일련의 사건들로 인해 전세계의 사회활동가들은 흑인의 인권을 위한 투쟁을 진행중이다. 많은 사람들이 경찰 시스템의 단점과 인종 차별적인 모습을 비난하면서 소셜 미디어에서는 #ACAB(모든 경찰은 나쁘다)이 트렌딩되고 있다. 요즈음 같은 시기에, 경찰 시스템의 결함에 대해 잠시 생각해보는 것이 중요하다고 생각된다.

올해 초, 미시간주 경찰의 얼굴인식 프로그램은 디트로이트에 거주하던 로버트 윌리암스라는 흑인을 시계 도둑으로 지목하였고, 그는 부인과 각 2살과 5살인 딸들 앞에서 체포되었다. 절도를 목격하지 않았던 해당 점포의 보안경비원은 그가 죄가 있다고 확인하였고, 윌리암스는 감금되게 되었다. 감옥에서 하루를 지낸 후에야 그는 보안 카메라 영상을 확인할 수 있었고, 영상을 본 후 “당신들이 모든 흑인들은 비슷하게 보인다고 생각하지 않기를 바란다”고 말했다.

결국 윌리암스의 누명은 벗겨졌지만, 그가 석방되었다고 아무 일도 없었던 것처럼 이 사건을 잊어서는 안 된다. 윌리암스가 체포되었던 사실, 그의 DNA 샘플과 범인식별용 얼굴 사진, 지문 등 그에 대한 정보가 경찰 기록에 등록되었고, 이런 기록은 그에게 직접적인 해를 입혔다. 그를 사랑하는 가족들은 윌리암스가 체포되던 기억을 지울 수 없으며, 그의 딸들은 아빠가 체포되는 게임을 하며 아빠가 자신들의 물건을 훔쳐간다고 비난하기도 한다.

얼굴인식프로그램은 피부색, 성별 등 100 가지 정도의 요소를 이용해 얼굴을 인식한다. 범죄와 전혀 상관없는 신체적인 특징을 이용하고 있는 프로그램의 중대한 결함에 대해 많은 사람들이 인식하고 있지만, FBI와 경찰들은 비밀리에 이 프로그램을 계속 사용하고 있다. 또한 현재의 법 조항은 윌리암스의 경우에서처럼 별 도움이 되지 못하고 있다.

기술은 끊임없이 발전하고 있으며, 기술의 발전에 따른 도덕적인 기준도 함께 마련하는 것이 무엇보다 중요하다. 얼굴인식 프로그램은 캘리포니아와 메사츄세츠 주 등에서는 금지되었지만, 다른 주들도 윌리엄스 사건과 같은 일이 반복되지 않도록 조치를 취하는 것이 시급하다. 기술의 결함은 차별에 대한 정당성을 부여할 수 있기 때문이다. 우리는 경찰들의 폭력성만을 비판할 것이 아니라, 그들이 사용하는 기술에 대해서도 비판적인 시각을 가져야 할 필요가 있다.

최윤영 강남포스트 학생기자  webmaster@ignnews.kr

<저작권자 © 강남포스트, 무단 전재 및 재배포 금지>