[이코노믹리뷰=홍석윤 기자] 대부분의 상업용 안면 인식 시스템이 심한 편차를 보이고 있다고 뉴욕타임스(NYT) 등 미 언론들이 미 연방 연구기관의 연구를 인용 보도했다.

미국 국립표준기술원(National Institute of Standards and Technology, NIST)은 19일(현지시간), 범죄 용의자를 식별하기 위해 경찰과 연방 기관이 점점 더 많이 사용하고 있는 안면인식 기술에 대한 의문점을 제기했다.

NIST는 미국 법 집행 기관이 사용하고 있는 사진 데이터베이스를 기반으로 시행한 안면인식 시스템이 흑인과 아시아계에 대해 인식 오류가 백인보다 10배에서 100배 높게 나타났으며, 가장 높은 오류율은 아메리카 원주민이었다고 밝혔다.

이 기술은 또한 남성보다 여성을 식별하는 데 더 많은 문제를 초래했다. 또 중년 성인들보다 노년 성인들의 인식 오류가 10배 높았다.

새 보고서는 안면인식기술 적용의 확산에 대해 국회의원들과 시민단체들의 우려가 증폭되고 있는 시점에 나온 것이다. 그동안 이 시스템의 채택을 지지했던 사람들은 이 기술이 범죄자를 잡고 테러리스트들을 추적하는 중요한 도구라고 주장해 왔다. 기술회사들도 스마트폰의 잠금을 해제하기 위해 사진이나 암호 대신 이 기술을 이용하면 사진으로 사용자를 인식할 수 있어 더 편리하다고 홍보해 왔다.

그러나 시민 자유 전문가들은, 사람들이 알지 못하는 사이에 멀리서 사람의 얼굴을 추적하는 이 기술이 감시를 보편화하고 행동과 언론의 자유를 위협할 수 있다고 경고한다. 캘리포니아주 샌프란시스코, 오클랜드, 버클리市와, 매사추세츠주 지역사회인 서머빌과 브룩클린은 시정부가 이 기술을 사용하는 것을 금지했다.

미국시민자유연합(American Civil Liberties Union)의 제이 스탠리 정책분석가는 "한번이라도 인식 오류가 발생하면 그 사람은 비행기를 놓칠 수도 있고, 장시간 심문을 받을 수도 있고, 요주의 인물 목록에 오를 수도 있고, 불필요하게 경찰과 대치해야 할 수도 있고, 심지어는 체포되거나 그 이상의 결과를 초래할 수 있다"고 지적했다.

"FBI, 세관, 국경 수비대 등 정부기관과 현장 경찰들은 즉시 이 반(反)이상적인 기술의 배치를 중단해야 합니다."

이번 연방 보고서는 지금까지 발표된 이와 유사한 연구 중 가장 큰 규모의 연구다. 연구원들은 미국에서 온 약 850만 명의 사람들이 미국인들의 사진, 비자 신청서, 국경통과 데이터베이스로부터 850만명의 사진 1800만장으로 이번 연구를 진행했다.

NIST는 99명의 개발자를 동원해 189종류의 안면인식 알고리즘을 시험했는데, 이는 상용으로 사용되고 있는 안면인식 기술을 거의 모두 포함한 것이다. 물론 기술 거인 마이크로소프트, 생체기술회사 코니텍(Cognitec), 중국 인공지능(AI) 회사 메그비(Megvi)의 시스템도 포함됐다. 다만 알고리즘을 제출하지 않은 아마존, 애플, 페이스북, 구글의 시스템은 포함되지 않았다.

이번 보고서는, 대형 기술회사들의 안면인식 시스템이 백인 남성보다 여성과 유색인종의 얼굴을 식별하는 데 훨씬 낮은 정확도를 보인다는 MIT의 앞선 연구 결과를 재확인했다.

MIT의 안면인식 연구를 이끈 MIT 미디어 랩(MIT Media Lab)의 조이 부올람위니 연구원은 NYT에 보낸 이메일에서 “일부 생체측정학 연구원이나 판매 기업들은 자기네 기술의 알고리즘적 편향성이 문제가 되지 않거나 극복될 수 있다고 주장하려 하지만, 이번 연구에서 그들의 주장이 틀렸다는 포괄적 증거가 제시됐다"고 지적했다.

"우리는 단연코 시민의 이익을 보호하기 위해 얼굴 감시의 확산을 막아야 합니다."

법 집행기관들의 안면인식 시스템의 사용은 새로운 것은 아니지만, 문제는 독립적인 감독이나 대중의 감시를 받지 않고 그 사용이 급증하고 있다는 것이다. 중국은 위구르족 같은 소수민족 집단을 감시하고 통제하는 데 이 기술을 사용해 왔다. 올해 미국 이민세관단속국(USICE) 관리들은 수백만 명의 운전 면허증 사진을 무단으로 분석하는데 이 기술을 사용했다는 비난을 받았다.

안면인식 기술은 특히 법 집행에서 문제가 발생한다. 인식 오류, 즉 실수가 고발과 체포로 이어질 수 있기 때문이다. 이번 NIST 연구는 법 집행에 사용되는 안면인식 알고리즘이 미국인 흑인 여성에게서 가장 높은 오류율을 보인다는 것을 발견했다.

이번 보고서의 주요 저자인 NIST의 컴퓨터 과학자 패트릭 그로더는 "인식 오류가 가져올 영향이 엄청나게 클 수 있다"고 말했다.

“이번 연구 결과가 안면인식 알고리즘을 개발하는 사람들에게 시스템의 문제에 대한 경각심을 높이고 시스템을 어떻게 고쳐야할 지 생각하는 계기가 되기를 바랍니다.”

그러나 알고리즘 시스템을 전공하고 있는 카네기 멜론 대학교의 마리아 드 아르테가 연구원은 “이러한 시스템을 공정하게 만드는 것은 과제의 일부에 불과하다”고 말한다.

“안면인식 기술이 발전할수록 기업과 정부는 언제, 어디에, 어떻게 그 시스템을 배치해야 하는지를 보다 신중하게 생각해야 합니다. 그리고 우리 사회가 이런 기술을 정말 원하는지에 대해서도 고민해야 합니다.”