황당한 아마존 AI, “미의원 28명 범죄자로 인식”

▲출처: 미국시민자유연맹(ACLU), aclu.org

아마존의 인공지능(AI) 기반 머신러닝 얼굴인식 서비스 '아마존 레코그니션(Amazon's Face Recognition)'이 미국 의회 의원 28명의 얼굴을 범죄자로 인식했다.

이 같은 사실은 26일(현지시각) 미국시민자유연맹(ACLU)이 “아마존이 개발한 얼굴인식 API ‘'아마존 레코그니션’을 사용해 미연방 의원의 얼굴사진을 범죄자의 얼굴 사진인 머그샷(mugshot) 데이터베이스와 비교한 결과, 무려 28명의 의원이 범죄자로 잘못 인식됐다”고 발표했다. 

'아마존 레코그니션‘은 지난 5월 19일 ‘세기의 결혼식’이라 불리며 많은 사람들의 관심을 끈 영국 해리 왕자와 할리우드 여배우 메건 마클의 결혼식에 참석한 하객들의 신원을 일일이 다 확인하기 위해서 사용됐다. 또 ‘뉴욕타임즈’에서는 공공행사에 참석하는 인물 확인 등을 위해 ‘아마존 레코그니션’을 도입해 시험 가동 중이다.

ACLU는 실제로 미국 2개의 법집행 기관에 납품되었다는 '아마존 레코그니션‘의 정확도를 측정하는 테스트를 실시했다. 2만 5000장으로 구성된 범죄자의 얼굴 사진을 사용해 '아마존 레코그니션‘ 얼굴 데이터베이스와 검색 도구를 구축하고 의회의 하원과 상원의 모든 의원의 공개 사진과 대조해 보았다. 

테스트 결과 28명의 의원이 범죄자의 얼굴과 일치하는 것으로 나타났다. 특히 '아마존 레코그니션‘가 잘못 인식한 28명 의원 가운데 약 40%인 11명이 유색 인종이었다. 연방의회 의원 중 유색 인종의 비율이 약 20%라는 데이터를 감안할 때, 유색 인종이 백인보다 오인되기 쉬운 것으로 나타났다.

아마존 측은 이번 결과에 대해 “아마존이 법 집행 기관에 권장하는 신뢰도 설정이 95% 이상이 아닌 기본으로 설정된 신뢰도 80%로 진행됐기 때문”이라고 밝혔다. 하지만 ACLU는 “‘아마존 레코그니션’을 직접 설치해 봤지만 해당 권장 내용이 나오지 않았다”며, “법집행 기관이 설정값을 임의대로 사용하는 것을 막을 수 있는 방법도 없다”고 말했다.

▲출처: 미국시민자유연맹(ACLU), aclu.org

현재 각국 법집행 기관은 군중 속에서 범죄자를 찾아내는 얼굴인식 기술을 빠르게 도입하고 있다. 하지만 얼굴인식 기술의 정확도가 그다지 실용적이지 못한 것으로 나타났다. 최근 얼굴인식 기술을 운영하기 시작한 영국 런던 경찰에서는 오탐지율이 98%에 이른다는 결과가 밝혀져 비판을 받고 있다. 

한편, 2015년 6월 미국에서 구글 포토가 흑인 2명의 사진을 고릴라로 분류해 기술 성능능 물론이고 인종차별에 대한 논란까지 불거진 바 있다

이러한 얼굴인식 기술에 대한 신뢰도가 떨어져 다양한 인권 단체가 얼굴인식 기술의 도입에 대해 우려를 나타내고 있다. 

지난 5월에도 연방의회 의원의 유색 인종의 멤버가 모이는 모임 ‘CBC(Congressional Black Caucus)’은 아마존 제프 베조스 CEO에게 “흑인에게 얼굴인식은 의도하지 않은 결과를 가져올지도 모르기 때문에 법집행 기관에 ‘아마존 레코그니션’을 판매하는 일을 중단해야 한다”고 서한을 보낸 바 있다. 

이번 ACLU가 실시한 테스트 결과에 대한 반향이 크게 일어나고 있다. 이미 3명의 의원이 제프 베조스 CEO에게 ‘아마존 레코그니션’ 성능과 영향에 대해 설명하라는 공개서한을 보내 즉각적인 미팅을 요구하고 나섰다. 

ACLU는 “얼굴인식에 의한 경찰의 감시는 흑인과 이민자가 정부 조직에 억압될 가능성을 낳는다”며, “법집행 기관의 얼굴인식 기술사용을 그만 두어야한다”고 주장하고 있다. 


IT뉴스 / 김들풀 기자 itnews@itnews.or.kr