한 대학에서 발표하고 출판사가 출판까지 약속한 논문에 IT 전문가들이 화난 이유
얼굴만 분석해 범죄성 예측한다는 건 편견을 증폭시킨다는 것...대학과 출판사는 조용
[보안뉴스 문가용 기자] MS, MIT, 구글 등 유명 조직 출신들을 비롯해 1000명이 넘는 IT 전문가들이 공개 항의서에 서명했다. 얼굴을 인식하는 인공지능 알고리즘을 사용해 범죄 가능성을 예측할 수 있다는 내용의 논문 때문이다. 이런 식으로 범죄자들을 식별한다는 건 심각한 인종차별 및 편견을 야기할 수 있다는 주장이 이 항의서에 담겨 있다.
현재 미국을 비롯한 일부 국가에서는 얼굴 인식 기술을 법 집행에 접목시키려는 움직임이 활발하게 일어나고 있다. 논란이 된 논문 역시 이러한 맥락에서 준비된 것으로, 해리스버그대학에서 발표했다. 제목은 ‘심층 인공 신경망 모델 기반 이미지 프로세싱을 활용해 범죄성 예측하기(A Deep Neural Network Model to Protect Criminality Using Image Processing)’다. ‘얼굴을 인공지능으로 분석해 범죄자가 될 가능성이 있는지 분석한다’는 내용을 담고 있으며 조만간 출판까지 될 예정이다.
공개 항의서는 출판사(독일의 스프링어)를 향해 작성되었다. 출판을 취소하라는 요구와, 얼굴을 분석한 정보만으로(즉 생김새 만으로) 누군가 범죄를 저지를 가능성이 있다고 판단한다는 발상 자체가 심한 편견으로 가득한 것이라는 비판이 실려 있다. 이런 모순 가득한 논문을 출판한다는 것 자체가 잘못된 연구를 북돋는 것이라는 내용도 있으며, “따라서 모든 출판사들은 앞으로 이렇게 독소적인 내용을 담은 논문을 제대로 검토해 출판하지 말아야 한다”는 주장도 담겨 있다.
이 항의서에 서명을 한 전문가들은 다음 세 가지 문제를 지적했다.
1) 얼굴만으로 범죄성을 80%의 정확도로 예측할 수 있다는 건 불가능하다. 심지어 ‘범죄성’이라는 단어의 의미도 모호하며 인종차별적인 뉘앙스를 포함하고 있다.
2) 현재 법이 집행되는 시스템 자체가 이미 인종차별적이라는 증거가 무수히 나오고 있다. 같은 상황에서 법 집행자들은 유색 인종들을 훨씬 더 폭력적으로 대한다.
3) 인공지능이라는 기술 자체가 아직 미완성이다. 특히 현장에 곧바로 투입되는 인공지능 모델은 제대로 된 데이터로 ‘학습’을 할 기회가 제공되지 않는다. 따라서 정확한 결과를 기대할 수 없다. 편견을 증폭할 뿐이다.
4) 범죄성을 예측한다는 것 자체가 정의롭지 않다. 범죄를 예방한다는 차원에서 실시되는 과도한 감시와 검열의 문제 역시 아직 해결되지 않은 상태다.
최근 IBM, 아마존, 마이크로소프트는 경찰과 정부 기관에 얼굴 인식 기술을 제공하거나 판매하지 않겠다고 선언했다. 왜냐하면 이러한 기술을 안전하게 활용할 제도적 장치가 부실하기 때문이다. 이번에 항의서를 제출한 전문가들 역시 안전한 제도 없이 얼굴 인식 기술을 기반으로 범죄성을 예측한다는 건, 시민들과 사회를 제어하기 위한 ‘공포 제조기’를 구축하는 것과 다름없다는 의견이다.
게다가 코로나 바이러스 확산을 감시하겠다며 프라이버시 침해 요소가 다분한 앱들을 여러 나라의 정부 기관에서 출시했다는 것 역시 공권력에 대한 신뢰를 깎아먹고 있는 추세다. GDPR 등이 등장해 개인정보에 대한 중요성이 사람들의 인식 속에 뿌리를 내리려는 찰나에 코로나 사태가 시작되면서 ‘공공의 안전을 위해서는 프라이버시를 포기해도 괜찮다’는 메시지가 은근슬쩍 퍼지고 있는 것을 경계해야 한다는 의견도 나오고 있다.
한편 논문을 출판하기로 했던 출판사 스프링어 측에서는 이번 항의서에 대한 공식 입장을 발표하지 않고 있다. 해리스버그대학의 논문 저자들 역시 조용한 상태다. 항의서 전문은 여기(https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16)서 열람이 가능하다.
3줄 요약
1. 한 대학에서 ‘얼굴 잘 분석하면 범죄 가능성 예측 가능’하다는 논문 발표. 출판도 예정됨.
2. 이에 1천 명이 넘는 IT 전문가들이 들고 일어남. 공개 항의서까지 발표하고 서명.
3. “얼굴 분석 기술도 미완성, 사법 체계도 미완성. 이 둘을 더하면 추악한 혼종만 나올 뿐.”
[국제부 문가용 기자(globoan@boannews.com)]
얼굴만 분석해 범죄성 예측한다는 건 편견을 증폭시킨다는 것...대학과 출판사는 조용
[보안뉴스 문가용 기자] MS, MIT, 구글 등 유명 조직 출신들을 비롯해 1000명이 넘는 IT 전문가들이 공개 항의서에 서명했다. 얼굴을 인식하는 인공지능 알고리즘을 사용해 범죄 가능성을 예측할 수 있다는 내용의 논문 때문이다. 이런 식으로 범죄자들을 식별한다는 건 심각한 인종차별 및 편견을 야기할 수 있다는 주장이 이 항의서에 담겨 있다.
[이미지 = utoimage]
현재 미국을 비롯한 일부 국가에서는 얼굴 인식 기술을 법 집행에 접목시키려는 움직임이 활발하게 일어나고 있다. 논란이 된 논문 역시 이러한 맥락에서 준비된 것으로, 해리스버그대학에서 발표했다. 제목은 ‘심층 인공 신경망 모델 기반 이미지 프로세싱을 활용해 범죄성 예측하기(A Deep Neural Network Model to Protect Criminality Using Image Processing)’다. ‘얼굴을 인공지능으로 분석해 범죄자가 될 가능성이 있는지 분석한다’는 내용을 담고 있으며 조만간 출판까지 될 예정이다.
공개 항의서는 출판사(독일의 스프링어)를 향해 작성되었다. 출판을 취소하라는 요구와, 얼굴을 분석한 정보만으로(즉 생김새 만으로) 누군가 범죄를 저지를 가능성이 있다고 판단한다는 발상 자체가 심한 편견으로 가득한 것이라는 비판이 실려 있다. 이런 모순 가득한 논문을 출판한다는 것 자체가 잘못된 연구를 북돋는 것이라는 내용도 있으며, “따라서 모든 출판사들은 앞으로 이렇게 독소적인 내용을 담은 논문을 제대로 검토해 출판하지 말아야 한다”는 주장도 담겨 있다.
이 항의서에 서명을 한 전문가들은 다음 세 가지 문제를 지적했다.
1) 얼굴만으로 범죄성을 80%의 정확도로 예측할 수 있다는 건 불가능하다. 심지어 ‘범죄성’이라는 단어의 의미도 모호하며 인종차별적인 뉘앙스를 포함하고 있다.
2) 현재 법이 집행되는 시스템 자체가 이미 인종차별적이라는 증거가 무수히 나오고 있다. 같은 상황에서 법 집행자들은 유색 인종들을 훨씬 더 폭력적으로 대한다.
3) 인공지능이라는 기술 자체가 아직 미완성이다. 특히 현장에 곧바로 투입되는 인공지능 모델은 제대로 된 데이터로 ‘학습’을 할 기회가 제공되지 않는다. 따라서 정확한 결과를 기대할 수 없다. 편견을 증폭할 뿐이다.
4) 범죄성을 예측한다는 것 자체가 정의롭지 않다. 범죄를 예방한다는 차원에서 실시되는 과도한 감시와 검열의 문제 역시 아직 해결되지 않은 상태다.
최근 IBM, 아마존, 마이크로소프트는 경찰과 정부 기관에 얼굴 인식 기술을 제공하거나 판매하지 않겠다고 선언했다. 왜냐하면 이러한 기술을 안전하게 활용할 제도적 장치가 부실하기 때문이다. 이번에 항의서를 제출한 전문가들 역시 안전한 제도 없이 얼굴 인식 기술을 기반으로 범죄성을 예측한다는 건, 시민들과 사회를 제어하기 위한 ‘공포 제조기’를 구축하는 것과 다름없다는 의견이다.
게다가 코로나 바이러스 확산을 감시하겠다며 프라이버시 침해 요소가 다분한 앱들을 여러 나라의 정부 기관에서 출시했다는 것 역시 공권력에 대한 신뢰를 깎아먹고 있는 추세다. GDPR 등이 등장해 개인정보에 대한 중요성이 사람들의 인식 속에 뿌리를 내리려는 찰나에 코로나 사태가 시작되면서 ‘공공의 안전을 위해서는 프라이버시를 포기해도 괜찮다’는 메시지가 은근슬쩍 퍼지고 있는 것을 경계해야 한다는 의견도 나오고 있다.
한편 논문을 출판하기로 했던 출판사 스프링어 측에서는 이번 항의서에 대한 공식 입장을 발표하지 않고 있다. 해리스버그대학의 논문 저자들 역시 조용한 상태다. 항의서 전문은 여기(https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16)서 열람이 가능하다.
3줄 요약
1. 한 대학에서 ‘얼굴 잘 분석하면 범죄 가능성 예측 가능’하다는 논문 발표. 출판도 예정됨.
2. 이에 1천 명이 넘는 IT 전문가들이 들고 일어남. 공개 항의서까지 발표하고 서명.
3. “얼굴 분석 기술도 미완성, 사법 체계도 미완성. 이 둘을 더하면 추악한 혼종만 나올 뿐.”
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-24] 
.jpg)
.jpg)
