인공지능 업체 클리어뷰에이아이가 우크라이나 정부에 얼굴인식 기술을 무료로 제공한다고 발표했다. 이걸로 필요한 경우 사람들의 얼굴을 빠르게 인식해 신원을 파악할 수 있을 거라고 한다. 전장에서 도움이 될 만한 기술이긴 한데, 조금 다른 의도가 엿보이기도 한다.
[보안뉴스 문정후 기자] 이번 주 인공지능 업체인 클리어뷰에이아이(Cleaview AI)가 우크라이나 정부에 자사 얼굴인식 기술을 무료로 제공했다고 발표했다. 이 기술은 러시아의 스파이나 공격자들을 재빨리 식별하거나, 피난민의 신원을 확인하고, 허위 정보 유포를 막으며, 사망자의 신원을 확인하는 데에 활용될 것으로 예상된다.
러시아의 우크라이나 침공 3주차에 나온 이 소식은 클리어뷰 측이 로이터통신에 단독으로 제보한 것으로, 전쟁과 같은 극한 상황에서 인공지능 기반 얼굴 인식 기술의 긍정적인 활용 사례가 될 수 있을 것으로 보인다. 그 동안 얼굴인식 기술은 남용과 프라이버시 침해에 대한 염려와 우려 때문에 부정적으로 비춰졌던 것이 사실이다. 때문에 여론을 신경 쓰느라 얼굴 인식 기술 도입이 필요해도 하지 못하던 CIO들은 클리어뷰와 우크라이나 사태에 주목할 필요가 있다. 우크라이나 정부가 긍정적인 목적을 달성하기 위해 어떤 식으로 기술을 활용하는지도 지켜봐야 할 부분이다.
일반적으로 인공지능에 얼굴 이미지를 학습시키려면, 본인에게 허락을 반드시 받아야만 한다. 이런 제도는 보편적으로 확대되고 있는 추세다. 클리어뷰의 경우 얼굴 인식 인공지능 알고리즘을 만들기 위해 페이스북, 트위터, 링크드인과 같은 소셜미디어 플랫폼에서 이미지들을 수집했는데, 사실 당사자들에게는 허락을 구하지 않았었다. 때문에 여론의 뭇매를 맞기도 했었다. 이번 우크라이나 사태를 통해 이미지 쇄신을 하려는 것일 수도 있다.
긍정적인 사례
순수하게 기술적인 측면만 보더라도 얼굴인식 기술에는 긍정적인 면이 풍부하게 존재한다. 얼굴인식을 기반으로 한 잠금 해제 기능은 이미 여러 스마트폰에 도입되어 있으며, 사용자들의 만족감도 높은 편이다. 잃어버린 아이들을 찾는 데에도 얼굴인식 기술이 큰 도움을 줄 수 있을 것으로 기대되고 있으며, 공항 검색대 등 신분증 검사를 거쳐야 하는 곳을 통과할 때도 훨씬 더 편리하고 빠르게 사람을 식별할 수 있을 것이다.
인공지능 윤리 분야의 전문가이자 IT 업체 프랙탈에이아이(Fractal.ai)의 파트너인 사가 샤(Sagar Shah)는 “얼굴 인식 기술이 제대로, 윤리적으로 도입되었다는 전제 하에 여권이라는 걸 도무지 들고 다닐 필요가 없게 된다”며 “그냥 걸어가기만 해도 여권 검사한 것과 똑같은 효과가 나는 게 꿈만은 아니”라고 말한다. “물론 모든 기능이 이상적으로 이상 없이 돌아가고, 아무도 악용을 시도하지 않는다면 말이죠.”
클리어뷰의 사정
지난 수년 동안 얼굴을 인식하는 인공지능에 대한 사람들의 반응은 그리 호의적이지 않았다. 특히, 프라이버시와 인권 옹호 단체들은 정부나 권력 기관이 이 기술을 남용함으로써 대규모 검열을 할 수 있게 될 것이라고 주장하며 기술의 도입을 반대해 왔다. 그게 아니더라도 비교적 피부 색깔이 어두운 대상들을 잘못 인식하는 사례들이 자주 나왔기 때문에 인공지능이 태생적으로 가지고 있는 ‘편향성’도 지적이 되어 왔다.
실제, 날 알아보는 카메라가 거리 곳곳에 설치된다는 것에 대해 거부감이 들지 않는 사람은 드물 것이다. 그렇기 때문에 IBM, 아마존, 마이크로소프트와 같은 대기업들도 독자적으로 개발한 인공지능 기반 얼굴 인식 소프트웨어를 사법기관에 판매하는 것을 꺼려하고 있다. 지난 11월 페이스북의 모기업인 메타는 한 발 더 나아가 자사 플랫폼에 오래 전부터 도입되었던 얼굴 인식 템플릿들을 삭제하기도 했다.
이런 분위기 속에서 앞서 밝혔듯 클리어뷰가 당사자들의 허락도 없이 소셜미디어들에서 얼굴 사진을 마구 긁어다 알고리즘 훈련에 사용했다는 사실이 드러났으니 여론이 어땠겠는가? 들끓었다. 소셜미디어 기업들은 클리어뷰가 다시는 그런 짓을 하지 못하게 조치를 취하기도 했다. 하지만 이미 가져간 이미지들을 되찾을 방법은 없었다. 대신 영국 정보 보호 담당 조직은 클리어뷰에 1700만 파운드의 벌금을 매겼다. 개개인에게 허락을 구하지 않은 채로 민감한 개인정보를 취득했기 때문이다.
이런 논란이 있긴 하지만 클리어뷰는 이미 강력한 얼굴인식 인공지능 기술을 보유하게 되었고, 클리어뷰에서 개발한 얼굴 인식 소프트웨어는 사법 기관과 정부들에 널리 판매되고 있다. 심지어 사법 기관이 클리어뷰의 제품을 어떤 식으로 활용하는지 소개하는 자료가 클리어뷰 웹사이트에 올라와 있기도 하다.
클리어뷰의 창립자는 로이터통신과의 인터뷰에서 “데이터베이스에는 러시아 소셜미디어인 브이콘탁트(VKontakte)에서 발췌한 20억 개의 얼굴 이미지들이 존재한다”고 밝혔다. 평소였으면 여론의 폭격을 맞을 만한 발언이었는데, 왜 언론에서 굳이 이를 언급했을까? 우크라이나 편에서 사용했을 때, 러시아인을 구분해 내는 데에 있어 도움이 될 거라는 확신이 들게 하는 내용이기 때문이다. 과거에 각종 비판의 이유가 되었던 사안이, 특수한 상황에서는 사뭇 다른 반응을 이끌어내게 된 것이다. 클리어뷰 측은 러시아에 기술을 제공하지 않았음을 거듭 강조하기도 했다.
옴디아(Omdia)의 인공지능 전문가인 나탈리아 모제스카(Natalia Modjeska)는 “클리어뷰의 움직임은 과거 이미지를 개선하고자 하는 계산 속에서 이뤄진 것일 가능성이 높다”는 의견이다. 우크라이나의 위기를 홍보 기회로 삼았다는 것이다. 하지만 그렇게 삐딱하게만 볼 필요가 있느냐는 의견들도 나오고 있다. 어찌됐던 우크라이나 측에 도움이 된다면 그만 아니겠느냐는 뜻이다.
우크라이나 정부가 클리어뷰의 인공지능 기술을 실제로 활용할지는 아직 알 수 없다. 로이터 역시 우크라이나 정부로부터 확답을 듣지 못했다. 하지만 얼마 전 우크라이나의 디지털 변혁 담당 부처는 “미국의 인공지능 기업들로부터 지원 형태로 들어온 기술을 활용하려 한다”고 발표한 바 있다. 클리어뷰 역시 미국의 인공지능 기업으로 분류된다.
샤는 “아무리 얼굴인식 기술의 긍정적인 면모가 빛나는 것처럼 보인다 하더라도 광범위한 인권 침해에 악용될 가능성 또한 분명히 존재한다는 걸 잊으면 안 된다”고 강조한다. “예를 들어 중국을 보세요. 홍콩의 민주주의 시위자들을 식별하기 위해 얼굴인식 기술을 활용했죠. 그리고 그 시위대들을 검거해 투옥시키고 있고요. 시위 영상을 보고, 얼굴인식 기술을 적용함으로써 참여자들이 누구인지 정확히 판별한 것입니다. 그 어떤 기술도 이런 정부의 행위를 얼굴 인식 만큼 효과적으로 돕지 못합니다.”
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 이번 주 인공지능 업체인 클리어뷰에이아이(Cleaview AI)가 우크라이나 정부에 자사 얼굴인식 기술을 무료로 제공했다고 발표했다. 이 기술은 러시아의 스파이나 공격자들을 재빨리 식별하거나, 피난민의 신원을 확인하고, 허위 정보 유포를 막으며, 사망자의 신원을 확인하는 데에 활용될 것으로 예상된다.
[이미지 = utoimage]
러시아의 우크라이나 침공 3주차에 나온 이 소식은 클리어뷰 측이 로이터통신에 단독으로 제보한 것으로, 전쟁과 같은 극한 상황에서 인공지능 기반 얼굴 인식 기술의 긍정적인 활용 사례가 될 수 있을 것으로 보인다. 그 동안 얼굴인식 기술은 남용과 프라이버시 침해에 대한 염려와 우려 때문에 부정적으로 비춰졌던 것이 사실이다. 때문에 여론을 신경 쓰느라 얼굴 인식 기술 도입이 필요해도 하지 못하던 CIO들은 클리어뷰와 우크라이나 사태에 주목할 필요가 있다. 우크라이나 정부가 긍정적인 목적을 달성하기 위해 어떤 식으로 기술을 활용하는지도 지켜봐야 할 부분이다.
일반적으로 인공지능에 얼굴 이미지를 학습시키려면, 본인에게 허락을 반드시 받아야만 한다. 이런 제도는 보편적으로 확대되고 있는 추세다. 클리어뷰의 경우 얼굴 인식 인공지능 알고리즘을 만들기 위해 페이스북, 트위터, 링크드인과 같은 소셜미디어 플랫폼에서 이미지들을 수집했는데, 사실 당사자들에게는 허락을 구하지 않았었다. 때문에 여론의 뭇매를 맞기도 했었다. 이번 우크라이나 사태를 통해 이미지 쇄신을 하려는 것일 수도 있다.
긍정적인 사례
순수하게 기술적인 측면만 보더라도 얼굴인식 기술에는 긍정적인 면이 풍부하게 존재한다. 얼굴인식을 기반으로 한 잠금 해제 기능은 이미 여러 스마트폰에 도입되어 있으며, 사용자들의 만족감도 높은 편이다. 잃어버린 아이들을 찾는 데에도 얼굴인식 기술이 큰 도움을 줄 수 있을 것으로 기대되고 있으며, 공항 검색대 등 신분증 검사를 거쳐야 하는 곳을 통과할 때도 훨씬 더 편리하고 빠르게 사람을 식별할 수 있을 것이다.
인공지능 윤리 분야의 전문가이자 IT 업체 프랙탈에이아이(Fractal.ai)의 파트너인 사가 샤(Sagar Shah)는 “얼굴 인식 기술이 제대로, 윤리적으로 도입되었다는 전제 하에 여권이라는 걸 도무지 들고 다닐 필요가 없게 된다”며 “그냥 걸어가기만 해도 여권 검사한 것과 똑같은 효과가 나는 게 꿈만은 아니”라고 말한다. “물론 모든 기능이 이상적으로 이상 없이 돌아가고, 아무도 악용을 시도하지 않는다면 말이죠.”
클리어뷰의 사정
지난 수년 동안 얼굴을 인식하는 인공지능에 대한 사람들의 반응은 그리 호의적이지 않았다. 특히, 프라이버시와 인권 옹호 단체들은 정부나 권력 기관이 이 기술을 남용함으로써 대규모 검열을 할 수 있게 될 것이라고 주장하며 기술의 도입을 반대해 왔다. 그게 아니더라도 비교적 피부 색깔이 어두운 대상들을 잘못 인식하는 사례들이 자주 나왔기 때문에 인공지능이 태생적으로 가지고 있는 ‘편향성’도 지적이 되어 왔다.
실제, 날 알아보는 카메라가 거리 곳곳에 설치된다는 것에 대해 거부감이 들지 않는 사람은 드물 것이다. 그렇기 때문에 IBM, 아마존, 마이크로소프트와 같은 대기업들도 독자적으로 개발한 인공지능 기반 얼굴 인식 소프트웨어를 사법기관에 판매하는 것을 꺼려하고 있다. 지난 11월 페이스북의 모기업인 메타는 한 발 더 나아가 자사 플랫폼에 오래 전부터 도입되었던 얼굴 인식 템플릿들을 삭제하기도 했다.
이런 분위기 속에서 앞서 밝혔듯 클리어뷰가 당사자들의 허락도 없이 소셜미디어들에서 얼굴 사진을 마구 긁어다 알고리즘 훈련에 사용했다는 사실이 드러났으니 여론이 어땠겠는가? 들끓었다. 소셜미디어 기업들은 클리어뷰가 다시는 그런 짓을 하지 못하게 조치를 취하기도 했다. 하지만 이미 가져간 이미지들을 되찾을 방법은 없었다. 대신 영국 정보 보호 담당 조직은 클리어뷰에 1700만 파운드의 벌금을 매겼다. 개개인에게 허락을 구하지 않은 채로 민감한 개인정보를 취득했기 때문이다.
이런 논란이 있긴 하지만 클리어뷰는 이미 강력한 얼굴인식 인공지능 기술을 보유하게 되었고, 클리어뷰에서 개발한 얼굴 인식 소프트웨어는 사법 기관과 정부들에 널리 판매되고 있다. 심지어 사법 기관이 클리어뷰의 제품을 어떤 식으로 활용하는지 소개하는 자료가 클리어뷰 웹사이트에 올라와 있기도 하다.
클리어뷰의 창립자는 로이터통신과의 인터뷰에서 “데이터베이스에는 러시아 소셜미디어인 브이콘탁트(VKontakte)에서 발췌한 20억 개의 얼굴 이미지들이 존재한다”고 밝혔다. 평소였으면 여론의 폭격을 맞을 만한 발언이었는데, 왜 언론에서 굳이 이를 언급했을까? 우크라이나 편에서 사용했을 때, 러시아인을 구분해 내는 데에 있어 도움이 될 거라는 확신이 들게 하는 내용이기 때문이다. 과거에 각종 비판의 이유가 되었던 사안이, 특수한 상황에서는 사뭇 다른 반응을 이끌어내게 된 것이다. 클리어뷰 측은 러시아에 기술을 제공하지 않았음을 거듭 강조하기도 했다.
옴디아(Omdia)의 인공지능 전문가인 나탈리아 모제스카(Natalia Modjeska)는 “클리어뷰의 움직임은 과거 이미지를 개선하고자 하는 계산 속에서 이뤄진 것일 가능성이 높다”는 의견이다. 우크라이나의 위기를 홍보 기회로 삼았다는 것이다. 하지만 그렇게 삐딱하게만 볼 필요가 있느냐는 의견들도 나오고 있다. 어찌됐던 우크라이나 측에 도움이 된다면 그만 아니겠느냐는 뜻이다.
우크라이나 정부가 클리어뷰의 인공지능 기술을 실제로 활용할지는 아직 알 수 없다. 로이터 역시 우크라이나 정부로부터 확답을 듣지 못했다. 하지만 얼마 전 우크라이나의 디지털 변혁 담당 부처는 “미국의 인공지능 기업들로부터 지원 형태로 들어온 기술을 활용하려 한다”고 발표한 바 있다. 클리어뷰 역시 미국의 인공지능 기업으로 분류된다.
샤는 “아무리 얼굴인식 기술의 긍정적인 면모가 빛나는 것처럼 보인다 하더라도 광범위한 인권 침해에 악용될 가능성 또한 분명히 존재한다는 걸 잊으면 안 된다”고 강조한다. “예를 들어 중국을 보세요. 홍콩의 민주주의 시위자들을 식별하기 위해 얼굴인식 기술을 활용했죠. 그리고 그 시위대들을 검거해 투옥시키고 있고요. 시위 영상을 보고, 얼굴인식 기술을 적용함으로써 참여자들이 누구인지 정확히 판별한 것입니다. 그 어떤 기술도 이런 정부의 행위를 얼굴 인식 만큼 효과적으로 돕지 못합니다.”
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-24] 
.jpg)
.jpg)
