안면 인식 기술, 아직 기술적이고 제도적인 문제 가지고 있어
알고리즘의 정확도 아직 완전치 않아...프라이버시에 대해 민감한 때
[보안뉴스 문가용 기자] 인공지능 안면 인식 기술 소프트웨어가 탑재된 카메라는 사람을 식별할 수 있을뿐만 아니라 그 사람의 나이, 성별, 인종 등도 판별한다. 이런 카메라는 많은 조직에서 탐내고 있고, 따라서 시장 내에서 수요가 높아지고 있다. 1월 뉴욕에서 열린 전미소매협회박람회(National Retail Federation Big Show)에서도 큰 관심을 끈 아이템이었다.
왜 이렇게 이런 카메라들이 인기를 끄는 것일까? 먼저는 인공지능 카메라를 매장에 설치하면 소비자들의 패턴을 보다 상세히 분석할 수 있기 때문이다. 어떤 연령과 성별의 소비자들이 어떤 물건을 어떤 방식으로 구매하고 소비하는지 알게 되면 경쟁에서 우위에 설 수 있게 된다. 아마존 같은 대형 업체도 이런 식으로 소비자들과 시장을 연구한다는 건 익히 알려진 사실이다.
하지만 이런 이유로 소비자들을, 소비자 모르게 촬영한다는 건 생각해봐야 할 문제다. 업체 입장에서야 귀중한 정보를 수집하게 해주는 멋진 기술이지만, 몰래 촬영 당하는 입장에서는 세상에서 제일 소름끼치는 기술이 될 수도 있다. 게다가 더 근본적인 문제가 있다. 사람을 식별하는 소프트웨어가 오류를 일으킨다면 어떨까? 남성을 여성으로 인식해서, 여성용 제품에 대한 할인을 적용해준다면 어떤 결과가 생길까?
물론 소비자가 불만을 제기하면서, 단순 해프닝 정도로 끝날 수도 있다. 매장 운영자 입장에서는 말이다. 하지만 그 소비자가 이런 경험을 소셜 미디어에 올리면 어떨까? 그러면서 다시는 그 매장을 찾지 않는다면? 이런 오류가 단 한 사람이 아니라 몇몇 사람에게서 발생한다면 어떨까? 분석은커녕 재앙과 같은 결과가 초래될지도 모른다. 인공지능을 기반으로 하는 인식용 소프트웨어에서 이런 오류가 발생할 확률은 얼마나 될까?
실제로 인공지능 안면 인식 소프트웨어에는 아직 문제가 많다. 마이크로소프트나 IBM, 아마존과 같은 유명 업체들이 만든 제품들에조차 문제들이 발견되고 있는 게 현실이다.
최근에는 현재 상용화된 알고리즘 중 하나가, 밝은 톤의 피부를 가진 남성은 비교적 정확하게 식별하나 어두운 톤의 피부를 가진 사람과 여성을 식별하는 데에는 낮은 정확도를 보여준다는 연구 결과가 발표되기도 했다. 이는 작년에도 나왔던 문제다. 2018년 7월 미국시민자유연맹(American Civil Liberties Union)은 아마존의 알고리즘을 미국 국회의원 사진에 적용했는데, 이 중 28명을 체포된 범죄자들로 인식하기도 했다. 물론 잘못된 결과였다.
보다 최근에는 MIT의 미디어랩(Media Lab)에서 이러한 알고리즘의 정확도를 향상시키기 위한 연구를 진행하기도 했었다. 알고리즘저스티스리그(The Algorithmic Justice League)의 설립자이자 MIT의 대학원생인 조이 부올람위니(Joy Buolamwini)가 공동으로 진행했는데, 그 결과 위에 언급된 것과 같이 “현재 상용화된 알고리즘은 밝은 톤의 남성만 정확히 식별한다”는 것이 재차 확인됐다. 물론 이 문제가 제기된 후 일부 알고리즘에서 향상된 모습이 나타나기도 했다는 내용이 덧붙기는 했다.
머신 러닝 분야에서도 이러한 오류는 여러 차례 보고된 바 있다. 훈련용으로 주입된 데이터에 따라 편향되거나 부정확한 결과가 나오는 사례들이 나타났던 것이다. 예를 들어 아마존은 머신 러닝을 사용해 취업 지원자들의 이력서를 검토하도록 했는데, 인공지능이 골라낸 건 거의 다 남성들이었다. 물론 당시 남성 후보자들이 여성 후보자들보다 특정 부분에서 우수했을 수도 있지만, 남성을 선호해온 관례가 머신 러닝이 학습한 데이터에 반영되었을 가능성도 존재한다.
이러한 지적에 대해 “더 많은 데이터를 정제해 머신 러닝이 학습하도록 하면 결과는 더 정확해질 것이다”라는 반박이 나오고 있다. 하지만 이는 아직 입증되지 않은 부분이다. 그래서 알고리즘을 판매하는 업체들은 일종의 ‘안전 밸브’를 같이 제공해야 한다. 알고리즘의 불완전성에 대한 보호 장치를 말이다. 이를 통해 사용자 기업이 한계선이나 신뢰 수준을 설정할 수 있도록 해야 한다. 원하는 결과를 얻어내기 위해 할 수 있는 행동에 최소한의 제약을 걸어야 한다는 뜻이다.
예를 들어 전미소매협회는 인공지능 안면 인식 카메라가 사람을 식별해 남성임을 인지하도록 하되, 그 결과에 ‘확신 점수’라는 지표를 덧붙이도록 했다. 즉 남성이라고 확언하는 게 아니라 남성일 가능성이 어느 정도 되는지를 알려주도록 한 것이다. 사용자 기업에서 이 확신 점수를 일정 수준으로 설정해두면(예를 들어 67%), 그 이상의 점수를 받은 소비자들만을 분석할 수 있게 된다.
기술적인 문제를 위와 같은 방법으로 일단락 시킬 수 있다고 쳐도, 프라이버시 문제가 남아있다. GDPR 등의 등장으로 프라이버시에 대한 규제가 더 강화되고, 일반 시민들의 인식도 높아지는 때에 ‘시장 분석’을 핑계로 누군가를 몰래 촬영한다는 게 용인될까? 실제로 고객 분석을 인공지능 안면 인식 카메라로 하는 기업들은 “고객의 이미지를 저장하지 않는다”고 말한다. 다만 특정 구역에 들린 전체 고객 현황이 집계된 데이터만이 저장된다는 것이다. “사람 하나하나를 분석하는 게 아니라, 여러 사람들을 단체로 분석합니다.”
안면 인식 기술을 사용하고자 한다면, 반드시 기억해야 할 것이 있다. 아직 이것이 신기술이라는 점이다. 그러니 ‘완벽’이나 ‘안정성’과는 거리가 멀다. 그 누가 만들었어도 지금 당장은 마찬가지다. 그러므로 여러 가지 툴의 하나로 다뤄야 하지, 모든 필요를 해결해줄 수 있는 만병통치약처럼 취급해서는 안 된다.
게다가 신기술들이란 항상 규정보다 먼저 태어나기 마련이고, 안면 인식 기술도 그렇다. 즉 언제고 규정에 의해 막히거나, 발전 방향에 있어 커다란 변수를 맞닥트려야 할 수도 있다는 것이다. 그러므로 안면 인식 기술이 대단히 좋아 보이고, 많은 결과를 가져다줄 것 같아도, 과감한 투자는 안전치 못한 결정이 될 가능성이 높다.
글 : 제시카 데이비스(Jessica Davis)
[국제부 문가용 기자(globoan@boannews.com)]
알고리즘의 정확도 아직 완전치 않아...프라이버시에 대해 민감한 때
[보안뉴스 문가용 기자] 인공지능 안면 인식 기술 소프트웨어가 탑재된 카메라는 사람을 식별할 수 있을뿐만 아니라 그 사람의 나이, 성별, 인종 등도 판별한다. 이런 카메라는 많은 조직에서 탐내고 있고, 따라서 시장 내에서 수요가 높아지고 있다. 1월 뉴욕에서 열린 전미소매협회박람회(National Retail Federation Big Show)에서도 큰 관심을 끈 아이템이었다.
[이미지 = iclickart]
왜 이렇게 이런 카메라들이 인기를 끄는 것일까? 먼저는 인공지능 카메라를 매장에 설치하면 소비자들의 패턴을 보다 상세히 분석할 수 있기 때문이다. 어떤 연령과 성별의 소비자들이 어떤 물건을 어떤 방식으로 구매하고 소비하는지 알게 되면 경쟁에서 우위에 설 수 있게 된다. 아마존 같은 대형 업체도 이런 식으로 소비자들과 시장을 연구한다는 건 익히 알려진 사실이다.
하지만 이런 이유로 소비자들을, 소비자 모르게 촬영한다는 건 생각해봐야 할 문제다. 업체 입장에서야 귀중한 정보를 수집하게 해주는 멋진 기술이지만, 몰래 촬영 당하는 입장에서는 세상에서 제일 소름끼치는 기술이 될 수도 있다. 게다가 더 근본적인 문제가 있다. 사람을 식별하는 소프트웨어가 오류를 일으킨다면 어떨까? 남성을 여성으로 인식해서, 여성용 제품에 대한 할인을 적용해준다면 어떤 결과가 생길까?
물론 소비자가 불만을 제기하면서, 단순 해프닝 정도로 끝날 수도 있다. 매장 운영자 입장에서는 말이다. 하지만 그 소비자가 이런 경험을 소셜 미디어에 올리면 어떨까? 그러면서 다시는 그 매장을 찾지 않는다면? 이런 오류가 단 한 사람이 아니라 몇몇 사람에게서 발생한다면 어떨까? 분석은커녕 재앙과 같은 결과가 초래될지도 모른다. 인공지능을 기반으로 하는 인식용 소프트웨어에서 이런 오류가 발생할 확률은 얼마나 될까?
실제로 인공지능 안면 인식 소프트웨어에는 아직 문제가 많다. 마이크로소프트나 IBM, 아마존과 같은 유명 업체들이 만든 제품들에조차 문제들이 발견되고 있는 게 현실이다.
최근에는 현재 상용화된 알고리즘 중 하나가, 밝은 톤의 피부를 가진 남성은 비교적 정확하게 식별하나 어두운 톤의 피부를 가진 사람과 여성을 식별하는 데에는 낮은 정확도를 보여준다는 연구 결과가 발표되기도 했다. 이는 작년에도 나왔던 문제다. 2018년 7월 미국시민자유연맹(American Civil Liberties Union)은 아마존의 알고리즘을 미국 국회의원 사진에 적용했는데, 이 중 28명을 체포된 범죄자들로 인식하기도 했다. 물론 잘못된 결과였다.
보다 최근에는 MIT의 미디어랩(Media Lab)에서 이러한 알고리즘의 정확도를 향상시키기 위한 연구를 진행하기도 했었다. 알고리즘저스티스리그(The Algorithmic Justice League)의 설립자이자 MIT의 대학원생인 조이 부올람위니(Joy Buolamwini)가 공동으로 진행했는데, 그 결과 위에 언급된 것과 같이 “현재 상용화된 알고리즘은 밝은 톤의 남성만 정확히 식별한다”는 것이 재차 확인됐다. 물론 이 문제가 제기된 후 일부 알고리즘에서 향상된 모습이 나타나기도 했다는 내용이 덧붙기는 했다.
머신 러닝 분야에서도 이러한 오류는 여러 차례 보고된 바 있다. 훈련용으로 주입된 데이터에 따라 편향되거나 부정확한 결과가 나오는 사례들이 나타났던 것이다. 예를 들어 아마존은 머신 러닝을 사용해 취업 지원자들의 이력서를 검토하도록 했는데, 인공지능이 골라낸 건 거의 다 남성들이었다. 물론 당시 남성 후보자들이 여성 후보자들보다 특정 부분에서 우수했을 수도 있지만, 남성을 선호해온 관례가 머신 러닝이 학습한 데이터에 반영되었을 가능성도 존재한다.
이러한 지적에 대해 “더 많은 데이터를 정제해 머신 러닝이 학습하도록 하면 결과는 더 정확해질 것이다”라는 반박이 나오고 있다. 하지만 이는 아직 입증되지 않은 부분이다. 그래서 알고리즘을 판매하는 업체들은 일종의 ‘안전 밸브’를 같이 제공해야 한다. 알고리즘의 불완전성에 대한 보호 장치를 말이다. 이를 통해 사용자 기업이 한계선이나 신뢰 수준을 설정할 수 있도록 해야 한다. 원하는 결과를 얻어내기 위해 할 수 있는 행동에 최소한의 제약을 걸어야 한다는 뜻이다.
예를 들어 전미소매협회는 인공지능 안면 인식 카메라가 사람을 식별해 남성임을 인지하도록 하되, 그 결과에 ‘확신 점수’라는 지표를 덧붙이도록 했다. 즉 남성이라고 확언하는 게 아니라 남성일 가능성이 어느 정도 되는지를 알려주도록 한 것이다. 사용자 기업에서 이 확신 점수를 일정 수준으로 설정해두면(예를 들어 67%), 그 이상의 점수를 받은 소비자들만을 분석할 수 있게 된다.
기술적인 문제를 위와 같은 방법으로 일단락 시킬 수 있다고 쳐도, 프라이버시 문제가 남아있다. GDPR 등의 등장으로 프라이버시에 대한 규제가 더 강화되고, 일반 시민들의 인식도 높아지는 때에 ‘시장 분석’을 핑계로 누군가를 몰래 촬영한다는 게 용인될까? 실제로 고객 분석을 인공지능 안면 인식 카메라로 하는 기업들은 “고객의 이미지를 저장하지 않는다”고 말한다. 다만 특정 구역에 들린 전체 고객 현황이 집계된 데이터만이 저장된다는 것이다. “사람 하나하나를 분석하는 게 아니라, 여러 사람들을 단체로 분석합니다.”
안면 인식 기술을 사용하고자 한다면, 반드시 기억해야 할 것이 있다. 아직 이것이 신기술이라는 점이다. 그러니 ‘완벽’이나 ‘안정성’과는 거리가 멀다. 그 누가 만들었어도 지금 당장은 마찬가지다. 그러므로 여러 가지 툴의 하나로 다뤄야 하지, 모든 필요를 해결해줄 수 있는 만병통치약처럼 취급해서는 안 된다.
게다가 신기술들이란 항상 규정보다 먼저 태어나기 마련이고, 안면 인식 기술도 그렇다. 즉 언제고 규정에 의해 막히거나, 발전 방향에 있어 커다란 변수를 맞닥트려야 할 수도 있다는 것이다. 그러므로 안면 인식 기술이 대단히 좋아 보이고, 많은 결과를 가져다줄 것 같아도, 과감한 투자는 안전치 못한 결정이 될 가능성이 높다.
글 : 제시카 데이비스(Jessica Davis)
[국제부 문가용 기자(globoan@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-18] 
.jpg)
.jpg)
.jpg)
