Home > SecurityWorld

[드라마&보안] 드론과 AI 감시가 일상이 된 사회, 더 시스템

  |  입력 : 2021-08-27 11:10
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
드론에 의한 감시가 일상이 된 생활, 개인정보보호와 안전은 양립할 수 있을까

[보안뉴스 이상우 기자] 드론과 지능형 CCTV는 스마트시티에서 도시 전반을 관제하면서 교통을 원활하게 하고, 사고 상황에 즉각 대응하거나 범죄 발생을 파악해 관제센터에 알리는 것은 물론, 피의자 동선까지 추적 및 예상해 검거를 돕는다.

실제로 지능형 관제 글로벌 동향을 살펴보면 기본적으로 안전, 범죄예방, 교통문제 해결 등을 통한 도시의 삶의 질 향상을 목표로 하고 있다. 지능형 CCTV를 통한 차량인식의 경우 단순히 번호판만 보는 것이 아니라 소유자, 범죄 징후 선별관제 등 다양한 요소를 판별한다. 얼굴인식의 경우 역사나 공항 등 공공장소에서 객체를 검출하고 신원을 확인해 이상행동이 있거나 문제가 있는 사람은 즉시 알려 조치한다.

[이미지=utoimage]


특히, 중국은 스마트시티 인프라 구축을 위해 많은 노력을 하고 있다. 화면에 나타난 사람 수, 이름, 행동패턴 등을 분석하고, 용의자로 의심되는 사람이 일정한 시간동안 이동한 경로를 알려주는 서비스를 구현했으며, 향후에는 이를 기반으로 향후 이동할 경로까지 예측한다는 계획이다. 특히, 쓰촨성은 이러한 기술을 통해 범죄율을 50% 낮추고, 검거율 역시 50% 이상 높인 바 있다.

그러나 이처럼 영상처리장치 도입이 확대되고, 이를 통해 시민의 생활을 관제한다면 개인정보 침해에 대한 우려도 발생할 수 있다. 범인을 추적하고 사고를 감시하는 데 쓰여야 할 CCTV가 일반인을 사찰하는데 쓰일 가능성을 배제할 수 없으며, 관제센터가 사이버 공격을 받아 보관하고 있던 CCTV 영상정보가 유출될 수도 있다. 특히, 자신의 모습이 촬영된 정보주체는 해당 영상물이 어떠한 목적으로 어디에 쓰였는지 파악하기 어렵다.

넷플릭스에서 시청할 수 있는 브라질 TV 시리즈 ‘더 시스템(Onisciente)’은 이처럼 CCTV를 통한 감시가 일상이 된 미래사회를 그렸다. 기본적인 배경을 설명하면, 도시에 있는 모든 사람은 태어나는 순간부터 ‘드론’과 매칭된다. 개인에게 할당된 드론은 개인의 모든 행동을 감시하고 있으며, 쓰레기를 무단으로 투기하는 등 경범죄만 발생해도 드론에 의해 신고된다. 특히, 드론은 인간의 생체정보까지 수집해 수상한 사람을 찾아내고, 이들을 집중 감시하기도 한다. 이른바 옴니시언트 시스템(Omniscient System), 비약하자면 ‘전지적 감시 시스템’이다.

▲더 시스템[이미지=넷플릭스]


이러한 감시는 사생활 침해로 이어질 수 있다. 하지만, ‘더 시스템’은 이에 대한 우려를 불식시킨다. 드론이 촬영한 모든 정보는 최첨단 나노 기술을 통해 메인컴퓨터로만 분석할 수 있으며, 인간은 이 시스템의 영상정보에 접근할 수 없기 때문이다. 실제로 극중에서 이를 개발한 기업 옴니시언트는 ‘개인정보보호 혹은 안전이 아니라 개인정보보호와 안전이다’를 모토로 내세운다. 실시간 감시를 통한 안전과 개인정보보호는 서로 상충되는 관계가 아니라 모두 실현 가능한 가치라는 의미다. 이 덕분에 지난 5년간 도시에서 발생한 살인사건은 단 4건에 불과했으며, 이마저도 모두 현행범으로 검거됐다.

이처럼 완벽하게 보이는 시스템이지만, 주인공 ‘니나’의 아버지가 살해되면서 시스템 전반에 대한 의문이 생기게 된다. 주인공의 아버지는 괴한에게 총을 맞아 사망했지만, 시스템에는 어떠한 사고도 보고되지 않았기 때문이다. 당황한 주인공이 옴니시언트 비상팀에 전화를 하지만, 고객 응대를 담당하는 인공지능은 보고된 사건이 없다는 소리만 되풀이한다. 심지어 이 사건에 대해 제대로 된 수사조차 할 수 없었다. 이미 시스템이 구축된 이후 수사체계는 해체됐으며, 현장을 방문한 직원은 눈앞에 발생한 사고를 보고도 ‘시스템은 실패하지 않는다’는 말만 되풀이하며 자살일 것이라고 단정 짓는다.

‘더 시스템’ 속 세상은 개인정보보호와 안전을 양립하기 위해 인간의 관리를 배제하고 완전히 인공지능으로만 작동하는 체계다. 이러한 방식은 관리의 효율성과 정확성을 높이는 것은 물론, 피로 등 인간에 의한 실수를 줄이는 것까지 가능하다. 실제로 지난해 서울시 국정감사에서는 자치구 25개 CCTV통합관제센터에서 관리하는 CCTV는 총 6만 6,426대이며, 이를 관리하는 실근무자는 1인당 722대에 이른다는 통계가 나왔다. 반면, 행정안전부가 권고한 관제 대수는 50대다. 이 때문에 CCTV가 제 역할을 하기 위해서는 관제 인원을 늘리거나 지능형 관제를 통한 자동화 시스템을 확대해야 한다는 의견도 나오고 있다.

▲작품 속 드론은 표정이나 심박수까지 파악해 범죄 가능성을 예측한다[이미지=넷플릭스]


하지만, 인공지능 알고리즘이 완벽하지 않거나 이를 속일 수 있는 방법이 발견된다면 감시 시스템 속에서도 범죄를 저지르는 것이 가능하다. 뿐만 아니라 인공지능 학습과정에서 악의적인 목적으로 잘못된 정보를 학습시키는 ‘데이터 포이즈닝’이 이뤄진다면, 예기치 못한 사건이 발생할 수도 있다. 실제로 드라마의 주인공은 해당 사건의 전말을 파헤치기 위해 영상이 보관된 메인 시스템에 출입할 계획을 세우면서 감시 시스템을 속인다. 전자기장이나 과노출을 통해 카메라가 자신을 인식하지 못하게 하고, 출입을 위해 훔친 물건이 드론에게 발각되지 않도록 은박지로 차폐하는 모습도 보인다. 이를 통해 방화벽 회로기판 하나를 탈취하고, 하드웨어 백도어를 심은 뒤 다시 설치한다.

브라질 TV 시리즈 ‘더 시스템’은 미래사회에서 안전을 위한 감시와 개인정보보호의 상충에 대한 여러 문제점 중 일부를 소재로 다뤘다. 특히, 개인정보보호에 있어서 정보주체의 권한에 대해 고민하게 한다. 일례로 서초구청은 CCTV관제센터(현 도시정보운영센터)에서 수사를 위한 영상정보를 경찰에게 제공하는 과정을 디지털화했으며, 특히 이 과정을 시민에게 투명하게 공개해 알권리를 충족시켰다. 이러한 방식에 개인정보에 대한 비식별조치 등을 철저히 한다면 CCTV가 늘어나고 지능형 관제가 일상이 된 도시에서도 개인정보보호와 안전을 양립하는 것은 물론, 정보주체의 권리까지 보장할 수 있지 않을까 생각해본다.
[이상우 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
모니터랩 파워비즈 6개월 2021년7월1~12월31일 까지엔사인 파워비즈 2021년6월1일~11월30일 까지2021 전망보고서위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
2021년 주요 보안 위협 트렌드 가운데 올해 말까지 가장 큰 위협이 될 것으로 전망되는 트렌드 한 가지만 꼽아주신다면?
산업 전반에 영향 미치는 타깃형 랜섬웨어 공격 증가
다크웹/딥웹 등을 통한 기업 주요 정보 유출 및 판매 피해 급증
북한/중국/러시아 등 국가지원 해킹그룹의 위협 확대
코로나 팬더믹 등 사회적 이슈 악용한 사이버 공격
서드파티 SW나 조직 인프라 솔루션을 통한 공급망 공격 증가
업무 메일로 위장한 정보유출형 악성코드 활개
기타(댓글로)