Home > 전체기사
[한국정보보호학회 칼럼] AI 기반 미래사회와 보안
  |  입력 : 2019-02-20 17:07
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
AI 기술이 가져올 위협 사전에 예측하고 분석해 부작용을 최소화할 수 있는 방안 강구해야

[보안뉴스= 정수환 한국정보보호학회 수석부회장] 최근 들어 AI 기술은 사회의 다양한 영역에서 활용되기 시작했으며, 이러한 경향은 미래에 더욱 확산될 것으로 예측되고 있다. 간단한 AI 스피커부터 AI로 동작하는 무인자동차, AI 로봇이 나타나더니, 보안 분야에서는 AI 해커까지 출현하는 양상이다. 앞으로 이런 변화가 어디까지 진행될지, 또 미래사회는 AI 기술에 어디까지 의존하게 될지, 현재로서는 예측조차 쉽지 않을 정도로 사회의 모든 영역들이 빠르게 변화하고 있다. 가까운 미래에 우리는 일상생활의 많은 부분을 AI가 내리는 결정에 의존하게 될 것이다. 광범위한 빅데이터를 기반으로 내리는 AI의 결정을 인간의 결정보다 더 신뢰하는 사회가 도래할 가능성이 크다.

[이미지=iclickart]


여기서 잠깐 인터넷 기술 발전 역사를 돌아보자. 불과 30년 전까지만 해도 인터넷 기술은 극소수의 전문가들만 아는 기술로서 사회의 일반 영역에서는 거의 사용되지 않는 기술이었으나 30년 만에 인터넷은 우리 사회를 지탱하는데 없어서는 안 되는 인프라가 되었다. 지금은 단 하루만 인터넷이 멈추어도 통신, 금융, 철도 등 다양한 사회 영역에서 큰 혼란이 초래되며 그 파급효과가 빠른 속도로 확산된다.

인터넷을 처음 설계한 사람들은 컴퓨터 간의 효율적인 통신을 지원하는 프로토콜을 만드는데 초점을 맞췄다. 모든 노력은 많은 컴퓨터를 빠르게 연결하고 내용을 빠르게 확산하기 위한 메커니즘에 집중됐다. 그 결과 오늘날 인터넷은 지구상의 모든 기기들을 빠르게 연결하고 사람들을 신속하게 연결하는 데는 성공했으나, 뉴스를 통하여 거의 매일 접하듯이 해킹, 피싱, 랜섬웨어 등 수없이 많은 사이버보안 문제들을 발생시키고 있다.

만약 인터넷을 초기에 설계한 사람들이 오늘날 이렇게 다양한 사이버 보안 문제가 발생할 것을 미리 알았더라면 오늘날 인터넷은 상당히 다른 방향으로 설계되었을 가능성이 있다. 예를 들어, 네트워크 접속단계부터 개인 인증을 필수로 인터넷상의 모든 행위를 통제하고 추적한다든가, 혹은 정보를 빠르게 전달하기 위해 모든 노드들이 정보를 수신하도록 하는 브로드캐스트 사용 프로토콜을 최소화 한다던가 하는 조치를 취했을 것이다. 그랬더라면 오늘날 우리가 겪고 있는 많은 사이버 보안 이슈는 상당히 줄어들었을 가능성이 높다. 하지만 그 당시에는 오늘날 인터넷이 이렇게 사회 인프라 기술로 사용되고 이렇게 많은 사이버 보안 문제가 발생하리라는 것을 전혀 예측하지 못했다고 초기 인터넷 개발자가 직접 고백하는 것을 들은 적이 있다.

AI 기술도 미래에 더욱 빠른 속도로 우리 사회의 인프라를 형성할 것으로 예상되며 저명한 미래 학자들은 20년 안에 우리 사회의 많은 영역이 AI 없이 지탱하기가 힘든 시대가 될 것으로 예측하고 있다. 일상생활의 많은 행위들이 AI 기반 인프라에 의존하며 상당히 중요한 결정들이 AI에 의해 영향을 받을 가능성이 높다. 매일 접하는 뉴스, 우리의 생명을 담보로 하는 의료행위, 일상적인 교통 및 운송, 사법 판단 등의 법률행위 등에서 우리는 직간접적으로 AI를 신뢰하고 그들이 내리는 결정에 따르게 될 가능성이 높다.

▲정수환 한국정보보호학회 수석부회장[사진=정수환 교수]

하지만 우리는 30년 전 인터넷 기술 개발에서 그 이면을 보지 못했던 어리석음을 AI 기술 개발에서 똑같이 되풀이할 가능성을 현재 목도하고 있다. AI 기술은 빠른 속도로 사회의 각 영역으로 확산되고 있으나 미래에 나타날 그 부작용에 대해서는 그다지 심각하게 받아들이고 있지는 않는 것 같다. AI 기술이 가져올 생산성 향상이라는 달콤한 열매에만 흠뻑 빠져들고 있으며 그 열매 속에서 자라고 있는 독성에는 둔감한 상태이다. 앞으로 20년 후 AI 인프라 기반 사회에서 AI 오동작으로 우리가 경험하게 될 부작용과 혼란은 현재 인터넷 인프라 기반 사회에서 인터넷 단절로 우리가 경험하는 부작용과 혼란보다 얼마나 크고 넓을 지 상상하기조차 두렵다. AI 오동작으로 인한 부작용은 단순한 사회 혼란을 넘어 직간접적으로 우리의 생명을 위협할 것이며 경우에 따라서는 인간의 존엄성이 크게 훼손되는 부작용으로 나타날 가능성이 높다. 해킹 공격이나 오동작으로 인간의 통제를 벗어난 AI가 우리 생활이나 사회에 끼칠 해악은 쉽게 가늠하기 어려울 것이다.

아직 우리에게는 기회가 남아 있다. AI 기술이 우리 사회의 미래에 가져올 위협을 사전에 예측하고 분석하여 그 부작용을 최소화시킬 수 있는 방안을 빠르게 강구해야 한다. 현재에 사용되고 있는 AI 알고리즘 및 동작원리, AI에 공급되는 데이터의 오류, AI 사용 환경 등을 심도 있게 분석하여 AI 오동작 및 위협 가능성을 최소화하는 방법을 찾고, 필요하다면 안전한 AI 인프라 설계기준을 마련해야 한다. 고층 빌딩 하나를 지을 때도 안전한 설계 기준이 있는데 사회 전 영역의 기반 인프라를 구축하는데 안전한 설계 기준이 없다는 것은 매우 위험한 일이다. 미래 어느 날 우리 사회 기반이 하루아침에 우르르 무너지는 위험을 간과하고 있는 것이다. AI 해킹 공격이나 오동작으로 인한 피해를 예방하기 위한 이중삼중의 안전장치를 마련해야 한다. AI 사용을 통해 얻어지는 생산성 향상이라는 이익을 최대한 지키면서도 그 부작용을 최소화시킬 수 있는 방안을 강구해야 한다. 이제 우리가 지혜와 집단 지성을 모아 안전한 AI 기반 미래 사회를 설계해야 할 때이다.
[글_ 정수환 한국정보보호학회 수석부회장/숭실대학교 교수]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
2019년 국정감사에서 가장 중점적으로 다뤄야 할 보안이슈는 무엇이라고 보시나요?
잇따른 개인정보 유출사고
드론 테러 대응 대책
보안 관련 법 체계, 제도 정비
국가 사이버안보 거버넌스(보안 콘트롤타워) 정립
국가 차원의 사이버테러 대응 방안
스마트시티에서의 보안위협 대응
https 접속 차단 정책
국가핵심기술 및 기업 기밀 보호 방안
기타(댓글로)
      

유니뷰코리아
CCTV / 영상보안

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

아이디스
DVR / IP / VMS

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

Videotec
PTZ 카메라

대명코퍼레이션
DVR / IP카메라

티제이원
영상 보안 / 출입 통제

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

도마카바코리아
시큐리티 게이트

다후아 코리아
CCTV / DVR

씨앤비텍
통합보안솔루션

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

경인씨엔에스
CCTV / 자동복구장치

테크스피어
손혈관 / 차량하부 검색기

비전정보통신
IP카메라 / VMS / 폴

슈프리마
출입통제 / 얼굴인식

동양유니텍
IR PTZ 카메라

트루엔
IP 카메라

링크플로우
이동형 CCTV 솔루션

보쉬시큐리티시스템즈
CCTV / 영상보안

엔토스정보통신
DVR / NVR / CCTV

CCTV협동조합
CCTV

아이티엑스엠투엠
DVR / NVR / IP CAMERA

디비시스
CCTV토탈솔루션

씨오피코리아
CCTV 영상 전송장비

테크어헤드
얼굴인식 소프트웨어

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

구네보코리아
보안게이트

다민정보산업
기업형 스토리지

에스카
CCTV / 영상개선

이스트시큐리티
엔트포인트 보안

신우테크
팬틸드 / 하우징

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

케이제이테크
지문 / 얼굴 출입 통제기

알에프코리아
무선 브릿지 / AP

사라다
지능형 객체 인식 시스템

일산정밀
CCTV / 부품 / 윈도우

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

창우
폴대

퍼시픽솔루션
IP 카메라 / DVR

새눈
CCTV 상태관리 솔루션

이노뎁
VMS

케이티앤씨
CCTV / 모듈 / 도어락

아이유플러스
레이더 / 카메라

진명아이앤씨
CCTV / 카메라

브이유텍
플랫폼 기반 통합 NVR

아이엔아이
울타리 침입 감지 시스템

두레옵트로닉스
카메라 렌즈

이후커뮤니케이션
CCTV / DVR

DK솔루션
메트릭스 / 망전송시스템

옵티언스

대산시큐리티
CCTV 폴 / 함체 / 랙

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

더케이
투광기 / 차량번호인식

유진시스템코리아
팬틸트 / 하우징

세환엠에스
시큐리티 게이트

지에스티엔지니어링
게이트 / 스피드게이트

카티스
출입통제 / 외곽경비

유니온커뮤니티
생체인식 / 출입통제