Home > 전체기사
[주말판] 인공지능의 빠른 확산! 윤리 프레임워크 고민도 시작해야
  |  입력 : 2019-08-10 12:19
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
인공지능 도입률 빠르게 높아지고 있어...새로운 수익 창출 기대하는 심리
윤리 고민 없으면 불균형한 발전 이뤄질 것...대표적 프레임워크 미리미리 검토해야


[보안뉴스 문가용 기자] IT 분야의 전문가들은 향후 2년 동안 AI와 머신러닝의 도입 비율이 급격하게 높아질 것이라고 예측하고 있다. 이 두 가지 기술을 통해 이전에 없었던 영업 이익을 거둘 것을 업체들은 기대하고 있고(특히 경영진들), 이에 IT 담당자들은 인공지능을 사업에 접목하기 위한 갖가지 시도들을 진행하고 있다.

[이미지 = iclickart]


그러면서 인공지능과 관련된 윤리 문제가 다시 한 번 대두되기 시작했다. 인공지능 알고리즘에서 자꾸만 발견되는 편향성, 데이터 프라이버시, 인공지능 기반 기계들로부터 야기되는 안전 문제 등이 전부 이 ‘인공지능 윤리’ 문제에 포함된다.

하지만 윤리 문제에 대한 논의가 다 이뤄지기도 전에, 인공지능은 빠르게 도입되고 있다. 기술적 발전에 발맞추다보면 CIO나 CISO들이 윤리 문제를 고민할 시간 자체가 없어진다. 윤리 문제를 전혀 생각하지 않고 기술만 발전시키는 건 심각한 불균형을 초래하기 마련이다. 그래서 의식 있는 CIO들과 싱크탱크들은 AI 기술만이 아니라 윤리 문제에 대해서도 많은 고민을 하고 있다.

그러면서 슬슬 나오기 시작하는 주제가 ‘인공지능 윤리 프레임워크’라는 것이다. 인공지능이 PC처럼 광범위하게 사용될 것이 분명해 보이는 지금, 각 조직은 인공지능의 윤리 및 안전과 관련된 프레임워크를 미리 준비하는 것이 좋아 보인다. 인공지능으로 야기될 모든 상황을 미리 명문화해서 법전을 마련하라는 게 아니다. 문제가 발생할 때 가치 판단을 할 수 있을 기준을 정립해야 한다는 것이다.

다행히 이미 여기저기서 모범이 될 만한 인공지능 윤리 프레임워크가 개발되었다. 즉 CIO들이 백지에서부터 프레임워크 작업을 할 필요가 없다는 것이다. 이번 주말판에 소개될 대표적 프레임워크를 참조하면서 준비를 시작해보는 걸 권한다.

1. 생명의 미래 연구소(Future of Life Institute)
아실로마 AI 원칙
2017년 아실로마 컨퍼런스(Asilomar Conference)에서 마련된 것으로, 사실상 인공지능과 관련된 모든 윤리학적 프레임워크의 기준점으로 인정받고 있다. 즉, 인공지능의 윤리 문제를 연구하고 싶다면 가장 먼저 읽어야 할 자료(https://futureoflife.org/ai-principles/) 중 하나라는 것이다. 1200명이 넘는 인공지능 및 로보틱스 연구원들과 2500명이 넘는 기술 과학 분야 대가들이 서명했다. 사업 경영을 담당하고 있거나 국가 기관을 운영해야 하는 자들이 유연하게 참조할 수 있도록, 여러 가지 항목들이 목록처럼 나열되어 있다.

2. IAPP
빅데이터와 인공지능을 위한 프라이버시 윤리 프레임워크
엄밀히 말해 프레임워크라고 하기는 힘들다. 하지만 인공지능을 사업 운영에 윤리적으로 도입하고자 하는 기업 운영 및 담당자들은 반드시 읽어야 할 문서(https://iapp.org/resources/article/building-ethics-into-privacy-frameworks-for-big-data-and-ai/) 중 하나다. 인공지능과 빅데이터를 실제 활용하는 부분에 있어서 어떤 윤리적 딜레마가 발생하는지 간략하고 이해하기 쉽게 설명하고 있다. 물론 그러한 딜레마를 무시했을 때의 결과에 대해서도 잘 묘사가 되어 있고, 사실 그 부분이 이 문서의 백미라고 꼽는 전문가들도 다수 존재한다. 여기에 더해 이 문서에는 인공지능 운영과 관련된 윤리적 정책을 수립하고자 하는 사람들을 위해 다양한 도구들을 소개하고 있기도 하다.

IAPP는 “다양한 데이터 윤리 프레임워크들이 존재하지만 너무 제각각인 형태로 난립하고 있다”며 “확고한 표준을 정립하고, 그에 따른 베스트 프랙티스를 보급하는 면을 좀 더 고민해야 한다”고 주장한다. 하지만 기업마다 사정이 크게 다르고, 인공지능을 활용하는 부분에서 나타나는 구체적인 모양새도 다를 것이라 아직 표준이 세워질 수 없다고 보는 시각도 존재한다.

3. IEEE
IEEE 자율시스템 이니셔티브
IEEE는 2016년부터 자율시스템 개발과 설계에 있어 필요한 윤리적인 고려 사항들을 전파하는 데 앞장서고 있는 단체다. 그런 작업의 일환으로 IEEE 자율시스템 이니셔티브(https://ethicsinaction.ieee.org/#read)를 마련해 활동을 하고 있다. 그러면서 출판한 ‘윤리적 설계(Ethically Aligned Design)’는 인공지능을 기반으로 한 시스템의 가치를 산정하고, 올바르게 구축 및 관리하는 내용을 다루고 있으며, 내부에서 인공지능 윤리 프레임워크를 마련하는 과정을 300페이지가 넘는 분량에 상세히 설명하고 있다. 이 분야의 ‘성경책’으로 인식되고 있다.

4. 퍼블릭 보이스(The Public Voice)
인공지능통합가이드라인
2018년 10월에 처음 발표된 것으로, “여러 국가의 국내법과 국제 협약에 통합될 인공지능 윤리 표준을 마련하기 위해” 준비(https://epic.org/2018/10/breaking---universal-guideline.html)됐다. 주로 인권의 차원에서 인공지능을 바라보고 있으며, 투명성, 공정함, 편향성 제거, 데이터 정확성, 데이터의 질이라는 이슈에 상당히 집중하고 있다. 또한 정부가 비밀리에 진행하는 프로파일링 작업이 즉각 중단되어야 한다고 주장하기도 한다. 이 가이드라인을 작성한 저자들은 “인공지능과 같은 기술의 발전으로 인권이 침해되는 것을 가장 경계한다”고 하며, “기술 때문에 피해가 발생하는 일이 없도록 하는 데 주안점을 두었다”고 밝혔다.

5. 유럽회의
인공지능과 데이터 보호를 위한 가이드라인
인공지능 윤리 전문가들이 초안을 작성했고, 그 5개월 동안 모인 500개 넘는 논평과 의견들을 종합해 완성됐다. 인공지능 윤리와 관련된 프레임워크 중 일반 대중을 대상으로 하는, 가장 광범위하고 통합적인 문서(https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai)다. 이 문서에 나온 내용이 ‘규정’이나 ‘정책’ 단계로 적용되는 것은 아니지만, 아무래도 유럽연합에서 만들고 발표한 것이라 가까운 미래에 표준처럼 자리 잡을 수 있을 것으로 예상된다.

이 문서에 말하는 ‘신뢰할만한 인공지능’이란 다음 일곱 가지 요소를 갖추고 있는 것이다.
1) 인간적 요소와 인간의 감독 : 어떤 인공지능 기술이라고 하더라도 인간적 요소가 개입해야만 한다.
2) 기술적 안정성과 안전성 : 공격에 대해 어느 정도 견딜 수 있어야 하며, 사고가 터졌을 때 안전과 관련된 대책을 수립하여 운용할 수 있어야 한다.
3) 프라이버시와 데이터 거버넌스 : 개인과 데이터에 대한 프라이버시, 평등을 존중하고, 데이터 무결성과 접근성도 유지되어야 한다.
4) 투명성 : 추적과 설명이 가능해야 하고, 소통이 원활히 이뤄져야 한다.
5) 다양성, 비차별성, 공평성 : 불공정한 편향성에 기반한 결과가 사라지고, 필요한 모두가 공평하게 접근할 수 있는 환경이 조성되어야 한다.
6) 사회적 안정과 환경적 안정 : 지속 가능해야 하며, 환경 친화적이며, 사회적 충격을 되도록 주지 않아야 한다.
7) 책무성 : 감독할 수 있어야 하며, 부정적 효과는 최소화해야 한다.

위의 문서들은 다음 부류들에게 도움을 주기 위해 제작됐다.
1) AI 개발자들 : AI 알고리즘과, AI 기반 서비스들이 어떤 모양을 갖춰야 하며, 어떤 필요를 충족시켜야 하는지를 알려준다.
2) 사용자들 : 올바른 AI 솔루션이 어떤 형태로 구성되어야 하며, 따라서 어떤 것을 시장에서 고르고 구매해야 하는지 알려준다.
[국제부 문가용 기자(globoan@boannews.com)]

Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
2019년 국정감사에서 가장 중점적으로 다뤄야 할 보안이슈는 무엇이라고 보시나요?
잇따른 개인정보 유출사고
드론 테러 대응 대책
보안 관련 법 체계, 제도 정비
국가 사이버안보 거버넌스(보안 콘트롤타워) 정립
국가 차원의 사이버테러 대응 방안
스마트시티에서의 보안위협 대응
https 접속 차단 정책
국가핵심기술 및 기업 기밀 보호 방안
기타(댓글로)
      

유니뷰코리아
CCTV / 영상보안

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

아이디스
DVR / IP / VMS

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

Videotec
PTZ 카메라

대명코퍼레이션
DVR / IP카메라

티제이원
영상 보안 / 출입 통제

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

도마카바코리아
시큐리티 게이트

다후아 코리아
CCTV / DVR

씨앤비텍
통합보안솔루션

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

경인씨엔에스
CCTV / 자동복구장치

테크스피어
손혈관 / 차량하부 검색기

비전정보통신
IP카메라 / VMS / 폴

슈프리마
출입통제 / 얼굴인식

동양유니텍
IR PTZ 카메라

트루엔
IP 카메라

링크플로우
이동형 CCTV 솔루션

보쉬시큐리티시스템즈
CCTV / 영상보안

엔토스정보통신
DVR / NVR / CCTV

CCTV협동조합
CCTV

아이티엑스엠투엠
DVR / NVR / IP CAMERA

디비시스
CCTV토탈솔루션

씨오피코리아
CCTV 영상 전송장비

테크어헤드
얼굴인식 소프트웨어

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

구네보코리아
보안게이트

다민정보산업
기업형 스토리지

에스카
CCTV / 영상개선

이스트시큐리티
엔트포인트 보안

신우테크
팬틸드 / 하우징

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

케이제이테크
지문 / 얼굴 출입 통제기

알에프코리아
무선 브릿지 / AP

사라다
지능형 객체 인식 시스템

일산정밀
CCTV / 부품 / 윈도우

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

창우
폴대

퍼시픽솔루션
IP 카메라 / DVR

새눈
CCTV 상태관리 솔루션

이노뎁
VMS

케이티앤씨
CCTV / 모듈 / 도어락

아이유플러스
레이더 / 카메라

진명아이앤씨
CCTV / 카메라

브이유텍
플랫폼 기반 통합 NVR

아이엔아이
울타리 침입 감지 시스템

두레옵트로닉스
카메라 렌즈

이후커뮤니케이션
CCTV / DVR

DK솔루션
메트릭스 / 망전송시스템

옵티언스

대산시큐리티
CCTV 폴 / 함체 / 랙

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

더케이
투광기 / 차량번호인식

유진시스템코리아
팬틸트 / 하우징

세환엠에스
시큐리티 게이트

지에스티엔지니어링
게이트 / 스피드게이트

카티스
출입통제 / 외곽경비

유니온커뮤니티
생체인식 / 출입통제