Home > 전체기사
딥페이크 기술 사용한 첫 사기 사건 발생했다
  |  입력 : 2019-09-05 16:38
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
에너지 업체의 CEO, 본사 CEO와 똑같은 목소리 가진 인공지능에 속아
영상과 음성으로 하는 신원 확인 믿을 수 없어...인공지능 시대의 신원 기술 찾아야


[보안뉴스 문가용 기자] 딥페이크 기술을 활용한 첫 번째 사기 사건이 발생했다. 사이버 범죄자들이 CEO의 음성을 거의 똑같이 생성해 24만 달러에 달하는 돈을 자신들의 계좌로 송금하도록 속이는 데 성공한 것이다.

[이미지 = iclickart]


딥페이크란 인공지능을 기반으로 한 음성 및 영상 생성 기술로, 실제로 녹음 및 녹화한 것과 흡사한 결과물을 만들 수 있다. 정치인의 가짜 인터뷰 영상, 유명 배우의 가짜 성인물이 딥페이크로 만들어진 바 있다.

신원확인 전문 기업인 에버던트(Evident)의 CEO 데이비드 토마스(David Thomas)는 “실제로 인공지능을 기반으로 한 신원 사기 시도가 급증하고 있다”고 설명한다. “이제 ‘내가 누구다’라고 직접 음성이나 영상으로 밝힌다 한들 믿을 수 없는 시대가 된 것입니다. 그렇다는 건 정확하고 오류 없는 신원 확인 기술이 그 어느 때보다 필요하게 되었다는 뜻입니다.”

사상 첫 딥페이크 사기 사건을 최초로 보도한 월스트리트저널에 의하면 피해 기업은 보험사인 ‘율러 헤르메스 그룹 SA(Euler Hermes Group SA)’의 고객사 중 하나라고 한다. 정확한 이름은 아직 공개되지 않았다.

사건은 다음과 같은 순서로 발생했다.
1) 지난 3월 한 에너지 기업의 CEO가 독일 모회사의 CEO와 통화를 했다.
2) 독일 모회사의 CEO는 22만 유로를 송금해달라고 요청했다.
3) 송금을 받아야 할 곳은 헝가리에 있는 한 공급사였다. 본사 CEO는 급한 일이라고 했다.
4) 돈은 본사에서 다시 보상해줄 것이라는 약속도 있었다.

요청을 받은 CEO는 자신과 대화를 하는 사람이 자기 상사라는 걸 조금도 의심하지 않았다. 독일인의 억양과 발성 패턴이 상당히 닮아있기도 했다. 상사의 명령을 받은 그는 곧바로 22만 유로를 송금했다. 송금이 끝나자 다시 전화가 걸려왔다. 독일의 CEO였다. 또 다른 급한 일이 있다며 다시 한 번 돈을 보내달라는 요청이 있었다. 의심이 생긴 피해자는 이 요청을 거부했다.

22만 달러는 헝가리에서 멕시코로 보내졌고, 거기서부터 또 다른 장소로 송금됐다. 찾을 길이 없어 보였으나 피해 기업으로서는 다행히 율러 헤르메스 측으로부터 22만 달러를 보장받을 수 있었다.

딥페이크를 동원한 사기 범죄가 얼마나 위협적인지가 이번 사건으로 드러났다. 회사나 기관, 소비자 모두에게 마찬가지다. 한 보고서에 의하면 음성 사기 시도가 2013~2017년 사이에 350%나 뛰어올랐다고 한다. 통화를 통한 사기 시도가 앞으로 더 극성을 부릴 가능성이 높다는 이야기다. “그 동안 보안 업계는 인공지능이 큰 도움이 될 것처럼 광고해왔죠. 그 이면에 있는 새로운 위험 요소들은 무시한 채 말이죠.”

머신러닝 엔지니어링 툴을 제공하는 기업 데사(Dessa)는 “누구라도 인공지능을 사용해 타인을 그럴 듯하게 흉내 낼 수 있다”고 경고한다. “이게 무슨 말이냐면, 그 동안 우리가 비웃던 스팸이나 피싱 전화 공격자들이 당신의 가족을 똑같이 흉내 낼 수 있다는 뜻입니다. 이를 통해 당신 집의 대문을 열 수도 있고, 당신 회사의 보안 구역에 들어갈 수도 있습니다. 그리고 사회적 불안을 일으키고 선거 결과 조작을 위한 여론 만들기도 가능하게 됩니다.”

에버던트의 토마스는 “인공지능이 보안에 도움이 되는 측면이 클지, 아니면 사이버 공격자들에게 더 도움이 될지 다시 한 번 검토해야 한다”고 주장한다. “인공지능 시대에 공격자들의 선택지가 늘어나는 것은 사실입니다. 기업들은 더욱 더 정신을 차리고 신원 확인 방법을 고민해야 합니다. 누굴 어디서부터 신뢰하고, 어떤 걸 근거로 신뢰해야 할지 진지하게 연구해야 합니다.”

3줄 요약
1. 딥페이크 기술 활용한 첫 번째 사기 사건 발생함. 피해 기업은 22만 유로 잃을 뻔했으나 보험사가 보장해 줌.
2. 사기 당한 당사자는, 자신과 통화하고 있는 사람이 상사일 것이라고 굳게 믿음.
3. 인공지능으로 신원 도용 간편하게 할 수 있는 시대, 신원 확인 기술과 방법에 대해 다시 고민해야 함.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
지난 10월 정보보호정책관을 정보네트워크정책관으로 변경하는 과학기술정보통신부의 조직 개편 움직임이 논란이 된 바 있습니다. 과기정통부에서 정보보호 업무를 총괄하는 조직 위상에 대한 견해는?
과기정통부에서 분리해 별도의 정부부처가 전담해야
과기정통부 내 정보보호정책실(실장급)로 격상시켜야
지금처럼 정보보호정책관(국장급) 조직을 유지해야
네트워크 업무를 통합시키되, 정보보호네트워크정책관(국장급)으로 명명해야
과기정통부의 초안처럼 정보네트워크정책관(국장급)으로 해야
기타(댓글로)
      

이스온
원격감시 / 안전관리

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

파나소닉코리아
Sevurity Camera / CCTV

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

AVIGILON
영상 보안 / 출입 통제

대명코퍼레이션
DVR / IP카메라

티제이원
영상 보안 / 출입 통제

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

비전정보통신
IP카메라 / VMS / 폴

다후아 코리아
CCTV / DVR

씨앤비텍
통합보안솔루션

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

피엔에이
CCTV / IP 카메라 모듈

테크스피어
손혈관 / 차량하부 검색기

쿠도커뮤니케이션
스마트 관제 솔루션

슈프리마
출입통제 / 얼굴인식

아이티엑스엠투엠
DVR / NVR / IP CAMERA

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

링크플로우
이동형 CCTV 솔루션

한국씨텍
PTZ CCTV

엔토스정보통신
DVR / NVR / CCTV

경인씨엔에스
CCTV / 자동복구장치

트루엔
IP 카메라

씨오피코리아
CCTV 영상 전송장비

CCTV협동조합
CCTV

디비시스
CCTV토탈솔루션

도마카바코리아
시큐리티 게이트

다민정보산업
기업형 스토리지

테크어헤드
얼굴인식 소프트웨어

에스카
CCTV / 영상개선

브이유텍
플랫폼 기반 통합 NVR

윈스
지능형 차세대 방화벽

포티넷
네트워크 보안

화이트박스로보틱스
CCTV / 카메라

신우테크
팬틸드 / 하우징

네이즈
VMS

케이제이테크
지문 / 얼굴 출입 통제기

혜인에스앤에스
통합보안시스템

셀링스시스템
IP 카메라 / 비디오 서버

사라다
지능형 객체 인식 시스템

수퍼락
출입통제 시스템

구네보코리아
보안게이트

일산정밀
CCTV / 부품 / 윈도우

아이엔아이
울타리 침입 감지 시스템

이노뎁
VMS

새눈
CCTV 상태관리 솔루션

케이티앤씨
CCTV / 모듈 / 도어락

파이브지티
얼굴인식 시스템

이스트컨트롤
통합 출입 통제 솔루션

아이유플러스
레이더 / 카메라

지와이네트웍스
CCTV 영상분석

두레옵트로닉스
카메라 렌즈

지에스티엔지니어링
게이트 / 스피드게이트

이후커뮤니케이션
전송장치/CCTV

창우
폴대

넷플로우
IP인터폰 / 방송시스템

대산시큐리티
CCTV 폴 / 함체 / 랙

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

DK솔루션
메트릭스 / 망전송시스템

싸이닉스
스피드 돔 카메라

다원테크
CCTV / POLE / 브라켓

유진시스템코리아
팬틸트 / 하우징

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

카티스
출입통제 / 외곽경비

세환엠에스
시큐리티 게이트