Home > 전체기사
딥페이크 기술 사용한 첫 사기 사건 발생했다
  |  입력 : 2019-09-05 16:38
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
에너지 업체의 CEO, 본사 CEO와 똑같은 목소리 가진 인공지능에 속아
영상과 음성으로 하는 신원 확인 믿을 수 없어...인공지능 시대의 신원 기술 찾아야


[보안뉴스 문가용 기자] 딥페이크 기술을 활용한 첫 번째 사기 사건이 발생했다. 사이버 범죄자들이 CEO의 음성을 거의 똑같이 생성해 24만 달러에 달하는 돈을 자신들의 계좌로 송금하도록 속이는 데 성공한 것이다.

[이미지 = iclickart]


딥페이크란 인공지능을 기반으로 한 음성 및 영상 생성 기술로, 실제로 녹음 및 녹화한 것과 흡사한 결과물을 만들 수 있다. 정치인의 가짜 인터뷰 영상, 유명 배우의 가짜 성인물이 딥페이크로 만들어진 바 있다.

신원확인 전문 기업인 에버던트(Evident)의 CEO 데이비드 토마스(David Thomas)는 “실제로 인공지능을 기반으로 한 신원 사기 시도가 급증하고 있다”고 설명한다. “이제 ‘내가 누구다’라고 직접 음성이나 영상으로 밝힌다 한들 믿을 수 없는 시대가 된 것입니다. 그렇다는 건 정확하고 오류 없는 신원 확인 기술이 그 어느 때보다 필요하게 되었다는 뜻입니다.”

사상 첫 딥페이크 사기 사건을 최초로 보도한 월스트리트저널에 의하면 피해 기업은 보험사인 ‘율러 헤르메스 그룹 SA(Euler Hermes Group SA)’의 고객사 중 하나라고 한다. 정확한 이름은 아직 공개되지 않았다.

사건은 다음과 같은 순서로 발생했다.
1) 지난 3월 한 에너지 기업의 CEO가 독일 모회사의 CEO와 통화를 했다.
2) 독일 모회사의 CEO는 22만 유로를 송금해달라고 요청했다.
3) 송금을 받아야 할 곳은 헝가리에 있는 한 공급사였다. 본사 CEO는 급한 일이라고 했다.
4) 돈은 본사에서 다시 보상해줄 것이라는 약속도 있었다.

요청을 받은 CEO는 자신과 대화를 하는 사람이 자기 상사라는 걸 조금도 의심하지 않았다. 독일인의 억양과 발성 패턴이 상당히 닮아있기도 했다. 상사의 명령을 받은 그는 곧바로 22만 유로를 송금했다. 송금이 끝나자 다시 전화가 걸려왔다. 독일의 CEO였다. 또 다른 급한 일이 있다며 다시 한 번 돈을 보내달라는 요청이 있었다. 의심이 생긴 피해자는 이 요청을 거부했다.

22만 달러는 헝가리에서 멕시코로 보내졌고, 거기서부터 또 다른 장소로 송금됐다. 찾을 길이 없어 보였으나 피해 기업으로서는 다행히 율러 헤르메스 측으로부터 22만 달러를 보장받을 수 있었다.

딥페이크를 동원한 사기 범죄가 얼마나 위협적인지가 이번 사건으로 드러났다. 회사나 기관, 소비자 모두에게 마찬가지다. 한 보고서에 의하면 음성 사기 시도가 2013~2017년 사이에 350%나 뛰어올랐다고 한다. 통화를 통한 사기 시도가 앞으로 더 극성을 부릴 가능성이 높다는 이야기다. “그 동안 보안 업계는 인공지능이 큰 도움이 될 것처럼 광고해왔죠. 그 이면에 있는 새로운 위험 요소들은 무시한 채 말이죠.”

머신러닝 엔지니어링 툴을 제공하는 기업 데사(Dessa)는 “누구라도 인공지능을 사용해 타인을 그럴 듯하게 흉내 낼 수 있다”고 경고한다. “이게 무슨 말이냐면, 그 동안 우리가 비웃던 스팸이나 피싱 전화 공격자들이 당신의 가족을 똑같이 흉내 낼 수 있다는 뜻입니다. 이를 통해 당신 집의 대문을 열 수도 있고, 당신 회사의 보안 구역에 들어갈 수도 있습니다. 그리고 사회적 불안을 일으키고 선거 결과 조작을 위한 여론 만들기도 가능하게 됩니다.”

에버던트의 토마스는 “인공지능이 보안에 도움이 되는 측면이 클지, 아니면 사이버 공격자들에게 더 도움이 될지 다시 한 번 검토해야 한다”고 주장한다. “인공지능 시대에 공격자들의 선택지가 늘어나는 것은 사실입니다. 기업들은 더욱 더 정신을 차리고 신원 확인 방법을 고민해야 합니다. 누굴 어디서부터 신뢰하고, 어떤 걸 근거로 신뢰해야 할지 진지하게 연구해야 합니다.”

3줄 요약
1. 딥페이크 기술 활용한 첫 번째 사기 사건 발생함. 피해 기업은 22만 유로 잃을 뻔했으나 보험사가 보장해 줌.
2. 사기 당한 당사자는, 자신과 통화하고 있는 사람이 상사일 것이라고 굳게 믿음.
3. 인공지능으로 신원 도용 간편하게 할 수 있는 시대, 신원 확인 기술과 방법에 대해 다시 고민해야 함.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
올해는 4차 산업혁명 시대에 따른 융합보안 이슈가 가장 큰 키워드가 되고 있습니다. 보안과 활발히 접목되고 있는 분야 가운데 가장 큰 관심 분야 한 가지만 꼽는다면?
인공지능(AI)
빅데이터
VR(가상현실)/VR(증강현실)
웨어러블
블록체인
스마트시티
자율주행차
클라우드 컴퓨팅
기타(댓글로)
      

하이크비전
CCTV / IP / NVR

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

아이디스
DVR / IP / VMS

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

티제이원
영상 보안 / 출입 통제

대명코퍼레이션
DVR / IP카메라

피엔에이
CCTV / IP 카메라 모듈

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

동양유니텍
IR PTZ 카메라

다후아 코리아
CCTV / DVR

트루엔
IP 카메라

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

선진인포텍
보안 오디오 장비 / 소프트웨어

테크스피어
손혈관 / 차량하부 검색기

씨게이트
보안감시전용 드라이브

슈프리마
출입통제 / 얼굴인식

아이티엑스엠투엠
DVR / NVR / IP CAMERA

디비시스
CCTV토탈솔루션

비전정보통신
IP카메라 / VMS / 폴

엔토스정보통신
DVR / NVR / CCTV

경인씨엔에스
CCTV / 자동복구장치

도마카바코리아
시큐리티 게이트

씨오피코리아
CCTV 영상 전송장비

다민정보산업
기업형 스토리지

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

에스카
CCTV / 영상개선

보쉬시큐리티시스템즈
CCTV / 영상보안

테크어헤드
얼굴인식 소프트웨어

에스에스엔씨
방화벽 정책관리

옵텍스코리아
실내 실외 센서

나우시스템
네트워크 IP 스피커

신우테크
팬틸드 / 하우징

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

케이제이테크
지문 / 얼굴 출입 통제기

사라다
지능형 객체 인식 시스템

알에프코리아
무선 브릿지 / AP

일산정밀
CCTV / 부품 / 윈도우

아이엔아이
울타리 침입 감지 시스템

구네보코리아
보안게이트

브이유텍
플랫폼 기반 통합 NVR

진명아이앤씨
CCTV / 카메라

이노뎁
VMS

새눈
CCTV 상태관리 솔루션

케이티앤씨
CCTV / 모듈 / 도어락

이후커뮤니케이션
CCTV / DVR

이스트컨트롤
통합 출입 통제 솔루션

아이유플러스
레이더 / 카메라

창우
폴대

두레옵트로닉스
카메라 렌즈

금성보안
CCTV / 출입통제 / NVR

지에스티엔지니어링
게이트 / 스피드게이트

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

대산시큐리티
CCTV 폴 / 함체 / 랙

더케이
투광기 / 차량번호인식

수퍼락
출입통제 시스템

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

세환엠에스
시큐리티 게이트

유진시스템코리아
팬틸트 / 하우징

카티스
출입통제 / 외곽경비

유니온커뮤니티
생체인식 / 출입통제