Home > 전체기사
딥페이크 기술 사용한 첫 사기 사건 발생했다
  |  입력 : 2019-09-05 16:38
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
에너지 업체의 CEO, 본사 CEO와 똑같은 목소리 가진 인공지능에 속아
영상과 음성으로 하는 신원 확인 믿을 수 없어...인공지능 시대의 신원 기술 찾아야


[보안뉴스 문가용 기자] 딥페이크 기술을 활용한 첫 번째 사기 사건이 발생했다. 사이버 범죄자들이 CEO의 음성을 거의 똑같이 생성해 24만 달러에 달하는 돈을 자신들의 계좌로 송금하도록 속이는 데 성공한 것이다.

[이미지 = iclickart]


딥페이크란 인공지능을 기반으로 한 음성 및 영상 생성 기술로, 실제로 녹음 및 녹화한 것과 흡사한 결과물을 만들 수 있다. 정치인의 가짜 인터뷰 영상, 유명 배우의 가짜 성인물이 딥페이크로 만들어진 바 있다.

신원확인 전문 기업인 에버던트(Evident)의 CEO 데이비드 토마스(David Thomas)는 “실제로 인공지능을 기반으로 한 신원 사기 시도가 급증하고 있다”고 설명한다. “이제 ‘내가 누구다’라고 직접 음성이나 영상으로 밝힌다 한들 믿을 수 없는 시대가 된 것입니다. 그렇다는 건 정확하고 오류 없는 신원 확인 기술이 그 어느 때보다 필요하게 되었다는 뜻입니다.”

사상 첫 딥페이크 사기 사건을 최초로 보도한 월스트리트저널에 의하면 피해 기업은 보험사인 ‘율러 헤르메스 그룹 SA(Euler Hermes Group SA)’의 고객사 중 하나라고 한다. 정확한 이름은 아직 공개되지 않았다.

사건은 다음과 같은 순서로 발생했다.
1) 지난 3월 한 에너지 기업의 CEO가 독일 모회사의 CEO와 통화를 했다.
2) 독일 모회사의 CEO는 22만 유로를 송금해달라고 요청했다.
3) 송금을 받아야 할 곳은 헝가리에 있는 한 공급사였다. 본사 CEO는 급한 일이라고 했다.
4) 돈은 본사에서 다시 보상해줄 것이라는 약속도 있었다.

요청을 받은 CEO는 자신과 대화를 하는 사람이 자기 상사라는 걸 조금도 의심하지 않았다. 독일인의 억양과 발성 패턴이 상당히 닮아있기도 했다. 상사의 명령을 받은 그는 곧바로 22만 유로를 송금했다. 송금이 끝나자 다시 전화가 걸려왔다. 독일의 CEO였다. 또 다른 급한 일이 있다며 다시 한 번 돈을 보내달라는 요청이 있었다. 의심이 생긴 피해자는 이 요청을 거부했다.

22만 달러는 헝가리에서 멕시코로 보내졌고, 거기서부터 또 다른 장소로 송금됐다. 찾을 길이 없어 보였으나 피해 기업으로서는 다행히 율러 헤르메스 측으로부터 22만 달러를 보장받을 수 있었다.

딥페이크를 동원한 사기 범죄가 얼마나 위협적인지가 이번 사건으로 드러났다. 회사나 기관, 소비자 모두에게 마찬가지다. 한 보고서에 의하면 음성 사기 시도가 2013~2017년 사이에 350%나 뛰어올랐다고 한다. 통화를 통한 사기 시도가 앞으로 더 극성을 부릴 가능성이 높다는 이야기다. “그 동안 보안 업계는 인공지능이 큰 도움이 될 것처럼 광고해왔죠. 그 이면에 있는 새로운 위험 요소들은 무시한 채 말이죠.”

머신러닝 엔지니어링 툴을 제공하는 기업 데사(Dessa)는 “누구라도 인공지능을 사용해 타인을 그럴 듯하게 흉내 낼 수 있다”고 경고한다. “이게 무슨 말이냐면, 그 동안 우리가 비웃던 스팸이나 피싱 전화 공격자들이 당신의 가족을 똑같이 흉내 낼 수 있다는 뜻입니다. 이를 통해 당신 집의 대문을 열 수도 있고, 당신 회사의 보안 구역에 들어갈 수도 있습니다. 그리고 사회적 불안을 일으키고 선거 결과 조작을 위한 여론 만들기도 가능하게 됩니다.”

에버던트의 토마스는 “인공지능이 보안에 도움이 되는 측면이 클지, 아니면 사이버 공격자들에게 더 도움이 될지 다시 한 번 검토해야 한다”고 주장한다. “인공지능 시대에 공격자들의 선택지가 늘어나는 것은 사실입니다. 기업들은 더욱 더 정신을 차리고 신원 확인 방법을 고민해야 합니다. 누굴 어디서부터 신뢰하고, 어떤 걸 근거로 신뢰해야 할지 진지하게 연구해야 합니다.”

3줄 요약
1. 딥페이크 기술 활용한 첫 번째 사기 사건 발생함. 피해 기업은 22만 유로 잃을 뻔했으나 보험사가 보장해 줌.
2. 사기 당한 당사자는, 자신과 통화하고 있는 사람이 상사일 것이라고 굳게 믿음.
3. 인공지능으로 신원 도용 간편하게 할 수 있는 시대, 신원 확인 기술과 방법에 대해 다시 고민해야 함.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정모니터랩 파워비즈 5월 31일까지파워비즈배너 시작 11월6일 20181105-20200131
설문조사
최근 디지털 도어록이 등록되지 않은 스마트워치로 무방비로 열리는 취약점이 발견돼 이슈가 되고 있는데요. 현재 귀하의 집에 설치된 디지털 도어록의 경우 비밀번호와 함께 주로 사용하고 있는 개폐 수단은 무엇인가요?
생체인식
카드키
교통카드(티머니)
스마트워치
스마트폰
기타(댓글로)
      

이노뎁
VMS

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

파나소닉코리아
Sevurity Camera / CCTV

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

Videotec
PTZ 카메라

대명코퍼레이션
DVR / IP카메라

티제이원
영상 보안 / 출입 통제

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

쿠도커뮤니케이션
스마트 관제 솔루션

다후아 코리아
CCTV / DVR

씨앤비텍
통합보안솔루션

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

경인씨엔에스
CCTV / 자동복구장치

테크스피어
손혈관 / 차량하부 검색기

씨게이트
보안감시전용 드라이브

슈프리마
출입통제 / 얼굴인식

한국씨텍
PTZ CCTV

아이티엑스엠투엠
DVR / NVR / IP CAMERA

링크플로우
이동형 CCTV 솔루션

엔토스정보통신
DVR / NVR / CCTV

트루엔
IP 카메라

다민정보산업
기업형 스토리지

비전정보통신
IP카메라 / VMS / 폴

씨오피코리아
CCTV 영상 전송장비

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

디비시스
CCTV토탈솔루션

테크어헤드
얼굴인식 소프트웨어

에스카
CCTV / 영상개선

옵티언스
IR 투광기

옵텍스코리아
실내 실외 센서

구네보코리아
보안게이트

엑사비스
사이보 보안 CCTV

화이트박스로보틱스
CCTV / 카메라

신우테크
팬틸드 / 하우징

네이즈

케이제이테크
지문 / 얼굴 출입 통제기

혜인에스앤에스
통합보안시스템

셀링스시스템
IP 카메라 / 비디오 서버

사라다
지능형 객체 인식 시스템

일산정밀
CCTV / 부품 / 윈도우

수퍼락
출입통제 시스템

아이엔아이
울타리 침입 감지 시스템

이노뎁
VMS

파이브지티
얼굴인식 시스템

새눈
CCTV 상태관리 솔루션

파이브지티
얼굴인식 시스템

케이티앤씨
CCTV / 모듈 / 도어락

다원테크
CCTV / POLE / 브라켓

티에스아이솔루션
출입 통제 솔루션

엘림광통신
광전송링크

퍼시픽솔루션
IP 카메라 / DVR

금성보안
CCTV / 출입통제 / NVR

지와이네트웍스
CCTV 영상분석

이후커뮤니케이션
CCTV / DVR

지에스티엔지니어링
게이트 / 스피드게이트

넷플로우
IP인터폰 / 방송시스템

아이유플러스
레이더 / 카메라

DK솔루션
메트릭스 / 망전송시스템

두레옵트로닉스
카메라 렌즈

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

KPN
안티버그 카메라

싸이닉스
스피드 돔 카메라

대산시큐리티
CCTV 폴 / 함체 / 랙

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

창우
폴대

유진시스템코리아
팬틸트 / 하우징

브이유텍
플랫폼 기반 통합 NVR

글로넥스
카드리더 / 데드볼트

카티스
출입통제 / 외곽경비

세환엠에스
시큐리티 게이트

화인박스
콘트롤박스 / 배전향