Home > 전체기사
딥페이크 기술 사용한 첫 사기 사건 발생했다
  |  입력 : 2019-09-05 16:38
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
에너지 업체의 CEO, 본사 CEO와 똑같은 목소리 가진 인공지능에 속아
영상과 음성으로 하는 신원 확인 믿을 수 없어...인공지능 시대의 신원 기술 찾아야


[보안뉴스 문가용 기자] 딥페이크 기술을 활용한 첫 번째 사기 사건이 발생했다. 사이버 범죄자들이 CEO의 음성을 거의 똑같이 생성해 24만 달러에 달하는 돈을 자신들의 계좌로 송금하도록 속이는 데 성공한 것이다.

[이미지 = iclickart]


딥페이크란 인공지능을 기반으로 한 음성 및 영상 생성 기술로, 실제로 녹음 및 녹화한 것과 흡사한 결과물을 만들 수 있다. 정치인의 가짜 인터뷰 영상, 유명 배우의 가짜 성인물이 딥페이크로 만들어진 바 있다.

신원확인 전문 기업인 에버던트(Evident)의 CEO 데이비드 토마스(David Thomas)는 “실제로 인공지능을 기반으로 한 신원 사기 시도가 급증하고 있다”고 설명한다. “이제 ‘내가 누구다’라고 직접 음성이나 영상으로 밝힌다 한들 믿을 수 없는 시대가 된 것입니다. 그렇다는 건 정확하고 오류 없는 신원 확인 기술이 그 어느 때보다 필요하게 되었다는 뜻입니다.”

사상 첫 딥페이크 사기 사건을 최초로 보도한 월스트리트저널에 의하면 피해 기업은 보험사인 ‘율러 헤르메스 그룹 SA(Euler Hermes Group SA)’의 고객사 중 하나라고 한다. 정확한 이름은 아직 공개되지 않았다.

사건은 다음과 같은 순서로 발생했다.
1) 지난 3월 한 에너지 기업의 CEO가 독일 모회사의 CEO와 통화를 했다.
2) 독일 모회사의 CEO는 22만 유로를 송금해달라고 요청했다.
3) 송금을 받아야 할 곳은 헝가리에 있는 한 공급사였다. 본사 CEO는 급한 일이라고 했다.
4) 돈은 본사에서 다시 보상해줄 것이라는 약속도 있었다.

요청을 받은 CEO는 자신과 대화를 하는 사람이 자기 상사라는 걸 조금도 의심하지 않았다. 독일인의 억양과 발성 패턴이 상당히 닮아있기도 했다. 상사의 명령을 받은 그는 곧바로 22만 유로를 송금했다. 송금이 끝나자 다시 전화가 걸려왔다. 독일의 CEO였다. 또 다른 급한 일이 있다며 다시 한 번 돈을 보내달라는 요청이 있었다. 의심이 생긴 피해자는 이 요청을 거부했다.

22만 달러는 헝가리에서 멕시코로 보내졌고, 거기서부터 또 다른 장소로 송금됐다. 찾을 길이 없어 보였으나 피해 기업으로서는 다행히 율러 헤르메스 측으로부터 22만 달러를 보장받을 수 있었다.

딥페이크를 동원한 사기 범죄가 얼마나 위협적인지가 이번 사건으로 드러났다. 회사나 기관, 소비자 모두에게 마찬가지다. 한 보고서에 의하면 음성 사기 시도가 2013~2017년 사이에 350%나 뛰어올랐다고 한다. 통화를 통한 사기 시도가 앞으로 더 극성을 부릴 가능성이 높다는 이야기다. “그 동안 보안 업계는 인공지능이 큰 도움이 될 것처럼 광고해왔죠. 그 이면에 있는 새로운 위험 요소들은 무시한 채 말이죠.”

머신러닝 엔지니어링 툴을 제공하는 기업 데사(Dessa)는 “누구라도 인공지능을 사용해 타인을 그럴 듯하게 흉내 낼 수 있다”고 경고한다. “이게 무슨 말이냐면, 그 동안 우리가 비웃던 스팸이나 피싱 전화 공격자들이 당신의 가족을 똑같이 흉내 낼 수 있다는 뜻입니다. 이를 통해 당신 집의 대문을 열 수도 있고, 당신 회사의 보안 구역에 들어갈 수도 있습니다. 그리고 사회적 불안을 일으키고 선거 결과 조작을 위한 여론 만들기도 가능하게 됩니다.”

에버던트의 토마스는 “인공지능이 보안에 도움이 되는 측면이 클지, 아니면 사이버 공격자들에게 더 도움이 될지 다시 한 번 검토해야 한다”고 주장한다. “인공지능 시대에 공격자들의 선택지가 늘어나는 것은 사실입니다. 기업들은 더욱 더 정신을 차리고 신원 확인 방법을 고민해야 합니다. 누굴 어디서부터 신뢰하고, 어떤 걸 근거로 신뢰해야 할지 진지하게 연구해야 합니다.”

3줄 요약
1. 딥페이크 기술 활용한 첫 번째 사기 사건 발생함. 피해 기업은 22만 유로 잃을 뻔했으나 보험사가 보장해 줌.
2. 사기 당한 당사자는, 자신과 통화하고 있는 사람이 상사일 것이라고 굳게 믿음.
3. 인공지능으로 신원 도용 간편하게 할 수 있는 시대, 신원 확인 기술과 방법에 대해 다시 고민해야 함.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
코로나19 사태로 인해 화상회의, 원격교육 등을 위한 협업 솔루션이 부상하고 있습니다. 현재 귀사에서 사용하고 있는 협업 솔루션은 무엇인가요?
마이크로소프트의 팀즈(Teams)
시스코시스템즈의 웹엑스(Webex)
구글의 행아웃 미트(Meet)
줌인터내셔녈의 줌(Zoom)
슬랙의 슬랙(Slack)
NHN의 두레이(Dooray)
이스트소프트의 팀업(TeamUP)
토스랩의 잔디(JANDI)
기타(댓글로)