Home > 전체기사

[스토리텔링으로 이해하는 AI 보안-20] 딥페이크(Deep fake)와 가짜뉴스

  |  입력 : 2020-11-01 23:04
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
딥페이크 기술이 사이버범죄에 악용된다면? 별다른 대응방법 없어 피해 막대해질 듯
가짜뉴스인지 진짜뉴스인지 검증하는 인공지능 프로그램도 등장할 것


[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 화상채팅용 전화벨이 울렸다. 스마트폰을 열어보니 아침에 학교 간다고 부리나케 가방 메고 나간 아들 철수다. 평상시에는 대화하자고 해도 불퉁거리던 녀석이 웬일로 연락을 했는지 반갑기도 하다. 대화창에서 ‘화상 연결하기’를 누르니 잠시 후 철수의 모습이 보였다. 철수는 무뚝뚝한 표정을 짓고 있었다. 뒷배경을 보니 학교는 아닌 듯했다.

[이미지=utoimage]


“우리 아들, 이 시간에 어쩐 일이니?”
철수의 목소리가 조금 어눌하기는 했지만, 스마트폰의 인터넷전화 연결이다 보니 음질이 조금 떨어져서라고 생각했다.
“엄마, 실은 제가 반 친구들하고 다퉜는데, 그 녀석이 조금 다쳐서 병원에 왔어요. 응급실이어서 보증서야 한다네요. 그래서 당장 돈이 필요해요.”

엄마는 철수가 싸움에 휘말렸다는 소리에 순간 정신이 아득해졌다.
“너는 다친 데는 없고? 다쳤다는 친구는 누군데?”
“엄마도 아는 친군데, 명식이라고…. 일단 응급처치를 해야 하니 50만원만 스마트폰으로 계좌송금 좀 해주세요. 카톡으로 명식이 계좌 보내드릴게요.”
“그래, 알았다. 바로 보내주마.”

엄마는 당황해 어찌할 줄 모르는데 철수의 톡 메시지로 링크 하나가 전송되었다. 엄마는 링크를 열고 계좌이체를 한 후 잠깐 멍하니 있다가 스마트폰을 다시 들었다.
‘이럴 때가 아니지, 명식이 어머니에게 알려줘야지. 뭐라고 얘기해야 하나?’
엄마는 명식이 어머니 연락처를 찾은 후 전화번호를 눌렀다. 잠시 후 신호음이 가고 반가운 목소리로 명식이 어머니가 응대했다.

“어머, 철수 어머님. 오랜만이시네요. 잘 지내셨죠?”
“아, 네. 자주 연락을 못 드려서 죄송해요. 그런데 다름이 아니라, 오늘 저희 철수가 명식이랑 학교에서 조금 심하게 장난을 쳤는지, 명식이가 다쳤다고 하던데 혹시 알고 계시나요?”
“아니요? 철수는 지금 옆에서 저랑 같이 있는데 그런 말 없던데요?”
순간 철수 엄마는 가슴이 철렁 내려앉는 것 같았다. 철수와 방금 통화했는데? 혹시 철수가 돈이 필요해서 거짓말을 했나 싶었다. 서둘러 전화를 끊고 철수에게 전화를 걸었다. 잠시 후 철수가 전화를 받았다.

“너, 지금 어디니? 뭐 하고 있니?”
“갑자기 왜 그러세요? 명식이네요. 오늘 그룹스터디 한다고 했잖아요.”
엄마는 뭔가에 홀린 듯했다. 그럼 좀 전에 자신과 대화한 자는 과연 누구란 말인가?
“네가 방금 나한테 전화해서, 명식이가 다쳤으니 50만원 보내 달랬잖아!”
“뭔 소리에요, 엄마? 아, 엄마 지금 사이버피싱 당한 거예요! 그렇게 주의를 드렸는데도 딥페이크에 당하시면 어떡해요!”

어린 시절 놀이동산이나 유원지에 가면 컴퓨터와 프린터를 가져다놓은 사진사를 볼 수 있었다. 그 사진사가 사진을 찍어준 뒤 컴퓨터로 좀 더 유화적인 모습이나 캐리커처 모습으로 바꾸어주는 걸 보면서 신기해했다. 이러한 기술은 더욱 발전해 범죄자를 찾을 때 목격자의 증언을 토대로 적당한 얼굴에 안경을 씌우거나 수염을 덧붙이거나 얼굴에 주름을 더하는 몽타주 기법에도 도입됐다. 이제는 인공지능 딥러닝 알고리즘과 연동되어 음성·영상 분야에서도 활용되고 있다. ‘딥페이크(Deep fake)’라 불리는 이러한 이미지 합성 기술은 인공지능 기술이 계속 발전하면서 조만간 인간 사회에 가장 골치 아픈 사이버범죄 행위로 자리 잡을 것이다.

사실 영화 <해리 포터>나 <반지의 제왕>에서 실사처럼 보이는 연기자의 분장술처럼 기존 인물의 얼굴이나 특정 부위를 영화의 CG 처리처럼 합성하듯이 영상편집을 하는 기술은 과거에는 전문가의 영역이었다. 하지만 지금은 인터넷에 돌아다니는 앱으로 누구나 손쉽게 만들 수 있다. 필자도 얼마 전까지 이미지를 편집할 때 포토샵이나 일러스트레이터를 이용했지만, 공개된 딥러닝 알고리즘이 포함된 프로그램을 이용하면서 더욱 쉽게 가짜 이미지와 동영상을 만들 수 있게 됐다.

이렇듯 처음에는 전문가들이 재미로 만들던 딥페이크 영상들이 지금은 인공지능 기술의 도입으로 개인용 디지털 기기로도 아주 쉽고 정교하게 만들 수 있게 됐다. 심지어 자연스럽게 행동하는 것처럼 보이도록 세밀하게 처리할 수도 있다. 이미 뉴스 미디어에도 이러한 인공지능 이미지 합성 기술이 도입됐고, 관공서에서도 공중 스피커를 이용해 민원인 안내 서비스를 할 때 육성 대신 스크립트를 PC에 입력해 자동으로 공지해주는 인공지능 음성 합성 프로그램을 사용하고 있다. 자동차의 내비게이션도 앞으로는 뉴스 시간에 고속도로 정보를 리포터가 안내하는 것처럼 운전사에게 서비스할 것이다. 그럴 때 내비게이션은 도로 상황에 따라 자동적으로 음성의 강약을 조절하고 발음·악센트 심지어 사투리까지 섞어가며 인간처럼 말할 것이기 때문에 운전사의 귀에는 정말로 사람이 말하는 것처럼 들릴 것이다.

이렇듯 딥페이크는 여러 분야에서 폭넓게 활용될 수 있다. 예를 들어, 지금까지는 관공서에서 민원 서비스를 받으려면 민원 창구를 이용하거나 전화를 해야 했다. 하지만 전화를 하면 고객 응대 근로자 보호 제도 시행 안내문과 개인정보보호 관련 사항부터 듣기 시작해서 여러 단계를 거친 후 또 대기음도 계속 들어야 했다. 하지만 이제는 시청 홈페이지에 들어가 유명 연예인처럼 말을 하는 딥페이크와의 대화로 민원을 해결할 수 있을 것이다.

이러한 서비스에는 물론 단점도 존재한다. 예를 들어, 앞으로는 선거철마다 화상 ARS가 진짜 후보인 양 안부도 묻고 간단한 질문에도 대답하면서 온갖 자상한 표정을 지으며 유권자를 현혹할 것이다. 즉, 진짜 후보가 어디서 무엇을 하는지 모르는 상태에서 딥페이크에 대해 모르는 유권자들은 ‘후보(라 생각하는 ARS)’의 유창한 언변에 현혹되어 투표하게 될 수도 있다.

사이버범죄에도 악용될 것이다. 예를 들어, 앞서 소개한 철수 엄마의 경우처럼 상대방과 화상통신을 하면서 상대방을 안심시키고 금전을 갈취하는 딥페이크 기술로 인해 가족마저도 의심하는 사태가 벌어질 수도 있다. 즉, 나와 지금 대화하는 상대방이 실존 인물인지를 확인해야 하는 촌극이 벌어질 것이다.

더욱 우려스러운 일은 인기 있는 연예인을 소재로 음란물을 만들거나 그 사람이 범죄에 연루된 것처럼 조작하는 것이다. 이미 실제로 이러한 딥페이크 기술을 이용해 가짜뉴스를 만들어 배포하는 자들도 있다. 이런 식의 가짜뉴스는 시장의 상황(뉴스)에 따라 주가가 시시각각 변하는 주식시장에도 심각한 악영향을 미칠 수 있다.

단순히 딥페이크 기술만으로는 사회문제를 일으키는데 한계가 있다. 하지만 해킹과 연계되면 그 파급력은 어마어마하게 커진다. AP 통신의 트위터가 해킹당해 “백악관이 공격당하고 오바마 대통령이 다쳤다”는 가짜뉴스가 퍼지면서 삽시간에 주가가 폭락하는 사태가 벌어진 경우를 보라. 이러한 트위터 해킹으로 인한 해프닝보다 해킹과 연계된 딥페이크는 더 심각한 사회문제를 발생시킬 수 있다.

그러다 보니 미래에는 지금 내 손에 들어온 정보가 가짜뉴스인지 진짜뉴스인지를 검증하는 인공지능 프로그램도 등장할 것이다. 이러한 프로그램은 주식 투자를 하는 사람들에게는 필수품이 될 것이다. 초단기로 판단하고 결정해야 할 시점에 투자 정보가 사실인지를 먼저 판단해야 하기 때문이다. 만약 이 뉴스가 사실이라면 관련 종목을 미리 산 매수자는 커다란 이익을 볼 것이기 때문이다. 예를 들어, 미국 대통령에게 위해를 가한 사건이 긴급 뉴스로 타전됐을 때 예전에는 주식시장에 큰 혼란이 발생했지만, 앞으로는 이 뉴스가 오보인지 실제인지를 먼저 판단할 수 있게 됨으로서 혼란을 방지거나 이익을 볼 수 있을 것이다.

이렇듯 사이버공간에서 벌어지는 사건·사고에 대한 정보를 계속 확인하는 작업을 거쳐야 철수 엄마와 같은 일을 당하지 않을 수 있다. 하지만 이러한 작업을 개인이 처리하기는 매우 어렵다. 특히, 자신과 관련된 뉴스․활동을 모니터링하는 작업은 더더욱 그렇다. 해커는 이러한 허점을 노린다. 사실 물리적 공간에서도 대포통장이나 명의 도용 문제가 심각한 사회적 범죄 이슈다. 이제 이러한 문제가 사이버공간에서도 발생하기 시작한 것이다. 예를 들어, 누군가가 내 개인정보를 이용해 나인 척하면서 사이버공간에서 활동한다면 이를 제재·통제할 수 없다. 설사 이러한 행동을 막을 제도가 생기더라도, 누군가가 나인 척하고 다니는 걸 입증하기가 매우 어렵다. 이제 가짜가 진짜인 것처럼 사이버세상을 휘젓고 있는 것이다.

지금으로서는 딥페이크에 대응할 방법이 별로 없다. 그나마 상대방이 평소와는 다른 행동을 할 경우 재차 확인하거나 둘만 아는 장소․추억을 이야기하도록 유도하는 것이 전부다. “지난 주말에 놀러 간 곳이 어디지?”라고 물어보거나 “옆집 강아지 이름이 뭐니?”와 같이 간단한 질문을 해보는 것이다. 딥페이크는 이에 대답할 수 없다. 그러니까 평소에 주변 사람들과 많은 추억을 만들어놓거나 무슨 일이 있었는지를 잘 기억한다면 딥페이크 사기에 걸려들지 않을 수 있는 것이다. 특히, 사이버공간에서 돈을 빌려달라거나 비밀번호를 알려달라고 할 때는 반드시 의심해야 한다.

하지만 달리는 사람 위에 나는 사람이 있다고 하지 않는가. 이러한 방법도 기술이 계속 발전하면 소용없어질 수도 있다. 즉, 딥페이크에 해킹 기술까지 포함시켜 스마트폰에 악성 프로그램을 삽입시키고, 해당 스마트폰 사용자의 위치와 행동·습관 등을 모두 파악하며, 스마트폰의 카메라 기능을 이용해 일거수일투족까지 감시하는 경우도 발생할 것이다. 그리고 스마트폰 사용자의 일탈 행위를 기록·저장해 협박용으로 이용할 것이다. 이러한 상상이 막연한 공상으로만 여겨지기를 필자는 바란다.

얼마 전 어느 날 아들이 학교에 다녀오겠다고 했다. 코로나19가 확산일로에 있을 때라 뭐 때문에 가느냐고 물었더니, 스마트폰에 앱을 설치하러 간다고 했다. 학교에서 원격 수업을 위한 앱 사용 방법을 설명하려나 보다 싶어서 물었더니, 뜻밖의 답변에 놀랐다. 원격 재택수업을 할 때, 아이들이 수업을 듣는 것처럼 화면에 자신의 동영상을 올려놓기 때문이라는 것이다. 그래서 화상 교육을 할 때에는 동영상이 뜨지 않도록 하는 프로그램을 선생님이 직접 설치한다는 것이다. 그 프로그램을 스마트폰에 설치할 때에는 본인에게서 직접 개인정보 사용 동의를 받는 절차도 거친단다. 아들은 사이버보안 전문가라는 분이 그것도 모르냐면서 스마트폰을 챙겨서 나갔다. 그런데 아들이 뒤를 돌아보면서 한마디 더 했다.

“그런데요. 이거 소용없어요. 아이들이 벌써 락을 풀었어요. 선생님만 몰라요.”
이렇듯 딥페이크는 우리의 현실이다. 이미 학교에서는 선생님과 학생 간에 딥페이크 이슈를 가지고 쫓고 쫓기는 게임을 하고 있는 것이다. 아들의 뒷모습을 바라보면서 필자는 ‘나도 이제 하산할 때가 되었나 보다’ 싶어서 어쩐지 서글펐다.
[글_ 김주원 사이버보안 분야 칼럼리스트]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
보안전문 기자들이 뽑은 2021년 보안 핫키워드 10개 가운데 가장 관심이 높은 키워드는?
민간인증서부터 융복합인증까지, 인증의 시대 열린다
랜섬웨어 공격, ‘불특정 다수’에서 ‘표적형’으로 진화
데이터 프라이버시가 기업들의 목을 죈다
재택근무와 주 52시간 근무제, 오피스 보안 ‘혁신’ 예고
영상·음성까지 합성 ‘딥페이크’, 비대면 사회 침투하나
의료·제약 분야, 코로나19 다음은 해커
스마트공장 구축은 OT/ICS 보안 정립부터
드론, 융합보안 산업의 핵심 아이템이 되다
몸집 키운 ADT캡스-에스원 대격돌, 보안시장 지각변동
CCTV 시스템온칩 대란, 중소기업 생존까지 위협