얼굴을 무단으로 도용해 포르노, 가짜뉴스, 사기 등에 악용
허위 영상물 제작도, 시청도 말아야 해
[보안뉴스 박은주 기자] 현대에는 창작활동으로 세상을 떠난 사람을 재구성할 수 있다. AI 등 기술의 발전 덕이다. 약 10년 전 영화 ‘분노의 질주 7’에서도 확인할 수 있다. 주인공 ‘폴 워커(Paul Walker)’는 영화 개봉 1년 전 자동차 사고로 사망했지만, 영화 내내 눈에 띄는 활동을 보인다. 제작팀이 대역배우를 뽑아 폴 워커의 얼굴을 그래픽으로 복원해 촬영을 마무리했기 때문이다. 이는 딥페이크 기술의 초기 단계지만, 당시 관객들은 실제인지 가상인지 구분하기 어려워했다. 오늘날까지 AI 기술을 이용한 딥페이크 기술은 더욱 비약적인 성장을 이뤘다.
△이 주의 보안 용어
딥페이크(Deep Fake)는 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 인공지능을 이용해 사람의 얼굴이나 특정 부위를 합성한 영상편집 기술이다. 딥페이크 기술 자체가 문제는 아니지만, 수많은 딥페이크 영상이 범죄에 이용되고 있다. 주로 연예인이나, 정치인, 국가 지도자 등의 얼굴이 이용된다. 공격자는 딥페이크 기술을 바탕으로 피해자의 얼굴을 포르노 영상에 합성하고 음란물을 만들어 낸다. 해당 영상을 포르노 사이트나 다크 웹, SNS, 채팅 메신저에 퍼트리는 것이다. 또한, 유명 기업인을 사칭해 암호화폐 투자를 유도하거나 유언비어를 퍼트려 사회적 혼란을 일으킨다. 이 밖에도 회사 임원의 목소리를 따라 하거나, 친구의 얼굴을 모방해 개인정보나 금전을 요구하기도 한다.
△이런 일이 있었다
지난 6월 러-우 전쟁 상황에 러시아가 딥페이크 기술로 인해 타격을 받았다. 해킹 공격으로 라디오와 TV 방송 일부에서 딥페이크로 만들어진 가짜 푸틴 대통령의 발표문이 중계된 것. 영상 속 푸틴은 러시아 일부 지역에 계엄령을 선포하고, 주민들에게 대피하라고 알렸다. 방송이 전국적으로 보도되지 않아 일단락됐지만, 러시아와 우크라이나 간 긴장감을 잠시 고조시키는 데 일조했다는 평가가 이어진다.
2022년 암호화폐 사기꾼이 일론 머스크의 얼굴을 구현해 비트벡스(BitVex)라는 가짜 암호화폐 플랫폼으로 피해자들을 유인했다. 여기에 속아 코인을 구매한 사람 전부 피해를 보았다. 공격자는 유튜브 등에 올라온 일론 머스크 정식 인터뷰 영상을 딥페이크 기술로 편집했다고 밝혔다. 허위 영상 속 일론 머스크는 “비트벡스에 5천만 달러를 투자했으며 최소 30%의 이익을 거둘 수 있을 것으로 보인다”고 말했다.
한편, 2021년 방송통신심의위원회는 K-팝 아이돌 가수 얼굴을 딥페이크 기술을 악용해 음란한 영상으로 제작·유포된 614건 영상에 대한 접속을 차단했다. 같은 해 네덜란드 사이버 보안 회사인 딥 트레이스에 따르면, 딥페이크 위주의 포르노 사이트에서 유통되는 영상의 25%가 K-팝 여성 아이돌이었다.
일반인도 딥페이크로 인한 피해를 볼 수 있다. 2022년 제주경찰청에서 딥페이크 영상을 제작해 판매한 혐의로 30대 남성 A씨가 구속, 검찰에 송치됐다. A씨는 약 3년간 딥페이크 기술을 이용해 불법으로 내려받은 음란물에 연예인 또는 아동·청소년 얼굴 사진 합성 영상물 3,000여 개를 제작했다. 이를 텔레그램 채팅방에서 모집한 회원에게 1인당 월 30달러씩에 판매한 혐의를 받았다.
이뿐만 아니라, 거짓된 영상을 기반으로 가짜뉴스가 만들어지는 문제도 발생한다.
△피해는 이렇게 막을 수 있다
허위 영상물은 제작하지도, 보지도 말아야 한다. 시청 또한 2차 가해에 가담하는 것이기 때문이다. 딥페이크를 이용한 성적 허위 영상물 제작 및 배포의 경우 ‘성폭력범죄의 처벌 등에 관한 특례법’에 따라 처벌받는다. 영상물 등 대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자는 5년 이하의 징역 또는 5천 만원 이하의 벌금에 처하도록 명시되어 있다. 특히, 영리 목적으로 정보통신망을 이용한 경우에는 7년 이하의 징역을 받는다.
만일, 딥페이크 피해를 봤다면 형사 고소 및 수사를 요구하는 것이 좋다. 증거를 수집해 해당 사이트 및 정보를 모아 경찰서에 접수해 범죄자를 잡도록 해야 한다. 이미 유포돼 인터넷에 떠돌아다니는 악성 영상은 복사가 쉬운 디지털 자료라 완전히 없애기에는 어려움이 따른다. 그러나 잊힐 권리를 보장하기 위한 새로운 직업 중 하나인 ‘디지털 장의사’에게 상담&삭제를 요청할 수 있다. 디지털 장의사는 허위 동영상에 대해 불법 사이트를 비롯한 플랫폼 사이트에 삭제를 대신 요청하고 지원해 주는 서비스를 말한다.
사설 업체 외에도 ‘한국여성인권진흥원의 디지털 성범죄 피해자 지원센터’의 도움을 받을 수 있다. 피해에 대한 감성적인 지원 및 이후 절차에 대한 상담을 지원한다.
[도움=삐뽀삐뽀 보안 119]
[박은주 기자(boan5@boannews.com)]
허위 영상물 제작도, 시청도 말아야 해
[보안뉴스 박은주 기자] 현대에는 창작활동으로 세상을 떠난 사람을 재구성할 수 있다. AI 등 기술의 발전 덕이다. 약 10년 전 영화 ‘분노의 질주 7’에서도 확인할 수 있다. 주인공 ‘폴 워커(Paul Walker)’는 영화 개봉 1년 전 자동차 사고로 사망했지만, 영화 내내 눈에 띄는 활동을 보인다. 제작팀이 대역배우를 뽑아 폴 워커의 얼굴을 그래픽으로 복원해 촬영을 마무리했기 때문이다. 이는 딥페이크 기술의 초기 단계지만, 당시 관객들은 실제인지 가상인지 구분하기 어려워했다. 오늘날까지 AI 기술을 이용한 딥페이크 기술은 더욱 비약적인 성장을 이뤘다.
▲딥페이크 기술로 만들어진 폴 워커의 모습/분노의 질주 7 스틸컷[이미지=네이버 영화]
△이 주의 보안 용어
딥페이크(Deep Fake)는 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 인공지능을 이용해 사람의 얼굴이나 특정 부위를 합성한 영상편집 기술이다. 딥페이크 기술 자체가 문제는 아니지만, 수많은 딥페이크 영상이 범죄에 이용되고 있다. 주로 연예인이나, 정치인, 국가 지도자 등의 얼굴이 이용된다. 공격자는 딥페이크 기술을 바탕으로 피해자의 얼굴을 포르노 영상에 합성하고 음란물을 만들어 낸다. 해당 영상을 포르노 사이트나 다크 웹, SNS, 채팅 메신저에 퍼트리는 것이다. 또한, 유명 기업인을 사칭해 암호화폐 투자를 유도하거나 유언비어를 퍼트려 사회적 혼란을 일으킨다. 이 밖에도 회사 임원의 목소리를 따라 하거나, 친구의 얼굴을 모방해 개인정보나 금전을 요구하기도 한다.
△이런 일이 있었다
지난 6월 러-우 전쟁 상황에 러시아가 딥페이크 기술로 인해 타격을 받았다. 해킹 공격으로 라디오와 TV 방송 일부에서 딥페이크로 만들어진 가짜 푸틴 대통령의 발표문이 중계된 것. 영상 속 푸틴은 러시아 일부 지역에 계엄령을 선포하고, 주민들에게 대피하라고 알렸다. 방송이 전국적으로 보도되지 않아 일단락됐지만, 러시아와 우크라이나 간 긴장감을 잠시 고조시키는 데 일조했다는 평가가 이어진다.
2022년 암호화폐 사기꾼이 일론 머스크의 얼굴을 구현해 비트벡스(BitVex)라는 가짜 암호화폐 플랫폼으로 피해자들을 유인했다. 여기에 속아 코인을 구매한 사람 전부 피해를 보았다. 공격자는 유튜브 등에 올라온 일론 머스크 정식 인터뷰 영상을 딥페이크 기술로 편집했다고 밝혔다. 허위 영상 속 일론 머스크는 “비트벡스에 5천만 달러를 투자했으며 최소 30%의 이익을 거둘 수 있을 것으로 보인다”고 말했다.
한편, 2021년 방송통신심의위원회는 K-팝 아이돌 가수 얼굴을 딥페이크 기술을 악용해 음란한 영상으로 제작·유포된 614건 영상에 대한 접속을 차단했다. 같은 해 네덜란드 사이버 보안 회사인 딥 트레이스에 따르면, 딥페이크 위주의 포르노 사이트에서 유통되는 영상의 25%가 K-팝 여성 아이돌이었다.
일반인도 딥페이크로 인한 피해를 볼 수 있다. 2022년 제주경찰청에서 딥페이크 영상을 제작해 판매한 혐의로 30대 남성 A씨가 구속, 검찰에 송치됐다. A씨는 약 3년간 딥페이크 기술을 이용해 불법으로 내려받은 음란물에 연예인 또는 아동·청소년 얼굴 사진 합성 영상물 3,000여 개를 제작했다. 이를 텔레그램 채팅방에서 모집한 회원에게 1인당 월 30달러씩에 판매한 혐의를 받았다.
이뿐만 아니라, 거짓된 영상을 기반으로 가짜뉴스가 만들어지는 문제도 발생한다.
△피해는 이렇게 막을 수 있다
허위 영상물은 제작하지도, 보지도 말아야 한다. 시청 또한 2차 가해에 가담하는 것이기 때문이다. 딥페이크를 이용한 성적 허위 영상물 제작 및 배포의 경우 ‘성폭력범죄의 처벌 등에 관한 특례법’에 따라 처벌받는다. 영상물 등 대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자는 5년 이하의 징역 또는 5천 만원 이하의 벌금에 처하도록 명시되어 있다. 특히, 영리 목적으로 정보통신망을 이용한 경우에는 7년 이하의 징역을 받는다.
만일, 딥페이크 피해를 봤다면 형사 고소 및 수사를 요구하는 것이 좋다. 증거를 수집해 해당 사이트 및 정보를 모아 경찰서에 접수해 범죄자를 잡도록 해야 한다. 이미 유포돼 인터넷에 떠돌아다니는 악성 영상은 복사가 쉬운 디지털 자료라 완전히 없애기에는 어려움이 따른다. 그러나 잊힐 권리를 보장하기 위한 새로운 직업 중 하나인 ‘디지털 장의사’에게 상담&삭제를 요청할 수 있다. 디지털 장의사는 허위 동영상에 대해 불법 사이트를 비롯한 플랫폼 사이트에 삭제를 대신 요청하고 지원해 주는 서비스를 말한다.
사설 업체 외에도 ‘한국여성인권진흥원의 디지털 성범죄 피해자 지원센터’의 도움을 받을 수 있다. 피해에 대한 감성적인 지원 및 이후 절차에 대한 상담을 지원한다.
[도움=삐뽀삐뽀 보안 119]
[박은주 기자(boan5@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박은주기자 기사보기
[2024-05-02] 
