인공지능 기술 발달로 영상과 음성까지 재현한 콘텐츠 등장
비대면 사회 가속화할수록 딥페이크 통한 범죄도 늘어날 전망
[보안뉴스 이상우 기자] 지난 2020년 12월 9일 방송된 Mnet 음악 프로그램, ‘다시 한번’에서는 힙합 그룹 거북이의 멤버였던 고 임성훈 씨(터틀맨)가 등장해 금비, 지이 등 다른 멤버와 함께 12년 만에 ‘완전체’로 공연하는 모습을 방송했다. 거북이 멤버 지이는 “무대를 보니 어쩌면 이렇게 똑같은지 깜짝 놀랐다”는 소감을 밝혔으며, 형 임준환 씨는 “동생의 생전 모습을 보는 것 같아서 나도 모르게 무대에 뛰어 오를 뻔 했다”며 감상평을 전했다. 대중이 그리워하는 아티스트의 생전 모습과 목소리를 재현한다는 방송 취지를 잘 살렸다는 평가다.
해당 방송에 가상 콘텐츠를 제공한 CJ올리브네트웍스는 인공지능 기반 기술로 터틀맨의 모습과 목소리를 구현했다. 과거 사진과 동영상 등 자료를 바탕으로 인공지능을 학습시킨 뒤 최적의 얼굴 데이터를 추출하고, 이를 합성해 자연스럽고 생동감 있는 표정을 만들어낼 수 있었다. 여기에 쓰인 기술은 생성적 적대 신경망(GANs, Generative Adversarial Networks)으로, ‘딥페이크’에서도 주로 사용하는 기술이다.
터틀맨을 과거 모습 그대로 등장시키는데 사용한 ‘생성적 적대 신경망’은 인공지능 학습법 중 하나다. 복수의 인공지능을 활용해 그래픽을 생성하는 그룹과 검증하는 그룹으로 나누고, 결과물 평가와 미비점 보완 및 재생성을 무수히 반복한다. 이 과정에서 어색한 결과물은 점점 더 실물에 가까워진다.
CJ올리브네트웍스 손종수 DT융합연구소장은 “인공지능 기술은 산업 발전 뿐만 아니라 누군가의 기억 속에 있는 사람들과 새로운 방식으로 추억을 만들 수 있는 휴머니즘도 있다”며 “Mnet과의 협업을 시작으로 페이스 에디팅 기술을 다양한 분야에 적용할 수 있도록 확대 방안 등을 논의할 계획”이라고 밝혔다.
이처럼 딥페이크는 올바르게 활용할 경우 엔터테인먼트 분야에서 무한한 가능성을 이끌어낼 수 있는 기술이다. Mnet ‘다시 한번’은 이후에도, ‘내사랑 내곁에’로 잘 알려진 가수 김현식 등 세상을 일찍 떠난 예술가들의 공연 모습을 계속해서 선보일 계획이다. 하지만 이같이 컴퓨터 그래픽으로 특정 인물을 완벽하게 생성하고, 음성까지 합성해 제작한 콘텐츠는 비대면 사회에서 악용될 가능성도 크며, 인공지능이 발달할수록 이같은 위협은 더욱 커진다.
딥페이크란 심층학습(Deep learning)과 가짜(Fake)의 합성어로, 인공지능을 통해 기존 영상물에 다른 이미지를 자연스럽게 덧입히거나 아예 새롭게 생성하는 기술이다. 과거에는 이러한 작업을 위해 영상 프레임 하나마다 다른 사진을 짜깁기해 붙이는 방식을 썼기 때문에 자연스러운 ‘가짜’ 콘텐츠를 만들기 위해서는 엄청난 시간과 노력이 필요했다. 하지만 인공지능 기술이 발전하면서 이런 기존 영상에 정교하게 다른 인물을 자동으로 입히는 것은 물론, 빈 공간에 인물 모습을 생성하는 것까지 가능하게 됐다. 여기에 인공지능 기반 음성 합성기술까지 접목하면 실제와 구별하기 어려운 ‘컴퓨터 그래픽’이 마치 본인처럼 움직이고 말할 수 있다.
현재 딥페이크가 널리 쓰이는 분야는 음란물로, 포르노 배우가 출연한 작품에 인기스타나 일반인 얼굴을 합성해 유포하는 사례가 많으며, 특히 국내 가수나 배우 역시 K팝 인기 상승과 더불어 피해자가 되고 있는 상황이다.
딥페이크를 탐지하는 기술 역시 인공지능을 통해 개발되고 있다. 마이크로소프트는 ‘동영상 인증기’라는 이름의 딥페이크 탐지기술을 공개했다. 영상에서 빛의 양이 변하는 모습이나 미묘한 화상 겹침 등 사람 눈으로 확인하기 어려운 부분을 인공지능으로 탐지 및 분석하고, 영상의 신뢰도를 보여주는 기술이다. 국내에서도 KAIST를 중심으로 인공지능을 통해 사진 변형 여부를 탐지하는 ‘카이캐치’를 개발했다.
비대면 사회가 가속화할수록 이러한 딥페이크의 위협은 더 커질 것으로 보인다. 넓은 의미에서 딥페이크는 영상뿐만 아니라 음성 등의 생체정보 등에도 해당될 수 있다. 특히, 인공지능 기술 발전은 구분하기 어려운 정교한 영상과 음성을 합성해낼 수 있도록 해준다. 이 때문에 화상회의 등 비대면 시대에서 악의적인 목적으로 제작한 딥페이크 영상은 가짜뉴스 전파는 물론, 회의 침투 등 다양한 공격 형태로 쓰일 수 있어 이에 대한 대비가 필요하다. 또한, 이를 악용하는 사례에 대해서도 더욱 폭넓게 대응·처리할 수 있도록 제도적 준비가 요구된다.
[이상우 기자(boan@boannews.com)]
비대면 사회 가속화할수록 딥페이크 통한 범죄도 늘어날 전망
[보안뉴스 이상우 기자] 지난 2020년 12월 9일 방송된 Mnet 음악 프로그램, ‘다시 한번’에서는 힙합 그룹 거북이의 멤버였던 고 임성훈 씨(터틀맨)가 등장해 금비, 지이 등 다른 멤버와 함께 12년 만에 ‘완전체’로 공연하는 모습을 방송했다. 거북이 멤버 지이는 “무대를 보니 어쩌면 이렇게 똑같은지 깜짝 놀랐다”는 소감을 밝혔으며, 형 임준환 씨는 “동생의 생전 모습을 보는 것 같아서 나도 모르게 무대에 뛰어 오를 뻔 했다”며 감상평을 전했다. 대중이 그리워하는 아티스트의 생전 모습과 목소리를 재현한다는 방송 취지를 잘 살렸다는 평가다.
[이미지=utoimage]
해당 방송에 가상 콘텐츠를 제공한 CJ올리브네트웍스는 인공지능 기반 기술로 터틀맨의 모습과 목소리를 구현했다. 과거 사진과 동영상 등 자료를 바탕으로 인공지능을 학습시킨 뒤 최적의 얼굴 데이터를 추출하고, 이를 합성해 자연스럽고 생동감 있는 표정을 만들어낼 수 있었다. 여기에 쓰인 기술은 생성적 적대 신경망(GANs, Generative Adversarial Networks)으로, ‘딥페이크’에서도 주로 사용하는 기술이다.
터틀맨을 과거 모습 그대로 등장시키는데 사용한 ‘생성적 적대 신경망’은 인공지능 학습법 중 하나다. 복수의 인공지능을 활용해 그래픽을 생성하는 그룹과 검증하는 그룹으로 나누고, 결과물 평가와 미비점 보완 및 재생성을 무수히 반복한다. 이 과정에서 어색한 결과물은 점점 더 실물에 가까워진다.
CJ올리브네트웍스 손종수 DT융합연구소장은 “인공지능 기술은 산업 발전 뿐만 아니라 누군가의 기억 속에 있는 사람들과 새로운 방식으로 추억을 만들 수 있는 휴머니즘도 있다”며 “Mnet과의 협업을 시작으로 페이스 에디팅 기술을 다양한 분야에 적용할 수 있도록 확대 방안 등을 논의할 계획”이라고 밝혔다.
이처럼 딥페이크는 올바르게 활용할 경우 엔터테인먼트 분야에서 무한한 가능성을 이끌어낼 수 있는 기술이다. Mnet ‘다시 한번’은 이후에도, ‘내사랑 내곁에’로 잘 알려진 가수 김현식 등 세상을 일찍 떠난 예술가들의 공연 모습을 계속해서 선보일 계획이다. 하지만 이같이 컴퓨터 그래픽으로 특정 인물을 완벽하게 생성하고, 음성까지 합성해 제작한 콘텐츠는 비대면 사회에서 악용될 가능성도 크며, 인공지능이 발달할수록 이같은 위협은 더욱 커진다.
딥페이크란 심층학습(Deep learning)과 가짜(Fake)의 합성어로, 인공지능을 통해 기존 영상물에 다른 이미지를 자연스럽게 덧입히거나 아예 새롭게 생성하는 기술이다. 과거에는 이러한 작업을 위해 영상 프레임 하나마다 다른 사진을 짜깁기해 붙이는 방식을 썼기 때문에 자연스러운 ‘가짜’ 콘텐츠를 만들기 위해서는 엄청난 시간과 노력이 필요했다. 하지만 인공지능 기술이 발전하면서 이런 기존 영상에 정교하게 다른 인물을 자동으로 입히는 것은 물론, 빈 공간에 인물 모습을 생성하는 것까지 가능하게 됐다. 여기에 인공지능 기반 음성 합성기술까지 접목하면 실제와 구별하기 어려운 ‘컴퓨터 그래픽’이 마치 본인처럼 움직이고 말할 수 있다.
현재 딥페이크가 널리 쓰이는 분야는 음란물로, 포르노 배우가 출연한 작품에 인기스타나 일반인 얼굴을 합성해 유포하는 사례가 많으며, 특히 국내 가수나 배우 역시 K팝 인기 상승과 더불어 피해자가 되고 있는 상황이다.
딥페이크를 탐지하는 기술 역시 인공지능을 통해 개발되고 있다. 마이크로소프트는 ‘동영상 인증기’라는 이름의 딥페이크 탐지기술을 공개했다. 영상에서 빛의 양이 변하는 모습이나 미묘한 화상 겹침 등 사람 눈으로 확인하기 어려운 부분을 인공지능으로 탐지 및 분석하고, 영상의 신뢰도를 보여주는 기술이다. 국내에서도 KAIST를 중심으로 인공지능을 통해 사진 변형 여부를 탐지하는 ‘카이캐치’를 개발했다.
비대면 사회가 가속화할수록 이러한 딥페이크의 위협은 더 커질 것으로 보인다. 넓은 의미에서 딥페이크는 영상뿐만 아니라 음성 등의 생체정보 등에도 해당될 수 있다. 특히, 인공지능 기술 발전은 구분하기 어려운 정교한 영상과 음성을 합성해낼 수 있도록 해준다. 이 때문에 화상회의 등 비대면 시대에서 악의적인 목적으로 제작한 딥페이크 영상은 가짜뉴스 전파는 물론, 회의 침투 등 다양한 공격 형태로 쓰일 수 있어 이에 대한 대비가 필요하다. 또한, 이를 악용하는 사례에 대해서도 더욱 폭넓게 대응·처리할 수 있도록 제도적 준비가 요구된다.
[이상우 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이상우기자 기사보기
[2024-04-18] 
.jpg)
.jpg)
.jpg)
