.jpg)
딥페이크 탐지 챌린지, 생각대로 진행되면 올해 12월에 런칭될 듯
딥페이크 음성 및 영상을 가장 빨리, 효과적으로 탐지하는 기술에 상금 수여
[보안뉴스 문가용 기자] 페이스북, 마이크로소프트, 여러 대학 기관들이 힘을 합해 한 대회를 후원하기로 했다. 딥페이크 기반 공격을 방어하기 위한 방어 수단 마련을 목적으로 열리는 대회다. 코넬공과대학, MIT, 옥스퍼드대학, UC버클리대학, 메릴랜드대학, 파크컬리지, 올버니대학은 두 업체와 뜻을 모았다.
후원을 받게 된 대회는 DFDC다. 딥페이크 탐지 챌린지(Deepfake Detection Challenge)의 준말이다. 페이스북의 CTO인 마이크 슈로퍼(Mike Schroepfer)에 의하면 “산업 내에서 딥페이크에 대한 방어책 개발 활동을 활발하게 펼칠 수 있도록 장을 마련한 것”이라고 한다.
딥페이크는 인공지능을 활용해 실제 사람의 영상이나 음성 자료를 변경 혹은 생성하는 기술을 말한다. 진짜와 거의 똑같기 때문에 악용될 가능성이 높다. 실제 지난 주에는 딥페이크로 생성된 음성을 활용한 사기 범죄가 발생하기도 했다. 한 기업이 가짜 음성에 속아 23만 달러를 범인의 계좌로 송금했다.
슈로퍼는 “딥페이크 방어 기술에 대한 연구와 개발 활동을 촉진시키고자 이 대회를 후원하기로 했다”고 밝혔다. 이 대회의 감독은 ‘인공지능 파트너십(Partnership on AI)’ 내 ‘인공지능과 미디어 무결성 운영 위원회(Steering Committee on AI and Media Integrity)’가 맡는다. 이 위원회에는 페이스북, 마이크로소프트 등의 기술 업체들이 멤버로 포함되어 있다.
딥페이크 음성이나 영상을 탐지해낸다는 건 소셜 미디어와 각종 미디어 업체들에 필수적인 소양이 될 수 있다. 진짜와 똑같은 음성과 모습을 가진 사람이 나타난 콘텐츠를 동원한 가짜뉴스와 허위 정보는, 파급력이 엄청날 것이기 때문이다. 그렇기 때문에 페이스북, 마이크로소프트, 구글, 트위터 등이 인공지능과 딥페이크 기술에 관심을 갖는 것이다.
MIT 대학의 전자공학 및 컴퓨터 과학 교수인 안토니오 토랄바(Antonio Torralba)는 “사진의 역사만큼 이미지 조작의 역사도 긴 건 사실이지만, 딥페이크는 차원이 다르다”고 표현한다. “영상이 조작된 것과 사진이 조작된 것의 효과가 다를 뿐더러, 최근 앱과 소셜 미디어의 발전으로 (가짜 영상의) 생산과 보급도 예전보다 쉬워졌기 때문입니다.”
코랄바 교수는 “딥페이크를 만드는 것도 인공지능이고, 탐지하는 것도 인공지능일 것”이라고 말한다. “DFDC 대회의 목적은 딥페이크를 빨리 탐지할 수 있게 해주는 기술을 개발하는 것입니다. 딥페이크 기술이 아무리 매끄러워도 진짜 영상과는 다른 부분이 있고, 그 부분을 제일 빨리 파악해내는 방법이 필요합니다.”
페이스북은 이 대회에 1천만 달러를 후원하기로 결정했다. 또한 최근 프라이버시와 사용자 데이터와 관련된 구설수에 휘말린 만큼 이번 대회에 페이스북 플랫폼에서 나온 데이터는 일절 제공하지 않는다. “대신 유료로 실질적인 데이터를 취득할 있도록 후원할 예정입니다.”
DFDC의 후원자들은 오늘 10월 열릴 국제컴퓨터비전컨퍼런스(International Conference on Computer Vision, ICCV)에서 만나 DFDC 대회에 사용될 데이터와 경연 방식에 대해 세부적으로 논의할 예정이다. 여기서 최종안이 결정되면, 12월에 열릴 신경정보처리시스템컨퍼런스(Conference on Neural Information Processing Systems, NeruIPS)에서 DFDC를 공식적으로 발표할 것이다.
3줄 요약
1. 딥페이크 사기 사건, 지난 주에 실제로 발생.
2. 딥페이크로 인해 가장 피해가 클 것으로 예상되는 건 소셜 미디어와 매체들.
3. 대회 이름은 DFDC로 계획대로라면 12월부터 시작될 듯.
[국제부 문가용 기자(globoan@boannews.com)]
딥페이크 음성 및 영상을 가장 빨리, 효과적으로 탐지하는 기술에 상금 수여
[보안뉴스 문가용 기자] 페이스북, 마이크로소프트, 여러 대학 기관들이 힘을 합해 한 대회를 후원하기로 했다. 딥페이크 기반 공격을 방어하기 위한 방어 수단 마련을 목적으로 열리는 대회다. 코넬공과대학, MIT, 옥스퍼드대학, UC버클리대학, 메릴랜드대학, 파크컬리지, 올버니대학은 두 업체와 뜻을 모았다.
[이미지 = iclickart]
후원을 받게 된 대회는 DFDC다. 딥페이크 탐지 챌린지(Deepfake Detection Challenge)의 준말이다. 페이스북의 CTO인 마이크 슈로퍼(Mike Schroepfer)에 의하면 “산업 내에서 딥페이크에 대한 방어책 개발 활동을 활발하게 펼칠 수 있도록 장을 마련한 것”이라고 한다.
딥페이크는 인공지능을 활용해 실제 사람의 영상이나 음성 자료를 변경 혹은 생성하는 기술을 말한다. 진짜와 거의 똑같기 때문에 악용될 가능성이 높다. 실제 지난 주에는 딥페이크로 생성된 음성을 활용한 사기 범죄가 발생하기도 했다. 한 기업이 가짜 음성에 속아 23만 달러를 범인의 계좌로 송금했다.
슈로퍼는 “딥페이크 방어 기술에 대한 연구와 개발 활동을 촉진시키고자 이 대회를 후원하기로 했다”고 밝혔다. 이 대회의 감독은 ‘인공지능 파트너십(Partnership on AI)’ 내 ‘인공지능과 미디어 무결성 운영 위원회(Steering Committee on AI and Media Integrity)’가 맡는다. 이 위원회에는 페이스북, 마이크로소프트 등의 기술 업체들이 멤버로 포함되어 있다.
딥페이크 음성이나 영상을 탐지해낸다는 건 소셜 미디어와 각종 미디어 업체들에 필수적인 소양이 될 수 있다. 진짜와 똑같은 음성과 모습을 가진 사람이 나타난 콘텐츠를 동원한 가짜뉴스와 허위 정보는, 파급력이 엄청날 것이기 때문이다. 그렇기 때문에 페이스북, 마이크로소프트, 구글, 트위터 등이 인공지능과 딥페이크 기술에 관심을 갖는 것이다.
MIT 대학의 전자공학 및 컴퓨터 과학 교수인 안토니오 토랄바(Antonio Torralba)는 “사진의 역사만큼 이미지 조작의 역사도 긴 건 사실이지만, 딥페이크는 차원이 다르다”고 표현한다. “영상이 조작된 것과 사진이 조작된 것의 효과가 다를 뿐더러, 최근 앱과 소셜 미디어의 발전으로 (가짜 영상의) 생산과 보급도 예전보다 쉬워졌기 때문입니다.”
코랄바 교수는 “딥페이크를 만드는 것도 인공지능이고, 탐지하는 것도 인공지능일 것”이라고 말한다. “DFDC 대회의 목적은 딥페이크를 빨리 탐지할 수 있게 해주는 기술을 개발하는 것입니다. 딥페이크 기술이 아무리 매끄러워도 진짜 영상과는 다른 부분이 있고, 그 부분을 제일 빨리 파악해내는 방법이 필요합니다.”
페이스북은 이 대회에 1천만 달러를 후원하기로 결정했다. 또한 최근 프라이버시와 사용자 데이터와 관련된 구설수에 휘말린 만큼 이번 대회에 페이스북 플랫폼에서 나온 데이터는 일절 제공하지 않는다. “대신 유료로 실질적인 데이터를 취득할 있도록 후원할 예정입니다.”
DFDC의 후원자들은 오늘 10월 열릴 국제컴퓨터비전컨퍼런스(International Conference on Computer Vision, ICCV)에서 만나 DFDC 대회에 사용될 데이터와 경연 방식에 대해 세부적으로 논의할 예정이다. 여기서 최종안이 결정되면, 12월에 열릴 신경정보처리시스템컨퍼런스(Conference on Neural Information Processing Systems, NeruIPS)에서 DFDC를 공식적으로 발표할 것이다.
3줄 요약
1. 딥페이크 사기 사건, 지난 주에 실제로 발생.
2. 딥페이크로 인해 가장 피해가 클 것으로 예상되는 건 소셜 미디어와 매체들.
3. 대회 이름은 DFDC로 계획대로라면 12월부터 시작될 듯.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-18] 
.jpg)
.jpg)
