사적 집단 교차 기술로 사용자 사진 해시값과 아동 성 착취물 데이터베이스와 비교
비밀 교환 기술 기반으로 아동 성 착취물일 경우에만 해쉬값 비교 진행
[보안뉴스 이상우 기자] 애플이 아동 성 착취 방지를 위해 새로운 기술과 기능을 적용할 계획이라고 밝혔다. 향후 애플은 자사 운영체제에서 크게 세 가지 형태의 보호 기능을 제공한다. 우선 문자 메시지 앱은 기계학습을 통해 민감한 콘텐츠가 전송될 경우 이를 읽을 수 없도록 처리한다. 다음으로 아이클라우드 사진첩에 전송되는 아동 성 착취물을 탐지해 차단하는 등 유포를 예방하고 관련 정보를 사법당국에 제공하며, 마지막으로 시리 기능 및 검색엔진을 업데이트해 민감한 콘텐츠나 아동 성 착취물을 검색할 경우 이에 대해 알리는 기능을 추가한다. 이러한 기능은 올해 말 iOS·iPadOS 15, watchOS 8, macOS 몬테레이 등 운영체제 버전부터 적용될 예정이다.
아이클라우드 사진에 대한 검토, 개인 사진에 대한 사찰 우려 있을까?
이번 발표에서 핵심이 되는 기능은 아동 성 착취물 업로드 탐지다. 애플 모바일 기기 운영체제에 새로운 기술을 적용해 아이클라우드 사진첩에 아동과 관련한 성적 묘사를 담은 콘텐츠가 저장되는지 탐지하며, 이러한 사례를 국립실종학대아동방지센터(NCMEC)에 즉시 보고한다. NCMEC는 미국의 대표적인 아동 성범죄 신고센터로, 미국 전역의 법 집행 기관과 협력해 이러한 사건을 해결하고 있다.
사실 이같은 콘텐츠 탐지 기능은 애플이 사용자의 사진 등 클라우드에 올리는 자료를 직접 확인할 수 있다는 인식을 줄 수 있다. 쉽게 말해 개인정보에 대한 무단접근 가능성이다. 애플 역시 이러한 우려 때문인지 이 기능을 소개하면서 사용자 개인정보보호를 염두에 뒀다고 설명했다. 애플은 클라우드에 올리는 사진이 아동 성 착취물인지 아닌지 여부를 판단하기 위해 사진을 직접 보는 것이 아닌, 암호화된 두 데이터를 비교한다고 설명했다.
사용자가 올리는 콘텐츠를 ‘뉴럴해시(NeuralHash)’라는 기술을 통해 해시화하고, NCMEC 등 기존에 알려진 성 착취물 역시 해시화한 이후 두 값을 비교하는 방식이다. 실제 사진이 아닌, 원본 내용을 알 수 없는 해시값만을 비교하기 때문에 정보가 일치하는지 여부만 확인할 수 있다는 것. 특히, 애플은 암호화 기술인 ‘사적 집단 교차(PSI, Private Set Intersection)’와 ‘임계 비밀 공유(Threshold Secret Sharing)’를 통해 아동 성 착취물의 임계값을 초과하지 않는 콘텐츠에 대해서는 내용을 비교하지 않는다는 설명이다.
반면, 임계값을 초과하는 경우에만 암호화 기술을 통해 해시값을 비교하고, 이후 수동으로 각 보고서를 검토해 확인한 뒤 사용자 계정에 대한 비활성화 조치 및 해당 보고서를 NCMEC로 전송한다. 또한, 사용자가 자신의 계정이 실수로 신고됐다고 판단되면 계정을 복원하기 위해 항소를 제기할 수 있다고 설명했다.
사실 오늘날 아동 성 착취물 소지 및 유포자를 찾아내는데도 이와 유사한 방식을 사용하고 있다. 가령, 강력한 암호화로 유명한 클라우드 저장소 서비스 MEGA의 경우 기본적으로 업로드되는 모든 파일에 암호화를 적용해 외부의 접근을 차단한다. 하지만, 아동 성 착취물에 대해서는 예외다. 업로드 시 파일의 해시값을 측정하고 해당 정보가 COPS(Child Online Protective Services) 데이터베이스에 등록돼 있는지 비교해 부적절한 콘텐츠인지 파악한다.
아동 성 착취 예방 위한 기능들
새 기능을 탑재한 메시지 앱은 성적으로 노골적인 사진을 받거나 보낼 때 어린이와 부모에게 경고한다. 부적절한 콘텐츠를 받으면 사진이 흐리게 보이고, 어린이에게는 위험 경고를, 부모에게는 이러한 유형의 콘텐츠에 대응할 수 있는 정보를 안내한다. 또한, 경고창을 통해 해당 메시지를 완전히 보이지 않도록 처리할 수도 있다.
반대로 어린이가 메시지 앱을 통해 유해한 콘텐츠를 보낼 경우에도 이와 같은 기능이 작동한다. 이러한 기능은 그루밍 성폭력으로 인해 아이가 스스로 촬영한 사진 등의 콘텐츠를 전송하지 않도록 예방한다. 유해한 콘텐츠를 전송하기 전 어린이에게는 경고 메시지를 보내며, 자녀가 사진을 보내겠다고 선택할 경우 부모는 이와 관련한 메시지를 받을 수 있다.
애플은 또한 시리 기능 및 검색엔진을 업데이트해 온라인에서 부적절한 콘텐츠를 발견했을 경우 이를 신고하는 등 대응 방법을 알려준다. 뿐만 아니라 사용자가 아동 성 착취물을 검색할 경우 시리 및 검색엔진이 직접적으로 개입한다. 이를 통해 사용자가 해당 주제에 대해 관심을 가지는 것이 문제가 있음을 알리고, 해당 문제에 대해 외부로부터 도움을 받을 수 있는 방법을 안내한다.
애플의 이번 발표는 날로 심각해져가는 아동 성 착취 범죄를 예방하기 위한 방안이며, 이 과정에서 발생할 수 있는 개인정보 침해 문제에 대해서도 기술적인 해결책을 내놓은 모습이다. 다만, 사용자 입장에서 이러한 기술이 제대로 작동하고 있는지, 자신도 모르는 백도어를 통해 사찰당하는 것은 아닌지 우려할 수도 있다. 이에 이러한 기술 도입과 함께 투명성 보고서 등을 바탕으로 사용자의 우려를 줄여나가야 할 것으로 보인다.
[이상우 기자(boan@boannews.com)]
비밀 교환 기술 기반으로 아동 성 착취물일 경우에만 해쉬값 비교 진행
[보안뉴스 이상우 기자] 애플이 아동 성 착취 방지를 위해 새로운 기술과 기능을 적용할 계획이라고 밝혔다. 향후 애플은 자사 운영체제에서 크게 세 가지 형태의 보호 기능을 제공한다. 우선 문자 메시지 앱은 기계학습을 통해 민감한 콘텐츠가 전송될 경우 이를 읽을 수 없도록 처리한다. 다음으로 아이클라우드 사진첩에 전송되는 아동 성 착취물을 탐지해 차단하는 등 유포를 예방하고 관련 정보를 사법당국에 제공하며, 마지막으로 시리 기능 및 검색엔진을 업데이트해 민감한 콘텐츠나 아동 성 착취물을 검색할 경우 이에 대해 알리는 기능을 추가한다. 이러한 기능은 올해 말 iOS·iPadOS 15, watchOS 8, macOS 몬테레이 등 운영체제 버전부터 적용될 예정이다.
[이미지=애플]
아이클라우드 사진에 대한 검토, 개인 사진에 대한 사찰 우려 있을까?
이번 발표에서 핵심이 되는 기능은 아동 성 착취물 업로드 탐지다. 애플 모바일 기기 운영체제에 새로운 기술을 적용해 아이클라우드 사진첩에 아동과 관련한 성적 묘사를 담은 콘텐츠가 저장되는지 탐지하며, 이러한 사례를 국립실종학대아동방지센터(NCMEC)에 즉시 보고한다. NCMEC는 미국의 대표적인 아동 성범죄 신고센터로, 미국 전역의 법 집행 기관과 협력해 이러한 사건을 해결하고 있다.
사실 이같은 콘텐츠 탐지 기능은 애플이 사용자의 사진 등 클라우드에 올리는 자료를 직접 확인할 수 있다는 인식을 줄 수 있다. 쉽게 말해 개인정보에 대한 무단접근 가능성이다. 애플 역시 이러한 우려 때문인지 이 기능을 소개하면서 사용자 개인정보보호를 염두에 뒀다고 설명했다. 애플은 클라우드에 올리는 사진이 아동 성 착취물인지 아닌지 여부를 판단하기 위해 사진을 직접 보는 것이 아닌, 암호화된 두 데이터를 비교한다고 설명했다.
사용자가 올리는 콘텐츠를 ‘뉴럴해시(NeuralHash)’라는 기술을 통해 해시화하고, NCMEC 등 기존에 알려진 성 착취물 역시 해시화한 이후 두 값을 비교하는 방식이다. 실제 사진이 아닌, 원본 내용을 알 수 없는 해시값만을 비교하기 때문에 정보가 일치하는지 여부만 확인할 수 있다는 것. 특히, 애플은 암호화 기술인 ‘사적 집단 교차(PSI, Private Set Intersection)’와 ‘임계 비밀 공유(Threshold Secret Sharing)’를 통해 아동 성 착취물의 임계값을 초과하지 않는 콘텐츠에 대해서는 내용을 비교하지 않는다는 설명이다.
[이미지=애플]
반면, 임계값을 초과하는 경우에만 암호화 기술을 통해 해시값을 비교하고, 이후 수동으로 각 보고서를 검토해 확인한 뒤 사용자 계정에 대한 비활성화 조치 및 해당 보고서를 NCMEC로 전송한다. 또한, 사용자가 자신의 계정이 실수로 신고됐다고 판단되면 계정을 복원하기 위해 항소를 제기할 수 있다고 설명했다.
사실 오늘날 아동 성 착취물 소지 및 유포자를 찾아내는데도 이와 유사한 방식을 사용하고 있다. 가령, 강력한 암호화로 유명한 클라우드 저장소 서비스 MEGA의 경우 기본적으로 업로드되는 모든 파일에 암호화를 적용해 외부의 접근을 차단한다. 하지만, 아동 성 착취물에 대해서는 예외다. 업로드 시 파일의 해시값을 측정하고 해당 정보가 COPS(Child Online Protective Services) 데이터베이스에 등록돼 있는지 비교해 부적절한 콘텐츠인지 파악한다.
아동 성 착취 예방 위한 기능들
새 기능을 탑재한 메시지 앱은 성적으로 노골적인 사진을 받거나 보낼 때 어린이와 부모에게 경고한다. 부적절한 콘텐츠를 받으면 사진이 흐리게 보이고, 어린이에게는 위험 경고를, 부모에게는 이러한 유형의 콘텐츠에 대응할 수 있는 정보를 안내한다. 또한, 경고창을 통해 해당 메시지를 완전히 보이지 않도록 처리할 수도 있다.
반대로 어린이가 메시지 앱을 통해 유해한 콘텐츠를 보낼 경우에도 이와 같은 기능이 작동한다. 이러한 기능은 그루밍 성폭력으로 인해 아이가 스스로 촬영한 사진 등의 콘텐츠를 전송하지 않도록 예방한다. 유해한 콘텐츠를 전송하기 전 어린이에게는 경고 메시지를 보내며, 자녀가 사진을 보내겠다고 선택할 경우 부모는 이와 관련한 메시지를 받을 수 있다.
애플은 또한 시리 기능 및 검색엔진을 업데이트해 온라인에서 부적절한 콘텐츠를 발견했을 경우 이를 신고하는 등 대응 방법을 알려준다. 뿐만 아니라 사용자가 아동 성 착취물을 검색할 경우 시리 및 검색엔진이 직접적으로 개입한다. 이를 통해 사용자가 해당 주제에 대해 관심을 가지는 것이 문제가 있음을 알리고, 해당 문제에 대해 외부로부터 도움을 받을 수 있는 방법을 안내한다.
애플의 이번 발표는 날로 심각해져가는 아동 성 착취 범죄를 예방하기 위한 방안이며, 이 과정에서 발생할 수 있는 개인정보 침해 문제에 대해서도 기술적인 해결책을 내놓은 모습이다. 다만, 사용자 입장에서 이러한 기술이 제대로 작동하고 있는지, 자신도 모르는 백도어를 통해 사찰당하는 것은 아닌지 우려할 수도 있다. 이에 이러한 기술 도입과 함께 투명성 보고서 등을 바탕으로 사용자의 우려를 줄여나가야 할 것으로 보인다.
[이상우 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이상우기자 기사보기
[2024-04-29] 
