브랜드를 사칭하는 사기 공격술은 이전부터 자주 사용되어 왔던 것이다. 요즘은 점점 정교해지고 있어 맨눈으로는 진짜와 가짜를 구분하기가 힘들다. 그래서 인공지능을 응용하려는 시도들이 있는데, 훈련 데이터가 충분치 않아 그 마저도 여의치 않다. 한 연구 단체가 ‘샴쌍둥이’라는 신경망을 활용했다.
[보안뉴스 문가용 기자] 보안 전문가들이 ‘브랜드 사칭’을 빠르게 파악할 수 있는 새로운 방법을 발견해 냈다. ‘샴쌍둥이 신경망(Siamese Neural Networks)’이라는 기술을 활용하는 방법으로, 보다 적은 양의 데이터만을 가지고 예측하는 것이 가능하다고 한다.
‘브랜드 사칭(brand impersonation)’ 공격이란, 사이버 범죄자들이 특정 브랜드의 온라인 콘텐츠를 고스란히 따와서 해당 브랜드인 척 가장해 피해자들을 속이는 전략을 말한다. 피해자들은 자신이 찾는 브랜드인줄 알고 결제를 하거나 로그인을 함으로써 공격자들에게 민감한 정보를 제 손으로 넘기게 된다. 마이크로소프트의 보안 전문가인 저스틴 그라나(Justin Grana)는 “공격자들의 기술과 전략이 점점 발전해 탐지가 어려워지고 있는 실정”이라고 덧붙인다.
“브랜드 사칭 공격은 점점 정교해지고 있어서 이제는 눈으로는 진짜와 가짜가 구분하기 힘들 정도입니다. 둘 다 합법적이며 정상적으로 보입니다. 허술하게 복사해 붙여 넣느라 구성이 조금씩 달라지거나, 로고 해상도가 떨어져 어설프게 보이는 식의 사칭 공격은 거의 찾기 힘듭니다. 전문가들조차 눈으로 다른 점을 찾기가 어렵습니다.” 그라나의 설명이다.
그렇다는 건 보안이 제 역할을 하기 시작해야 한다는 뜻이다. “기존 기술과 기존 인식으로는 브랜드 사칭 공격을 잡아내기 어렵다는 건 별도의 기술이나 방법이 나와야 한다는 소리입니다. ‘딱 봐도 가짜’라는 장담을 하기가 점점 힘들어지고 있습니다.”
영상 인식 기술을 사용해 사칭된 브랜드를 파악할 수 있지만 여기에는 한계가 있다. 왜냐하면 인공지능이 학습할 데이터를 충분히 제공할 수 있는 브랜드가 많지 않기 때문이다. “유명 브랜드는 대단히 많은 사칭 사례를 가지고 있습니다. 하지만 사람들이 잘 모르는 브랜드들도 있죠. 사칭 공격에 한두 번 정도 활용된 브랜드들 말이죠. 그런 경우 영상 인식 알고리즘을 훈련시킬 수 없습니다.”
그래서 그라나는 유차오 다이(Yuchao Dai), 니틴 쿠마 고엘(Nitin Kumar Goel), 주갈 파리크(Jugal Parikh)와 같은 동료들과 함께 샴쌍둥이 신경망을 개발하고, 몇 가지 이미지들을 가지고 훈련을 시켰다. 물론 브랜드 사칭과 관련된 공격 시 사용되는 이미지들이 훈련에 사용됐다. 샴쌍둥이 신경망은 기존 인공지능 알고리즘보다 훈련에 소요되는 데이터가 적다.
이들이 훈련에 사용한 데이터는 약 5만여 개의 악성 로그인 페이지의 스크린샷들로 구성되어 있었다. 약 1천 개의 브랜드들의 이미지가 여기에 포함되어 있었다. 각 이미지는 여러 개의 숫자로 구성되어 있는데, 그라나와 동료들은 이 숫자들을 2차원 평면도 상의 ‘점’으로 전환시켰다. 그럼으로써 모든 픽셀들에 숫자들로 가득한 이미지가 단순한 숫자가 되었다. 그러면 이제 이 숫자에다 의미를 부여할 차례였다. 그러면서 가짜와 진짜를 구분해낼 수 있어야 했다.
“이미지를 숫자로 변환했을 때 같은 브랜드에서 나온 콘텐츠가 비슷한 숫자로 귀결되도록 학습을 시켰습니다. 당연하지만, 다른 브랜드에서 나온 콘텐츠라면 비슷하게 생겼어도 다른 숫자가 나오게 했고요. 그러한 방식을 통해 알고리즘이 생성해 낸 숫자에 의미를 부여할 수 있게 되었습니다. 즉 같거나 비슷한 숫자가 나오는 경우, 같은 브랜드에서 나온 콘텐츠라는 걸 알 수 있게 된 것이죠.”
이 연구 성과는 8월 4일 블랙햇(Black Hat) 세션을 통해 상세히 발표될 예정이다. 발표 관련 내용은 여기(https://www.blackhat.com/us-21/briefings/schedule/#siamese-neural-networks-for-detecting-brand-impersonation-22669)서 업데이트를 받아보는 게 가능하다.
그라나는 작업 과정이 결코 쉽지 않았다며 여러 가지를 배울 수 있는 기회였다고 말한다. “왜곡되고 편향된 데이터를 다뤄야 한다는 것이 가장 큰 어려움이었습니다. 어떤 브랜드는 한두 개의 사칭 콘텐츠만을 보유하고 있었어요. 통계적으로도 아무런 도움이 되지 않고, 그 어떤 인공지능도 훈련시킬 수 없는 양이죠. 일반 신경망으로는 유의미한 결과를 도저히 얻어낼 수 없었습니다.”
그래서 연구원들은 특수한 방법을 개발해내야만 했다고 한다. “특수한 방법을 얻어내기 위해 무수한 시행착오를 겪어야만 했습니다. 머신러닝은 과학 분야로 분류됩니다만, ‘이런 상황에서 어떤 알고리즘을 적용해야 할까?’ 혹은 ‘어떤 망 구조를 실험해 볼 것인가?’를 결정하는 건 과학이 아니라 오히려 ‘감각’에 가깝습니다. 이런 데이터가 이런 상황에서 주어졌을 때, 어떤 알고리즘이 잘 통할까? 이 질문에 대한 답을 찾아가는 방법을 지독하게 훈련한 것 같습니다.”
그러므로 연구원들의 조사와 실험은 아직도 진행 중이라고 그라나는 말한다. “저희가 특수한 방법을 찾아내긴 했습니다만, 누군가는 이 방법을 뛰어넘는 공격 기술을 가지고 등장할 지도 모릅니다. 혹은 더 나은 알고리즘 활용법이 있을 수도 있고요. 그런 점들을 지속적으로 - 역시 시행착오를 겪어 가면서 - 발굴함으로써 저희의 방법론을 강화하는 것이 지금의 할 일입니다. 블랙햇에서 발표하는 건 중간 과정 즈음이 되겠지요. 하지만 ‘궁극의 보안’이라는 건 어디에도 없는 것이니까요. 늘 공격자와 일승일패를 나누면서 나아가는 것이죠.”
3줄 요약
1. 브랜드 사칭하는 사기 공격, 갈수록 정교해지고 있음.
2. 이 때문에 인공지능을 활용한 대처법이 연구되고 있고, 일부는 올 여름 공개될 예정.
3. 하지만 보안 기술은 한 번 개발로 끝나는 게 아니라 늘 보완을 통해 강화하는 것.
[국제부 문가용 기자(globoan@boannews.com)]
[보안뉴스 문가용 기자] 보안 전문가들이 ‘브랜드 사칭’을 빠르게 파악할 수 있는 새로운 방법을 발견해 냈다. ‘샴쌍둥이 신경망(Siamese Neural Networks)’이라는 기술을 활용하는 방법으로, 보다 적은 양의 데이터만을 가지고 예측하는 것이 가능하다고 한다.
[이미지 = utoimage]
‘브랜드 사칭(brand impersonation)’ 공격이란, 사이버 범죄자들이 특정 브랜드의 온라인 콘텐츠를 고스란히 따와서 해당 브랜드인 척 가장해 피해자들을 속이는 전략을 말한다. 피해자들은 자신이 찾는 브랜드인줄 알고 결제를 하거나 로그인을 함으로써 공격자들에게 민감한 정보를 제 손으로 넘기게 된다. 마이크로소프트의 보안 전문가인 저스틴 그라나(Justin Grana)는 “공격자들의 기술과 전략이 점점 발전해 탐지가 어려워지고 있는 실정”이라고 덧붙인다.
“브랜드 사칭 공격은 점점 정교해지고 있어서 이제는 눈으로는 진짜와 가짜가 구분하기 힘들 정도입니다. 둘 다 합법적이며 정상적으로 보입니다. 허술하게 복사해 붙여 넣느라 구성이 조금씩 달라지거나, 로고 해상도가 떨어져 어설프게 보이는 식의 사칭 공격은 거의 찾기 힘듭니다. 전문가들조차 눈으로 다른 점을 찾기가 어렵습니다.” 그라나의 설명이다.
그렇다는 건 보안이 제 역할을 하기 시작해야 한다는 뜻이다. “기존 기술과 기존 인식으로는 브랜드 사칭 공격을 잡아내기 어렵다는 건 별도의 기술이나 방법이 나와야 한다는 소리입니다. ‘딱 봐도 가짜’라는 장담을 하기가 점점 힘들어지고 있습니다.”
영상 인식 기술을 사용해 사칭된 브랜드를 파악할 수 있지만 여기에는 한계가 있다. 왜냐하면 인공지능이 학습할 데이터를 충분히 제공할 수 있는 브랜드가 많지 않기 때문이다. “유명 브랜드는 대단히 많은 사칭 사례를 가지고 있습니다. 하지만 사람들이 잘 모르는 브랜드들도 있죠. 사칭 공격에 한두 번 정도 활용된 브랜드들 말이죠. 그런 경우 영상 인식 알고리즘을 훈련시킬 수 없습니다.”
그래서 그라나는 유차오 다이(Yuchao Dai), 니틴 쿠마 고엘(Nitin Kumar Goel), 주갈 파리크(Jugal Parikh)와 같은 동료들과 함께 샴쌍둥이 신경망을 개발하고, 몇 가지 이미지들을 가지고 훈련을 시켰다. 물론 브랜드 사칭과 관련된 공격 시 사용되는 이미지들이 훈련에 사용됐다. 샴쌍둥이 신경망은 기존 인공지능 알고리즘보다 훈련에 소요되는 데이터가 적다.
이들이 훈련에 사용한 데이터는 약 5만여 개의 악성 로그인 페이지의 스크린샷들로 구성되어 있었다. 약 1천 개의 브랜드들의 이미지가 여기에 포함되어 있었다. 각 이미지는 여러 개의 숫자로 구성되어 있는데, 그라나와 동료들은 이 숫자들을 2차원 평면도 상의 ‘점’으로 전환시켰다. 그럼으로써 모든 픽셀들에 숫자들로 가득한 이미지가 단순한 숫자가 되었다. 그러면 이제 이 숫자에다 의미를 부여할 차례였다. 그러면서 가짜와 진짜를 구분해낼 수 있어야 했다.
“이미지를 숫자로 변환했을 때 같은 브랜드에서 나온 콘텐츠가 비슷한 숫자로 귀결되도록 학습을 시켰습니다. 당연하지만, 다른 브랜드에서 나온 콘텐츠라면 비슷하게 생겼어도 다른 숫자가 나오게 했고요. 그러한 방식을 통해 알고리즘이 생성해 낸 숫자에 의미를 부여할 수 있게 되었습니다. 즉 같거나 비슷한 숫자가 나오는 경우, 같은 브랜드에서 나온 콘텐츠라는 걸 알 수 있게 된 것이죠.”
이 연구 성과는 8월 4일 블랙햇(Black Hat) 세션을 통해 상세히 발표될 예정이다. 발표 관련 내용은 여기(https://www.blackhat.com/us-21/briefings/schedule/#siamese-neural-networks-for-detecting-brand-impersonation-22669)서 업데이트를 받아보는 게 가능하다.
그라나는 작업 과정이 결코 쉽지 않았다며 여러 가지를 배울 수 있는 기회였다고 말한다. “왜곡되고 편향된 데이터를 다뤄야 한다는 것이 가장 큰 어려움이었습니다. 어떤 브랜드는 한두 개의 사칭 콘텐츠만을 보유하고 있었어요. 통계적으로도 아무런 도움이 되지 않고, 그 어떤 인공지능도 훈련시킬 수 없는 양이죠. 일반 신경망으로는 유의미한 결과를 도저히 얻어낼 수 없었습니다.”
그래서 연구원들은 특수한 방법을 개발해내야만 했다고 한다. “특수한 방법을 얻어내기 위해 무수한 시행착오를 겪어야만 했습니다. 머신러닝은 과학 분야로 분류됩니다만, ‘이런 상황에서 어떤 알고리즘을 적용해야 할까?’ 혹은 ‘어떤 망 구조를 실험해 볼 것인가?’를 결정하는 건 과학이 아니라 오히려 ‘감각’에 가깝습니다. 이런 데이터가 이런 상황에서 주어졌을 때, 어떤 알고리즘이 잘 통할까? 이 질문에 대한 답을 찾아가는 방법을 지독하게 훈련한 것 같습니다.”
그러므로 연구원들의 조사와 실험은 아직도 진행 중이라고 그라나는 말한다. “저희가 특수한 방법을 찾아내긴 했습니다만, 누군가는 이 방법을 뛰어넘는 공격 기술을 가지고 등장할 지도 모릅니다. 혹은 더 나은 알고리즘 활용법이 있을 수도 있고요. 그런 점들을 지속적으로 - 역시 시행착오를 겪어 가면서 - 발굴함으로써 저희의 방법론을 강화하는 것이 지금의 할 일입니다. 블랙햇에서 발표하는 건 중간 과정 즈음이 되겠지요. 하지만 ‘궁극의 보안’이라는 건 어디에도 없는 것이니까요. 늘 공격자와 일승일패를 나누면서 나아가는 것이죠.”
3줄 요약
1. 브랜드 사칭하는 사기 공격, 갈수록 정교해지고 있음.
2. 이 때문에 인공지능을 활용한 대처법이 연구되고 있고, 일부는 올 여름 공개될 예정.
3. 하지만 보안 기술은 한 번 개발로 끝나는 게 아니라 늘 보완을 통해 강화하는 것.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-24] 
.jpg)
