다크웹 기반 AI ‘DarkBERT’...정부, 수사기관, 기업용으로 특화된 생성형 AI
구글 다크웹 스캔 서비스, 구글 계정 유출 시 확인할 수 있도록 하는 한정적 서비스
다크웹 범죄 소탕의 현주소, 하나 없어지면 4~5개 생기는 상황...다크웹 정복 아직 멀었다
■ 방송 : 보안뉴스TV(bnTV) <곽경주의 다크웹 인사이드> 35화
■ 진행 : 권 준 보안뉴스 편집국장
■ 출연 : 곽경주 S2W 이사
□ 권준 국장 안녕하세요? 보안뉴스 권준 편집국장입니다.
■ 곽경주 이사 안녕하세요 S2W 곽경주입니다.
□ 권준 국장 그간 잘 지내셨죠?
■ 곽경주 이사 네, 네. 잘 지내셨죠?
□ 권준 국장 네(웃음). 저희 (콘텐츠) 이름이 ‘다크웹 인사이드’잖아요? 그래서 오늘은 다크웹에 대해서 집중적으로 한번 탐구를 해보려고 하는데 아무래도 다크웹이 그동안 계속 ‘미지의 영역이다, 범죄자들이 은밀하게 활동하기 좋은 공간이다’라는 얘기들이 많았는데요. 하나둘씩 다크웹을 추적하고 파악할 수 있는 그런 것들이 하나씩 생기는 것 같다는 생각이 들어서 그런 부분들을 하나씩 짚어보면서 다크웹이 과연 정복이 가능한지 가능성을 살펴보는 시간을 가져보려고 하고요.
먼저 이사님이 (근무하고) 계시는 S2W에서 다크웹 기반 AI 언어 모델을 세계 최초로 KAIST(카이스트)하고 같이 개발을 하신 것으로 알고 있거든요. 이게 도대체 어떤 역할을 하는 것이고, 다크웹에서 어떤 활동들을 할 수 있는 것인지 설명을 해주실 수 있으실까요?
[다크웹 기반 AI DarkBERT]
■ 곽경주 이사 ‘다크버트(DarkBERT)’는 ‘BERT’라고 하는 AI 모델로 만든 그런 AI고요. 다크웹 내용을 학습시켰어요. 600만개 이상의 콘텐츠를 가지고 학습시킨 모델이라고 보시면 되는데요. 기존에 많이들 아시는 ‘챗GPT(ChatGPT)’ 나 구글에서 만든 ‘바드(Bard)’나 이런 생성형 언어 모델과는 학습 데이터의 차이가 있는 거예요. 기존의 ChatGPT나 Google Bard는 다크웹 데이터로 학습을 시킨 것은 아니거든요.
예를 들어 “Candy라는 단어에 대해서 설명을 해줘.”라고 했을 때 ChatGPT나 Bard 같은 경우에는 그냥 사탕이라고 하겠죠. 하지만 다크웹의 마약 사이트나 그런 곳에서는 이 Candy가 마약에 대한 하나의 ‘은어’거든요. 그래서 이제 DarkBERT에다가 Candy에 대해서 물어보면 마약에 대한 얘기를 하게 되는 것이죠.
이런 식으로 큰 차이점이 있는 것이고, 다크웹 데이터로 이런 AI 모델을 만든 적은 없었기 때문에 각광을 받고 있는 것이고요.
□ 권준 국장 그러면 이제 다크웹에서 사용되는 언어들이라든가 그곳에서 활동하는 조직들에 대한 데이터들이 수집이 돼서 그것을 이제 (수사에) 도입시킬 때 다크웹의 상황들을 이해할 수 있는...
■ 곽경주 이사 예를 들어서 랜섬웨어 Leak 사이트 등도 학습을 시켰는데 “그것과 관련된 통계를 뽑아줘”라고 했을 때 그런 통계치에 대한 것이 조금 더 정확하게 나올 수 있죠. 사실 착각할 수 있는 내용에 대해 AI를 쓰면 좀 (코드를) Misreading 할 수가 있거든요. 결론이 잘못 나올 경우가 있다는 얘기죠. 그러나 DarkBERT 같은 경우에는 정확한 데이터를 기반으로 답을 내놓기 때문에 다크웹 관련해서, 그리고 보안 분야에서 사용하기에는 조금 더 적합한 모델이라고 보고 있습니다.
□ 권준 국장 이것이 일반인들이 사용한다기보다는 보안 쪽 종사하시는 분들이라든가 아니면 수사기관이라든가 이런 쪽에서 활용하면 큰 도움이 될 수 있겠네요.
■ 곽경주 이사 말씀하신 대로 일반인들한테는 공개를 하지 못하고 있어요. (관련) 논문상에서도 공개를 안 하는 것으로 되어 있고요. 왜냐하면 일반인들 사이에 범죄자들이 섞여있을 수도 있고, 그들(범죄자들)이 그것(DarkBERT)를 활용했을 때 위험성이 있기 때문에 그런 것은 정부 쪽이나 수사기관이나 기업용으로 조금 더 커스터마이징(Customizing)해서 쓸 수 있게 그런 식으로 계획을 잡고 있어요.
□ 권준 국장 이런 것들이 다크웹을 좀 더 이해하고, 더 나아가 다크웹의 범죄현황들을 파악하는 데 좀 더 도움이 됐으면 좋겠습니다.
[구글 다크웹 스캔 서비스]
□ 권준 국장 다음 얘기를 안 해볼 수 없는 게 구글 얘기가 자꾸 나오기는 하는데요. 구글에서 최근 ‘다크웹 스캔 서비스’를 진행한다는 얘기가 있거든요? 그러면 이것을 그냥 일반 구글 검색 창에서 다크웹 내용들이 표출이 되는 것을 의미하는 것인지, 사실 저도 정확하게 파악이 안 되는데 이사님은 어떻게 보시나요?
■ 곽경주 이사 구글의 그 서비스(다크웹 스캔)에 대해서 좀 찾아봤는데요. 구글이 자사 서비스 사용자, 일례로 지메일(Gmail) 관련된 계정이 유출됐다든가 그런 개인정보 같은 것이 유출됐느냐에 대해 구글에서 모니터링 서비스를 해주는 거예요. “당신의 계정이 다크웹에 유출되었습니다”라는 내용들을 알려주는 것이고요.
구글 서비스 내에서 다크웹을 검색한다든가 그것은 아직 계획에서 못봤거든요. 그래서 다크웹에 콘텐츠가 무엇이 있는지에 대해서 구글에서 검색할 수 있냐는 차원은 아니고, 구글 서비스 사용자 보호를 위한 차원에서 진행하는 것이라고 보면 될 것 같아요.
□ 권준 국장 구글 계정이 유출됐을 때 찾아볼 수 있도록 하는, 그런 한정적인 서비스라고 볼 수 있겠네요.
■ 곽경주 이사 사실 근데 구글이 항상 그렇듯이 초반에는 그렇게 작은 서비스로 상용화시킨 다음 추후에는 어떻게 발전할지는 모르죠. 구글 내에서 다크웹이 검색되게 한다든가 그런 서비스가 나올 수도 있는 것이고요.
□ 권준 국장 나중에 발전이 되면 말씀하신 것처럼 그런 쪽으로도 확장이 될 수는 있겠네요.
■ 곽경주 이사 제가 구글이나 그런 곳에서 하면 좋겠다라고 하는 이유는 워낙 그 데이터에 대한 가시성이 높은 회사잖아요. 이들이 정보보호 서비스를 제대로 한다면? 그리고 AI 기술도 있기 때문에 굉장히 좋은 서비스가 될 것 같기도 하고요.
사실 아까 DarkBERT 얘기를 했는데 ‘다크웹을 정복한다’라는 측면에서 봤을 때는 그 안에서 활동하고 있는 해커들을 실제로 체포할 수 있는 정도까지 가야 이런 케이스들이 많아졌을 때 ‘다크웹이 정복된다’라고 볼 수 있는데요. 다크웹만 봐서는 실제 신원과의 연결점을 찾는 것은 쉽지 않거든요? 그런데 구글이라면, 그 정도의 데이터 가시성이라면 충분히 가능한 일이 될 수 있기 때문이죠. 그래서 구글이 DarkBERT를 사야 된다고 봐요(웃음).
□ 권준 국장 아~ 좋은 제안이시네요! (웃음)
[다크웹 범죄 소탕의 현주소]
□ 권준 국장 그리고 지금 이제 국제사법기관들도 그렇고요, FBI도 그렇고, 유로폴 이런 곳들도 예전과 다르게 다크웹 범죄에 대해서 각종 시장도 폐쇄하고 서비스도 폐쇄시키고 이런 것들이 많더라고요. 이런 다크웹 범죄 조직 소탕 노력도 활성화되고 있는 부분이 있는 것 같은데 어떻게 보시나요?
■ 곽경주 이사 확실히 뭔가 범죄자들한테 경고 메시지와 그들을 움추려들게 만드는 효과는 조금 있는 것 같아요. 근데 이제 아직까지 뿌리 뽑기에는... FBI가 (다크웹 내에) 큰 ‘Raid Forums’나 최근에 ‘Breach Forums’ 관리자, 그리고 랜섬웨어 그룹이나 이런 곳들을 많이 체포하긴 했지만 아직까지도 더 늘어나는 속도가 더 빠르기 때문이죠.
랜섬웨어 그룹을 1~2개 잡았으면 늘어나는 새롭게 생성되는 랜섬웨어 그룹은 4~5개가 생기고, 포럼도 하나 잡고 나면은 4~5개가 다시 또 생겨버리고요. 그래서 사실 노력도 하고 있지만 아직까지 다크웹 정복을 하기에는 진짜 아직 좀 갈 길이 멀다고 볼 수 있습니다.
[다크웹 정복을 위한 향후 과제]
□ 권준 국장 마지막으로 총평으로 이런 노력들(다크웹 정복)이 더욱 발전할 수 있는 가능성은 어떻게 보고 계신가요?
■ 곽경주 이사 앞에서도 말씀드렸지만 다크웹 쪽의 (범죄) 활동을 저해시키려면 사실 다크웹만 보면 안 됩니다. 다크웹의 범죄자들이 수사기관이나 이쪽에서 뭔가 모니터링이 많이 들어오는 것 같으니까 ‘텔레그램(Telegram)’으로 또 많이 넘어가거든요. Telegram도 재제를 좀 가해야 될 것 같아요. 그쪽의 범죄를 방조하는 그런 부분이 있어서요.
□ 권준 국장 워낙 또 자기네들 “터치(Telegram 내 활동) 안 한다”라는 주의가 있어서...
■ 곽경주 이사 개인의 사생활을 보호하고 수사기관에 협조 안하는 것은 알겠는데요. 그래도 명확하게 범죄를 저지르고 있는 인물들에 대해서는 수사기관에 정보를 좀 주고, 같이 뿌리 뽑을 수 있게 해줘야 되지 않나 싶어요. 그래서 제가 볼 때는 다크웹도 다크웹인데, 다크웹에서 파생되고 공생 관계가 있는 Telegram, 디스코드(Discord) 등 이런 은닉형 메신저들에 대해 민간에서도 그렇고, 정부기관에서도 그렇고, 수사기관들도 그렇고, 그런 것에 대한 가시성을 확보하는 기술적 발전을 좀 많이 이뤄야할 것 같아요.
□ 권준 국장 저희가 ‘다크웹 인사이드’라는 프로그램명으로 사실 다크웹에 대해서 많이 공부를 하고 있었지만, 다시 한 번 또 저희가 점검을 해보니까 매우 새로웠고 재밌는 시간이었던 것 같습니다. 아직까지는 “(다크웹 범죄를) 낙관할 단계는 아니다”라는 부분에 대해서...
■ 곽경주 이사 (다크웹) 정복은 아직 멀었습니다.
□ 권준 국장 네. 멀었습니다. 또 다음에 찾아뵙도록 하겠습니다. 감사합니다, 오늘.
■ 곽경주 이사 네, 감사합니다.
[권준 기자(editor@boannews.com)]
구글 다크웹 스캔 서비스, 구글 계정 유출 시 확인할 수 있도록 하는 한정적 서비스
다크웹 범죄 소탕의 현주소, 하나 없어지면 4~5개 생기는 상황...다크웹 정복 아직 멀었다
■ 방송 : 보안뉴스TV(bnTV) <곽경주의 다크웹 인사이드> 35화
■ 진행 : 권 준 보안뉴스 편집국장
■ 출연 : 곽경주 S2W 이사
□ 권준 국장 안녕하세요? 보안뉴스 권준 편집국장입니다.
■ 곽경주 이사 안녕하세요 S2W 곽경주입니다.
□ 권준 국장 그간 잘 지내셨죠?
■ 곽경주 이사 네, 네. 잘 지내셨죠?
□ 권준 국장 네(웃음). 저희 (콘텐츠) 이름이 ‘다크웹 인사이드’잖아요? 그래서 오늘은 다크웹에 대해서 집중적으로 한번 탐구를 해보려고 하는데 아무래도 다크웹이 그동안 계속 ‘미지의 영역이다, 범죄자들이 은밀하게 활동하기 좋은 공간이다’라는 얘기들이 많았는데요. 하나둘씩 다크웹을 추적하고 파악할 수 있는 그런 것들이 하나씩 생기는 것 같다는 생각이 들어서 그런 부분들을 하나씩 짚어보면서 다크웹이 과연 정복이 가능한지 가능성을 살펴보는 시간을 가져보려고 하고요.
먼저 이사님이 (근무하고) 계시는 S2W에서 다크웹 기반 AI 언어 모델을 세계 최초로 KAIST(카이스트)하고 같이 개발을 하신 것으로 알고 있거든요. 이게 도대체 어떤 역할을 하는 것이고, 다크웹에서 어떤 활동들을 할 수 있는 것인지 설명을 해주실 수 있으실까요?
▲[곽경주의 다크웹 인사이드] 35화 시작 화면[이미지=보안뉴스]
[다크웹 기반 AI DarkBERT]
■ 곽경주 이사 ‘다크버트(DarkBERT)’는 ‘BERT’라고 하는 AI 모델로 만든 그런 AI고요. 다크웹 내용을 학습시켰어요. 600만개 이상의 콘텐츠를 가지고 학습시킨 모델이라고 보시면 되는데요. 기존에 많이들 아시는 ‘챗GPT(ChatGPT)’ 나 구글에서 만든 ‘바드(Bard)’나 이런 생성형 언어 모델과는 학습 데이터의 차이가 있는 거예요. 기존의 ChatGPT나 Google Bard는 다크웹 데이터로 학습을 시킨 것은 아니거든요.
예를 들어 “Candy라는 단어에 대해서 설명을 해줘.”라고 했을 때 ChatGPT나 Bard 같은 경우에는 그냥 사탕이라고 하겠죠. 하지만 다크웹의 마약 사이트나 그런 곳에서는 이 Candy가 마약에 대한 하나의 ‘은어’거든요. 그래서 이제 DarkBERT에다가 Candy에 대해서 물어보면 마약에 대한 얘기를 하게 되는 것이죠.
이런 식으로 큰 차이점이 있는 것이고, 다크웹 데이터로 이런 AI 모델을 만든 적은 없었기 때문에 각광을 받고 있는 것이고요.
□ 권준 국장 그러면 이제 다크웹에서 사용되는 언어들이라든가 그곳에서 활동하는 조직들에 대한 데이터들이 수집이 돼서 그것을 이제 (수사에) 도입시킬 때 다크웹의 상황들을 이해할 수 있는...
■ 곽경주 이사 예를 들어서 랜섬웨어 Leak 사이트 등도 학습을 시켰는데 “그것과 관련된 통계를 뽑아줘”라고 했을 때 그런 통계치에 대한 것이 조금 더 정확하게 나올 수 있죠. 사실 착각할 수 있는 내용에 대해 AI를 쓰면 좀 (코드를) Misreading 할 수가 있거든요. 결론이 잘못 나올 경우가 있다는 얘기죠. 그러나 DarkBERT 같은 경우에는 정확한 데이터를 기반으로 답을 내놓기 때문에 다크웹 관련해서, 그리고 보안 분야에서 사용하기에는 조금 더 적합한 모델이라고 보고 있습니다.
□ 권준 국장 이것이 일반인들이 사용한다기보다는 보안 쪽 종사하시는 분들이라든가 아니면 수사기관이라든가 이런 쪽에서 활용하면 큰 도움이 될 수 있겠네요.
■ 곽경주 이사 말씀하신 대로 일반인들한테는 공개를 하지 못하고 있어요. (관련) 논문상에서도 공개를 안 하는 것으로 되어 있고요. 왜냐하면 일반인들 사이에 범죄자들이 섞여있을 수도 있고, 그들(범죄자들)이 그것(DarkBERT)를 활용했을 때 위험성이 있기 때문에 그런 것은 정부 쪽이나 수사기관이나 기업용으로 조금 더 커스터마이징(Customizing)해서 쓸 수 있게 그런 식으로 계획을 잡고 있어요.
□ 권준 국장 이런 것들이 다크웹을 좀 더 이해하고, 더 나아가 다크웹의 범죄현황들을 파악하는 데 좀 더 도움이 됐으면 좋겠습니다.
[구글 다크웹 스캔 서비스]
□ 권준 국장 다음 얘기를 안 해볼 수 없는 게 구글 얘기가 자꾸 나오기는 하는데요. 구글에서 최근 ‘다크웹 스캔 서비스’를 진행한다는 얘기가 있거든요? 그러면 이것을 그냥 일반 구글 검색 창에서 다크웹 내용들이 표출이 되는 것을 의미하는 것인지, 사실 저도 정확하게 파악이 안 되는데 이사님은 어떻게 보시나요?
■ 곽경주 이사 구글의 그 서비스(다크웹 스캔)에 대해서 좀 찾아봤는데요. 구글이 자사 서비스 사용자, 일례로 지메일(Gmail) 관련된 계정이 유출됐다든가 그런 개인정보 같은 것이 유출됐느냐에 대해 구글에서 모니터링 서비스를 해주는 거예요. “당신의 계정이 다크웹에 유출되었습니다”라는 내용들을 알려주는 것이고요.
구글 서비스 내에서 다크웹을 검색한다든가 그것은 아직 계획에서 못봤거든요. 그래서 다크웹에 콘텐츠가 무엇이 있는지에 대해서 구글에서 검색할 수 있냐는 차원은 아니고, 구글 서비스 사용자 보호를 위한 차원에서 진행하는 것이라고 보면 될 것 같아요.
□ 권준 국장 구글 계정이 유출됐을 때 찾아볼 수 있도록 하는, 그런 한정적인 서비스라고 볼 수 있겠네요.
■ 곽경주 이사 사실 근데 구글이 항상 그렇듯이 초반에는 그렇게 작은 서비스로 상용화시킨 다음 추후에는 어떻게 발전할지는 모르죠. 구글 내에서 다크웹이 검색되게 한다든가 그런 서비스가 나올 수도 있는 것이고요.
□ 권준 국장 나중에 발전이 되면 말씀하신 것처럼 그런 쪽으로도 확장이 될 수는 있겠네요.
■ 곽경주 이사 제가 구글이나 그런 곳에서 하면 좋겠다라고 하는 이유는 워낙 그 데이터에 대한 가시성이 높은 회사잖아요. 이들이 정보보호 서비스를 제대로 한다면? 그리고 AI 기술도 있기 때문에 굉장히 좋은 서비스가 될 것 같기도 하고요.
사실 아까 DarkBERT 얘기를 했는데 ‘다크웹을 정복한다’라는 측면에서 봤을 때는 그 안에서 활동하고 있는 해커들을 실제로 체포할 수 있는 정도까지 가야 이런 케이스들이 많아졌을 때 ‘다크웹이 정복된다’라고 볼 수 있는데요. 다크웹만 봐서는 실제 신원과의 연결점을 찾는 것은 쉽지 않거든요? 그런데 구글이라면, 그 정도의 데이터 가시성이라면 충분히 가능한 일이 될 수 있기 때문이죠. 그래서 구글이 DarkBERT를 사야 된다고 봐요(웃음).
□ 권준 국장 아~ 좋은 제안이시네요! (웃음)
[다크웹 범죄 소탕의 현주소]
□ 권준 국장 그리고 지금 이제 국제사법기관들도 그렇고요, FBI도 그렇고, 유로폴 이런 곳들도 예전과 다르게 다크웹 범죄에 대해서 각종 시장도 폐쇄하고 서비스도 폐쇄시키고 이런 것들이 많더라고요. 이런 다크웹 범죄 조직 소탕 노력도 활성화되고 있는 부분이 있는 것 같은데 어떻게 보시나요?
■ 곽경주 이사 확실히 뭔가 범죄자들한테 경고 메시지와 그들을 움추려들게 만드는 효과는 조금 있는 것 같아요. 근데 이제 아직까지 뿌리 뽑기에는... FBI가 (다크웹 내에) 큰 ‘Raid Forums’나 최근에 ‘Breach Forums’ 관리자, 그리고 랜섬웨어 그룹이나 이런 곳들을 많이 체포하긴 했지만 아직까지도 더 늘어나는 속도가 더 빠르기 때문이죠.
랜섬웨어 그룹을 1~2개 잡았으면 늘어나는 새롭게 생성되는 랜섬웨어 그룹은 4~5개가 생기고, 포럼도 하나 잡고 나면은 4~5개가 다시 또 생겨버리고요. 그래서 사실 노력도 하고 있지만 아직까지 다크웹 정복을 하기에는 진짜 아직 좀 갈 길이 멀다고 볼 수 있습니다.
[다크웹 정복을 위한 향후 과제]
□ 권준 국장 마지막으로 총평으로 이런 노력들(다크웹 정복)이 더욱 발전할 수 있는 가능성은 어떻게 보고 계신가요?
■ 곽경주 이사 앞에서도 말씀드렸지만 다크웹 쪽의 (범죄) 활동을 저해시키려면 사실 다크웹만 보면 안 됩니다. 다크웹의 범죄자들이 수사기관이나 이쪽에서 뭔가 모니터링이 많이 들어오는 것 같으니까 ‘텔레그램(Telegram)’으로 또 많이 넘어가거든요. Telegram도 재제를 좀 가해야 될 것 같아요. 그쪽의 범죄를 방조하는 그런 부분이 있어서요.
□ 권준 국장 워낙 또 자기네들 “터치(Telegram 내 활동) 안 한다”라는 주의가 있어서...
■ 곽경주 이사 개인의 사생활을 보호하고 수사기관에 협조 안하는 것은 알겠는데요. 그래도 명확하게 범죄를 저지르고 있는 인물들에 대해서는 수사기관에 정보를 좀 주고, 같이 뿌리 뽑을 수 있게 해줘야 되지 않나 싶어요. 그래서 제가 볼 때는 다크웹도 다크웹인데, 다크웹에서 파생되고 공생 관계가 있는 Telegram, 디스코드(Discord) 등 이런 은닉형 메신저들에 대해 민간에서도 그렇고, 정부기관에서도 그렇고, 수사기관들도 그렇고, 그런 것에 대한 가시성을 확보하는 기술적 발전을 좀 많이 이뤄야할 것 같아요.
□ 권준 국장 저희가 ‘다크웹 인사이드’라는 프로그램명으로 사실 다크웹에 대해서 많이 공부를 하고 있었지만, 다시 한 번 또 저희가 점검을 해보니까 매우 새로웠고 재밌는 시간이었던 것 같습니다. 아직까지는 “(다크웹 범죄를) 낙관할 단계는 아니다”라는 부분에 대해서...
■ 곽경주 이사 (다크웹) 정복은 아직 멀었습니다.
□ 권준 국장 네. 멀었습니다. 또 다음에 찾아뵙도록 하겠습니다. 감사합니다, 오늘.
■ 곽경주 이사 네, 감사합니다.
[권준 기자(editor@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
권준기자 기사보기
[2024-04-29] 
