챗GPT의 ‘악한 버전’이 계속해서 다크웹을 통해 출현하고 있다. 얼마 있으면 다크바트와 다크버트라는 또 다른 인공지능 기반 해킹 도구가 나올 것이라고 한다. 개발자의 주장에 따르면 문자만이 아니라 이미지를 가지고도 인공지능과 대화할 수 있게 될 것이라는데, 정말일까?
[보안뉴스 문가용 기자] 사기GPT(FraudGPT)라는 악성 챗봇의 개발자가 이번에는 더 새로운 인공지능 기반 공격 도구를 만들어 출시하기 직전인 것으로 알려져 있다. 이번에는 구글의 바드(Bard)를 기초로 하고 있다고 한다. 재미있는 건 이 도구의 지식 베이스가 다크웹 전체라는 것이다. 이 도구의 이름은 다크바트(DarkBart)와 다크버트(DarkBERT)다.
대형 언어 모델(LLM)을 기반으로 한 악성 도구 중 가장 먼저 발견된 건 웜GPT(WormGPT)다. 이를 제일 먼저 발견해 세상에 알린 ‘화이트 해커’는 다크웹을 탐색하다가 웜GPT와 사기GPT를 개발한 사람(다크웹에서 CanadianKingpin12라는 이름으로 활동한다고 한다)이 또 다른 인공지능 기반 공격 도구를 개발해 출시하기 직전이라는 사실을 알아냈다.
곧 출시될 악성 인공지능 봇은 다크바트와 다크버트였고, 공격자들이 챗GPT를 사용하는 것처럼 간편하게 공격을 실시할 수 있도록 해 준다고 한다. 보안 업체 슬래시넥스트(SlashNext)에 의하면 다크바트와 다크버트는 기존 인공지능 기반 공격 도구들과 차원이 다르다고 한다. “이 두 가지 도구 때문에 이제 누구든 피싱 공격을 할 수 있게 되었습니다. 그것도 아주 정교하게요. 뿐만 아니라 제로데이 취약점을 찾아 익스플로잇 하는 것도 이 도구 덕분에 쉬워졌습니다. 사이버 범죄로의 진입 장벽이 전체적으로 확 낮아졌다고 볼 수 있습니다.”
넥스트슬래시의 연구원인 다니엘 켈리(Daniel Kelley)는 “웜GPT에서 다크바트/다크버트까지 오는 데에 한 달도 걸리지 않았다는 것에 주목해야 한다”고 짚는다. “그만큼 지금 사이버 범죄 시장에서 인공지능에 대한 관심도가 높다는 뜻입니다. 바로 이 관심 때문에 앞으로 더 많은 인공지능 도구들이 출현할 수 있을 거라고 예상할 수 있는 것이고요.”
다크바트와 다크버트, 차세대 인공지능 공격 도구
먼저 다크바트는 기능적인 측면에서 보자면 구글의 인공지능인 바드의 나쁜 버전이라고 할 수 있다. 해커들의 설명에 의하면 다크바트는 다크버트(같은 이름, 다른 도구)라는 대형 언어 모델(LLM)에 기초하고 있다고 한다. 다크버트는 한국의 데이터 첩보 전문 업체 S2W가 사이버 범죄 행위에 맞서 싸우기 위한 목적으로 개발한 것으로, 현재는 일부 보안 전문가들만 사용이 가능하다. 여기에 CanadianKingpin12가 어떻게 접근할 수 있었는지는 아직 명확히 알 수 없다.
켈리는 “개발자는 자신이 다크버트에 대한 접근 권한을 가지고 있다고 주장하고 있다”며 “텔레그램을 통해 CanadianKingpin12와 대화를 했을 때, 그는 자신의 말을 입증할 만한 영상 클립을 공유해 주었다”고 말한다. “그 자는 다크웹에서 대량의 텍스트를 추출해 자신이 가진 다크버트를 훈련시켰던 것으로 보입니다.”
뿐만 아니라 CanadianKingpin12는 자신이 만든 인공지능 챗봇인 다크바트가 구글 렌즈(Google Lens)와도 통합될 수 있다고 주장하고 있다. “다크바트와 구글 렌즈가 만나면 문자와 이미지를 같이 전송할 수 있게 됩니다. 물론 확인을 해봐야겠지만, 사실이라면 꽤나 충격적인 일이 될 겁니다. 왜냐하면 여태까지 우리가 본 챗GPT 형식의 서비스는 인공지능과 문자로만 조우할 수 있도록 만들어졌었거든요.”
CanadianKingpin12가 만든 두 번째 도구의 이름은 다크버트다. S2W의 다크버트와 이름이 정확하게 똑같다. 다크버트의 경우 다크웹에 있는 모든 정보를 기반으로 만들어진 LLM이라고 CanadianKingpin12는 주장하고 있다. 지식 베이스 측면에서 다크바트보다 다크버트가 훨씬 풍성하다는 것이다. 다크버트 역시 구글 렌즈와 통합이 가능하다고 한다.
다크웹 버전의 생성형 인공지능
켈리는 “챗GPT나 바드 등 양지에서 사용되는 생성형 인공지능 서비스들이 API 형식으로 공유되듯, 다크웹의 생성형 인공지능 역시 곧 API 형태로 퍼져나갈 것”이라고 예상하고 있다. “그렇게 될 경우 사이버 범죄자들의 각종 범죄 행각과 더 부드럽게 맞물리게 될 것이고, 따라서 사이버 범죄 행위를 보다 쉽고 부드럽게 만들어 줄 것입니다. 활용도도 높아지겠죠. 사이버 범죄가 훨씬 더 쉽고 간편한 것이 되며, 방어하고 추적하기는 더 어려운 일이 될 것입니다.”
그렇기에 켈리는 더욱 능동적인 방어의 자세가 필요하다고 강조한다. “예를 들어 피싱 메일이나 문자를 알아보게 하는 교육을 일반 임직원 대상으로 하던 것을 넘어, 진화하는 BEC 공격에 대한 심도 깊은 내용을 다뤄야 할 것입니다. 특히 인공지능을 기반으로 한 BEC 공격이 얼마나 정교한지를 거듭 알려줘야 할 필요가 있습니다. 여기에 더해 이메일 확인 절차와 기술을 조직 차원에서 강화시키는 것도 필수입니다.”
3줄 요약
1. 생성형 인공지능의 다크웹 버전들이 속속 등장 중.
2. 조만간 다크바트와 다크버트라는 도구가 등장할 예정.
3. 다크웹 전체를 지식 베이스로 삼고 있는 다크바트와 다크버트, 큰 위협 될 듯.
[국제부 문가용 기자(globoan@boannews.com)]
[보안뉴스 문가용 기자] 사기GPT(FraudGPT)라는 악성 챗봇의 개발자가 이번에는 더 새로운 인공지능 기반 공격 도구를 만들어 출시하기 직전인 것으로 알려져 있다. 이번에는 구글의 바드(Bard)를 기초로 하고 있다고 한다. 재미있는 건 이 도구의 지식 베이스가 다크웹 전체라는 것이다. 이 도구의 이름은 다크바트(DarkBart)와 다크버트(DarkBERT)다.
[이미지 = gettyimagesbank]
대형 언어 모델(LLM)을 기반으로 한 악성 도구 중 가장 먼저 발견된 건 웜GPT(WormGPT)다. 이를 제일 먼저 발견해 세상에 알린 ‘화이트 해커’는 다크웹을 탐색하다가 웜GPT와 사기GPT를 개발한 사람(다크웹에서 CanadianKingpin12라는 이름으로 활동한다고 한다)이 또 다른 인공지능 기반 공격 도구를 개발해 출시하기 직전이라는 사실을 알아냈다.
곧 출시될 악성 인공지능 봇은 다크바트와 다크버트였고, 공격자들이 챗GPT를 사용하는 것처럼 간편하게 공격을 실시할 수 있도록 해 준다고 한다. 보안 업체 슬래시넥스트(SlashNext)에 의하면 다크바트와 다크버트는 기존 인공지능 기반 공격 도구들과 차원이 다르다고 한다. “이 두 가지 도구 때문에 이제 누구든 피싱 공격을 할 수 있게 되었습니다. 그것도 아주 정교하게요. 뿐만 아니라 제로데이 취약점을 찾아 익스플로잇 하는 것도 이 도구 덕분에 쉬워졌습니다. 사이버 범죄로의 진입 장벽이 전체적으로 확 낮아졌다고 볼 수 있습니다.”
넥스트슬래시의 연구원인 다니엘 켈리(Daniel Kelley)는 “웜GPT에서 다크바트/다크버트까지 오는 데에 한 달도 걸리지 않았다는 것에 주목해야 한다”고 짚는다. “그만큼 지금 사이버 범죄 시장에서 인공지능에 대한 관심도가 높다는 뜻입니다. 바로 이 관심 때문에 앞으로 더 많은 인공지능 도구들이 출현할 수 있을 거라고 예상할 수 있는 것이고요.”
다크바트와 다크버트, 차세대 인공지능 공격 도구
먼저 다크바트는 기능적인 측면에서 보자면 구글의 인공지능인 바드의 나쁜 버전이라고 할 수 있다. 해커들의 설명에 의하면 다크바트는 다크버트(같은 이름, 다른 도구)라는 대형 언어 모델(LLM)에 기초하고 있다고 한다. 다크버트는 한국의 데이터 첩보 전문 업체 S2W가 사이버 범죄 행위에 맞서 싸우기 위한 목적으로 개발한 것으로, 현재는 일부 보안 전문가들만 사용이 가능하다. 여기에 CanadianKingpin12가 어떻게 접근할 수 있었는지는 아직 명확히 알 수 없다.
켈리는 “개발자는 자신이 다크버트에 대한 접근 권한을 가지고 있다고 주장하고 있다”며 “텔레그램을 통해 CanadianKingpin12와 대화를 했을 때, 그는 자신의 말을 입증할 만한 영상 클립을 공유해 주었다”고 말한다. “그 자는 다크웹에서 대량의 텍스트를 추출해 자신이 가진 다크버트를 훈련시켰던 것으로 보입니다.”
뿐만 아니라 CanadianKingpin12는 자신이 만든 인공지능 챗봇인 다크바트가 구글 렌즈(Google Lens)와도 통합될 수 있다고 주장하고 있다. “다크바트와 구글 렌즈가 만나면 문자와 이미지를 같이 전송할 수 있게 됩니다. 물론 확인을 해봐야겠지만, 사실이라면 꽤나 충격적인 일이 될 겁니다. 왜냐하면 여태까지 우리가 본 챗GPT 형식의 서비스는 인공지능과 문자로만 조우할 수 있도록 만들어졌었거든요.”
CanadianKingpin12가 만든 두 번째 도구의 이름은 다크버트다. S2W의 다크버트와 이름이 정확하게 똑같다. 다크버트의 경우 다크웹에 있는 모든 정보를 기반으로 만들어진 LLM이라고 CanadianKingpin12는 주장하고 있다. 지식 베이스 측면에서 다크바트보다 다크버트가 훨씬 풍성하다는 것이다. 다크버트 역시 구글 렌즈와 통합이 가능하다고 한다.
다크웹 버전의 생성형 인공지능
켈리는 “챗GPT나 바드 등 양지에서 사용되는 생성형 인공지능 서비스들이 API 형식으로 공유되듯, 다크웹의 생성형 인공지능 역시 곧 API 형태로 퍼져나갈 것”이라고 예상하고 있다. “그렇게 될 경우 사이버 범죄자들의 각종 범죄 행각과 더 부드럽게 맞물리게 될 것이고, 따라서 사이버 범죄 행위를 보다 쉽고 부드럽게 만들어 줄 것입니다. 활용도도 높아지겠죠. 사이버 범죄가 훨씬 더 쉽고 간편한 것이 되며, 방어하고 추적하기는 더 어려운 일이 될 것입니다.”
그렇기에 켈리는 더욱 능동적인 방어의 자세가 필요하다고 강조한다. “예를 들어 피싱 메일이나 문자를 알아보게 하는 교육을 일반 임직원 대상으로 하던 것을 넘어, 진화하는 BEC 공격에 대한 심도 깊은 내용을 다뤄야 할 것입니다. 특히 인공지능을 기반으로 한 BEC 공격이 얼마나 정교한지를 거듭 알려줘야 할 필요가 있습니다. 여기에 더해 이메일 확인 절차와 기술을 조직 차원에서 강화시키는 것도 필수입니다.”
3줄 요약
1. 생성형 인공지능의 다크웹 버전들이 속속 등장 중.
2. 조만간 다크바트와 다크버트라는 도구가 등장할 예정.
3. 다크웹 전체를 지식 베이스로 삼고 있는 다크바트와 다크버트, 큰 위협 될 듯.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-05-12] 
