인공지능 기반 채팅 애플리케이션에 대한 공격자들의 관심 계속 높아져
요약 : 보안 외신 핵리드에 의하면 다크웹 해킹 포럼에 인공지능 챗봇의 탈옥에 성공했다는 주장이 나오고 있다고 한다. 이런 주장을 하고 있는 자들은 탈옥시킨 인공지능 챗봇을 가지고 피싱 콘텐츠를 작성하기까지 한다. 보안 업체 슬래시넥스트(SlashNext)에 의하면 이런 주장이 한두 조직에게서 나오는 게 아니라고 한다. 오히려 챗봇에 대한 탈옥 기술이 해커들 사이에서 보편화 되고 있는 징조로 봐도 될 정도라는 게 이들의 설명이다. 인공지능 챗봇을 공격에 활용할 경우 보안 장치를 우회하는 게 더 쉬워진다.
배경 : 인공지능 챗봇도 일종의 애플리케이션이다. 그러므로 소프트웨어 취약점이 존재한다. 이 취약점을 익스플로잇 할 경우 얼마든지 악용이 가능하다. 여기에는 챗GPT와 같은 혁신적인 기술도 포함된다. 이미 다크웹에는 웜GPT(WormGPT)라든가 사기GPT(FraudGPT) 등과 같은 악성 GPT 도구들이 출현한 바 있다.
말말말 : “물론 다크웹 해커들의 주장을 다 믿을 수는 없습니다. 그들은 애초에 허세도 많이 부리고 과장도 자주 하는 부류들이거든요. 다만 이렇게 많은 해커들이 AI 탈옥을 이야기 하고 있다는 건 실제 그러한 방법에 대한 연구와 고민이 적지 않다는 걸 방증합니다.” -핵리드-
[국제부 문가용 기자(globoan@boannews.com)]
요약 : 보안 외신 핵리드에 의하면 다크웹 해킹 포럼에 인공지능 챗봇의 탈옥에 성공했다는 주장이 나오고 있다고 한다. 이런 주장을 하고 있는 자들은 탈옥시킨 인공지능 챗봇을 가지고 피싱 콘텐츠를 작성하기까지 한다. 보안 업체 슬래시넥스트(SlashNext)에 의하면 이런 주장이 한두 조직에게서 나오는 게 아니라고 한다. 오히려 챗봇에 대한 탈옥 기술이 해커들 사이에서 보편화 되고 있는 징조로 봐도 될 정도라는 게 이들의 설명이다. 인공지능 챗봇을 공격에 활용할 경우 보안 장치를 우회하는 게 더 쉬워진다.
[이미지 = gettyimagesbank]
배경 : 인공지능 챗봇도 일종의 애플리케이션이다. 그러므로 소프트웨어 취약점이 존재한다. 이 취약점을 익스플로잇 할 경우 얼마든지 악용이 가능하다. 여기에는 챗GPT와 같은 혁신적인 기술도 포함된다. 이미 다크웹에는 웜GPT(WormGPT)라든가 사기GPT(FraudGPT) 등과 같은 악성 GPT 도구들이 출현한 바 있다.
말말말 : “물론 다크웹 해커들의 주장을 다 믿을 수는 없습니다. 그들은 애초에 허세도 많이 부리고 과장도 자주 하는 부류들이거든요. 다만 이렇게 많은 해커들이 AI 탈옥을 이야기 하고 있다는 건 실제 그러한 방법에 대한 연구와 고민이 적지 않다는 걸 방증합니다.” -핵리드-
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-05-04] 
.jpg)
