인공지능으로 취약점 찾고, 인공지능으로 익스플로잇 만들고
공격자들이 중요시 하는 ‘고효율’ 문제를 해결해줄 수 있는 기술
[보안뉴스 문가용 기자] 사이버 보안 분야 내에서 인공지능에 대한 기대감이 커지고 있다. 이건 비단 방어를 담당하고 있는 일반 보안 전문가들만의 이야기가 아니다. 해커들도 마찬가지다. 문제는 해커들의 기대감이 이미 현실로 나타나고 있다는 것이다.
보안 업체 포티넷(Fortinet)의 수석 보안 및 위협 전문가인 데렉 맨키(Derek Manky)에 의하면 “공격자들이 인공지능을 활용하게 되는 건 단순 경제적 문제”라고 한다. “공격자들은 공격의 효율을 굉장히 중요하게 생각합니다. 공격을 통해 돈을 벌어야 하기 때문입니다. 인공지능 기술을 공격에 활용하면 투자 비용이 크게 낮아지는데요, 특히 인공지능 퍼징(AI fuzzing) 공격이 자주 발견될 것이라고 봅니다.”
포티넷이 최근 발표한 “보안 예측 보고서”에 의하면, 퍼징은 특정 시스템이나 애플리케이션 등의 요소가 마비될 때까지 무작위의 입력값을 넣는 행위로 “소프트웨어 품질 테스트”에서부터 출발한 공격 테크닉이다. 소프트웨어가 어떤 조건에서 마비되는지 확인하고 개선하기 위해 고안된 것이다. 이를 공격에 활용한다면, 익스플로잇 할 취약점들을 찾아내는 행위로 전환될 수 있다.
“공격에 필요한 취약점을 찾아내는 부분은 아직도 수동으로 진행됩니다. 사람이 투입돼서 하나하나 찔러보고 구멍을 찾아내는 것이죠. 즉, 비용이 높은 과정이라는 겁니다.” 맨키는 이 부분을 인공지능 활용으로 해결 가능하다는 걸 해커들이 알아냈다고 설명한다.
“인공지능 기술이 있으면 퍼징의 속도를 크게 높일 수 있습니다. 이론상으로만 그런 게 아니라 여러 사례를 통해서 증명된 사안입니다. 게임 소프트웨어는 실제로 이렇게 해킹된 실례가 있습니다.” 게임 공략에 성공한 해커가, 그 방법을 다른 소프트웨어나 시스템에 적용하지 않을리 없다는 게 맨키의 설명이다.
“인공지능을 공격자들이 사용하면 ‘취약점을 찾는 과정’과 ‘그에 대한 익스플로잇을 개발하는 과정’에서 시간을 크게 줄일 수 있습니다. 그리고 실제로 해커들은 점점 더 인공지능을 통한 코드 분석을 시작하고 있습니다. 그에 대한 익스플로잇 개발 역시 마찬가지고요. 즉, 자동으로, 빠른 시간 내에, 효율적으로, 제로데이가 공격자들의 손에 주어진다는 겁니다.”
이런 상황에서 인공지능은 취약점을 찾고 익스플로잇을 개발하는 데 사용되는 툴이다. 그 자체로 공격을 해주는 툴은 아니다. 하지만 이 툴이 공격자들 사이에서 개발되면 될수록 ‘빠르고 저렴하게 제로데이를 찾아내주는 도구’가 될 가능성이 높다. 이런 도구가 암시장에서 우후죽순 나타나기 시작한다면, 가격 경쟁까지 붙어 훨씬 낮은 가격에 퍼질 것이다. 맨키는 “일이 이런 식으로 진행될 것은 뻔한 일”이라고 확신한다.
그렇다면 그런 상황에서 방어는 어떤 식으로 해야 할까? 맨키는 “모든 기본기들을 지키는 것에서부터 시작해야 한다”고 설명한다. “CISO의 입장에서는 소프트웨어 패치 관리와 다른 조직 내 CISO들과의 협력 체계 구축이 무엇보다 우선시 되어야 합니다. 그리고 가능하면 제로트러스트(zero-trust) 네트워크를 구축하고 망을 분리시키는 것이 좋습니다.”
3줄 요약
1. 인공지능, 방어에서보다 공격에서 더 가능성 보이고 있음.
2. 최근 취약점 찾고 익스플로잇 개발하는 것에 인공지능 투입되고 있음.
3. 이대로 가면 공격자 손에 ‘제로데이 툴’이 쥐어지게 될 것.
[국제부 문가용 기자(globoan@boannews.com)]
공격자들이 중요시 하는 ‘고효율’ 문제를 해결해줄 수 있는 기술
[보안뉴스 문가용 기자] 사이버 보안 분야 내에서 인공지능에 대한 기대감이 커지고 있다. 이건 비단 방어를 담당하고 있는 일반 보안 전문가들만의 이야기가 아니다. 해커들도 마찬가지다. 문제는 해커들의 기대감이 이미 현실로 나타나고 있다는 것이다.
[이미지 = iclickart]
보안 업체 포티넷(Fortinet)의 수석 보안 및 위협 전문가인 데렉 맨키(Derek Manky)에 의하면 “공격자들이 인공지능을 활용하게 되는 건 단순 경제적 문제”라고 한다. “공격자들은 공격의 효율을 굉장히 중요하게 생각합니다. 공격을 통해 돈을 벌어야 하기 때문입니다. 인공지능 기술을 공격에 활용하면 투자 비용이 크게 낮아지는데요, 특히 인공지능 퍼징(AI fuzzing) 공격이 자주 발견될 것이라고 봅니다.”
포티넷이 최근 발표한 “보안 예측 보고서”에 의하면, 퍼징은 특정 시스템이나 애플리케이션 등의 요소가 마비될 때까지 무작위의 입력값을 넣는 행위로 “소프트웨어 품질 테스트”에서부터 출발한 공격 테크닉이다. 소프트웨어가 어떤 조건에서 마비되는지 확인하고 개선하기 위해 고안된 것이다. 이를 공격에 활용한다면, 익스플로잇 할 취약점들을 찾아내는 행위로 전환될 수 있다.
“공격에 필요한 취약점을 찾아내는 부분은 아직도 수동으로 진행됩니다. 사람이 투입돼서 하나하나 찔러보고 구멍을 찾아내는 것이죠. 즉, 비용이 높은 과정이라는 겁니다.” 맨키는 이 부분을 인공지능 활용으로 해결 가능하다는 걸 해커들이 알아냈다고 설명한다.
“인공지능 기술이 있으면 퍼징의 속도를 크게 높일 수 있습니다. 이론상으로만 그런 게 아니라 여러 사례를 통해서 증명된 사안입니다. 게임 소프트웨어는 실제로 이렇게 해킹된 실례가 있습니다.” 게임 공략에 성공한 해커가, 그 방법을 다른 소프트웨어나 시스템에 적용하지 않을리 없다는 게 맨키의 설명이다.
“인공지능을 공격자들이 사용하면 ‘취약점을 찾는 과정’과 ‘그에 대한 익스플로잇을 개발하는 과정’에서 시간을 크게 줄일 수 있습니다. 그리고 실제로 해커들은 점점 더 인공지능을 통한 코드 분석을 시작하고 있습니다. 그에 대한 익스플로잇 개발 역시 마찬가지고요. 즉, 자동으로, 빠른 시간 내에, 효율적으로, 제로데이가 공격자들의 손에 주어진다는 겁니다.”
이런 상황에서 인공지능은 취약점을 찾고 익스플로잇을 개발하는 데 사용되는 툴이다. 그 자체로 공격을 해주는 툴은 아니다. 하지만 이 툴이 공격자들 사이에서 개발되면 될수록 ‘빠르고 저렴하게 제로데이를 찾아내주는 도구’가 될 가능성이 높다. 이런 도구가 암시장에서 우후죽순 나타나기 시작한다면, 가격 경쟁까지 붙어 훨씬 낮은 가격에 퍼질 것이다. 맨키는 “일이 이런 식으로 진행될 것은 뻔한 일”이라고 확신한다.
그렇다면 그런 상황에서 방어는 어떤 식으로 해야 할까? 맨키는 “모든 기본기들을 지키는 것에서부터 시작해야 한다”고 설명한다. “CISO의 입장에서는 소프트웨어 패치 관리와 다른 조직 내 CISO들과의 협력 체계 구축이 무엇보다 우선시 되어야 합니다. 그리고 가능하면 제로트러스트(zero-trust) 네트워크를 구축하고 망을 분리시키는 것이 좋습니다.”
3줄 요약
1. 인공지능, 방어에서보다 공격에서 더 가능성 보이고 있음.
2. 최근 취약점 찾고 익스플로잇 개발하는 것에 인공지능 투입되고 있음.
3. 이대로 가면 공격자 손에 ‘제로데이 툴’이 쥐어지게 될 것.
[국제부 문가용 기자(globoan@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2025-04-07] 
.png)
