“스스로 우회로 찾는다” 中 해커 ‘딥시크’ 악용한 자율형 AI 해킹 적발

팔로알토 유닛 42, 인간 개입 없는 능동형 해킹 정황 분석
취약점 탐색부터 공격 실행까지 스스로 판단하는 차세대 위협 현실화

[보안뉴스 김형근 기자] 팔로알토 네트웍스의 위협 인텔리전스 연구팀 유닛 42(Unit 42)가 AI 악용한 차세대 사이버 공격 캠페인 분석 보고서를 공개했다. 이번에 발견한 공격은 중국을 기반으로 활동하는 지능형 지속 위협(APT) 조직이 주도한 것으로, 이들은 최신 AI 모델인 ‘딥시크’(DeepSeek)를 무기화해 해킹 도구로 사용했다.

▲헤르메스 에이전트(中 해커들의 자율 AI)에서 포착된 자율 공격의 흐름 [출처: 팔로알토]

보고서에 따르면 해커 조직은 기존 악성 스크립트 자동화를 넘어 AI가 스스로 판단하고 행동하는 ‘자율형 AI’(Autonomous AI) 기반의 사이버 공격을 전개했다. 해커들은 ‘딥시크’ 모델을 변형 및 학습시켜 타깃 시스템의 취약점을 스스로 탐색하고 가장 성공 확률이 높은 공격 벡터를 선정해 침투를 실행하도록 아키텍처를 설계했다.

이러한 ‘자율형 AI’ 공격은 인간 해커의 개입 없이 24시간 내내 멈추지 않고 타깃 인프라를 공략할 수 있어 방어자에게 극심한 리소스 소모를 유발한다. 특히 침투 경로가 기존 보안 솔루션에 의해 차단될 경우 스스로 새로운 우회 경로를 탐색하고 공격 코드를 실시간으로 수정하는 등 고도화된 적응력을 보인 것으로 분석됐다.

이번 보고서는 기존 해킹 그룹들이 AI를 피싱 이메일 작성이나 코드 검수 등 보조적인 도구로만 활용하는 단계를 벗어나 본격적인 AI vs AI 구도의 자율형 사이버전 시대로 진입했다고 평가했다.

유닛 42 소속 위협 인텔리전스 전문가는 “인공지능이 방어막을 뚫는 능동적 주체로 나서면서 방어망의 가장 취약한 고리를 인간 해커보다 훨씬 빠르고 집요하게 파고들고 있다”며 “생성형 인공지능을 악용한 자율형 해킹에 맞서기 위해서는 기업의 방어 체계 역시 인공지능을 기반으로 한 24시간 자동화된 탐지 및 복원력을 최우선으로 갖춰야 한다”고 말했다.

[김형근 기자(editor@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다