[배종찬의 보안 빅데이터] AI가 AI를 뚫는 시대, ‘클로드 해킹’의 경고

AI, 쓰임에 따라 가장 강력한 업무 도구가 될 수도, 가장 위협적인 무기가 될 수도 있어

[보안뉴스= 배종찬 인사이트케이 연구소장] ‘클로드’(Claude)는 지금까지 우리에게 낯설지 않은 이름이었다. 썸트렌드(SomeTrend)의 빅데이터 연관어 분석(2026년 7월 10일~8월 9일)에서 클로드를 둘러싸고 버전, 생산성, 유튜브, 구독, 유료, 특징, 부분, 답, 직장인, 영어 같은 단어들로 채워져 있다. 새로운 버전이 나올 때마다 화제가 되고, 유튜브에서 활용법이 공유되고, 직장인들이 영어 문서 작성이나 업무 생산성을 위해 유료로 구독하는 도구, 이것이 그동안 대중이 인식한 클로드의 얼굴이었다.

그런데 ‘해킹’ 클러스터에는 스마트폰, 계좌, 증거, 대응, 금융, 지갑, 조치, 개인정보 유출, 전화, 설치라는 단어들이 촘촘히 엮여 있다. 그리고 두 클러스터를 잇는 다리 역할을 하는 것이 바로 정보, AI, 시스템, 계정, 서비스라는 중립적 단어들이다. 생산성 도구였던 AI가 ‘계정’과 ‘시스템’이라는 통로를 거쳐 ‘금융’과 ‘개인정보 유출’이라는 피해로 이어질 수 있음을 압축해서 보여주고 있다.

실제로 보도전문 채널인 YTN이 IT 보안업체 네오아이앤이와 함께 진행한 실증 시연에서 이 우려는 현실로 확인됐다. 노트북에 앤트로픽의 AI 모델 클로드를 설치하고 단 8줄짜리 명령문으로 해킹을 지시하자, 클로드는 스스로 정찰에 나서 취약점을 찾아냈고 불과 12분 만에 사내망 전체 접근 권한을 가진 계정의 아이디와 비밀번호를 확보했다. 특정 직원의 PC에서 원하는 파일을 찾아내라고 지시하자 유사한 제목의 파일들을 순식간에 분석해 눈앞으로 가져오기도 했다. 더 놀라운 대목은, 사람이 추가로 지시하지 않았는데도 AI가 10분 동안 수백 차례에 걸쳐 스스로 새로운 공격 가설을 세우고 검증하며 침투를 이어갔다는 점이다. 시연에 참여한 보안업체 CTO는 “100개 이상의 기업을 점검한 결과 거의 99%는 공격이 가능했다”고 밝혔다.

클로드발(發) AI 해킹이 우려스러운 이유는 크게 세 가지로 요약할 수 있다. 첫째는 압도적인 속도와 자율성이다. 사람이 수시간, 수일에 걸쳐 수행하던 사내망 정찰과 권한 탈취를 AI는 단 10여 분 만에, 그것도 스스로 가설을 세우고 검증하는 방식으로 해낸다. 이는 단순한 자동화 도구가 아니라, 공격자의 ‘판단’까지 대신하는 수준의 위협이라는 뜻이다.

둘째는 확산성이다. 클로드를 이용한 해킹이 가능했던 근본 이유는 컴퓨터에 AI를 설치하는 순간 사실상 모든 접속 권한이 AI에 부여되기 때문이다. 사내 서버에 접근할 수 있는 단말기 단 한 대에만 AI가 설치돼 있어도 동일한 방식의 침투가 얼마든지 가능하다. 연관어로 등장한 ‘계좌’, ‘금융’, ‘지갑’, ‘개인정보 유출’ 같은 단어들은 이 확산의 종착점을 가리킨다. 사내망 침투는 곧 임직원 개인의 금융 계좌와 고객의 개인정보 유출로 이어질 수 있고, 이후 ‘전화’를 이용한 피싱이나 악성 앱 ‘설치’ 유도 같은 2차 범죄로 번질 가능성도 배제할 수 없다.

셋째, 가장 역설적이고 근본적인 문제는 AI를 만든 기업조차 이 위험을 완전히 통제하지 못하고 있다는 사실이다. 앤트로픽은 자사 사이버 보안 평가 기록을 전수 조사한 결과, 클로드가 외부 기관 3곳의 시스템에 무단으로 접근한 사실을 자체적으로 확인했다고 밝혔다.

빅데이터 연관어 분석이 보여준 그림은 결국 하나의 메시지로 수렴한다. ‘생산성’과 ‘해킹’은 같은 기술의 두 얼굴이며, 그 사이를 잇는 ‘계정’과 ‘시스템’이라는 통로를 어떻게 관리하느냐에 따라 AI는 우리의 가장 강력한 업무 도구가 될 수도, 가장 위협적인 무기가 될 수도 있다. 기업과 정부가 지금부터 이 통로를 촘촘히 관리하지 않는다면, 다음 차례의 ‘10분 침투’ 시연 대상은 우리 자신의 회사, 우리 자신의 계좌가 될 수 있다.

글_ 배종찬 인사이트케이 연구소장

연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치 시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.

[원병철 기자(boanone@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다