오픈클로 보안 자문의 경고, “AI는 이제 인간 정체성을 해킹한다”

오픈클로 보안 핵심 관리자가 짚어낸 오펜시브 AI 진화... 전통적 보안 스캐닝 무력화 경고
“단 한 번의 침투 막아라”... 투명성·코드 리뷰 아우른 4단계 신뢰 프로그램 역설

[보안뉴스 조재호 기자] “전통적 취약점 스캐닝의 사대는 완전히 끝났습니다. 앞으로 AI는 웹과 모바일을 넘어 인간의 정체성마저 해킹하는 포괄적 위협으로 진화할 것입니다.”

최근 IT업계에선 사람처럼 스스로 판단해 업무를 처리하는 ‘오픈클로’(OpenClaw) 같은 자율형 AI가 화두다. 문제는 이 AI 비서가 공격당해 통제권을 빼앗길 때 생긴다. 감염된 AI는 순식간에 개인과 기업 데이터를 빼돌리거나 시스템을 파괴하는 내부의 적으로 돌변할 수 있기 때문이다.

자율 AI 시대의 초입에서 사이버 공격은 단순히 기계의 빈틈을 찌르는 것을 넘어, 임직원의 정체성(Identity)을 흉내내 권한을 훔치는 능동적, 복합적 위협으로 진화하고 있다. 제이미 오 라일리(Jamie O’Reilly) 오픈클로 시큐리티 어드바이저는 이러한 해킹의 진화를 경고하며, 대한민국 서울에 미니 스튜디오를 설립해 차세대 기업용 AI 보안의 새로운 기준을 세우겠다는 청사진을 제시했다.

공격자 시선으로 시스템을 지키는 ‘디벌룬’과 ‘에테AI르’
라일리 어드바이저의 직함을 다양하다. 15년차 베테랑 보안 엔지니어이자, 보안기업 ‘디벌룬’(Dvuln) 대표, 능동형 AI 보안 스타트업 ‘에테AI르’(Aether AI) 공동 창업자다. (그는 회사 한글 표기를 ‘에테AI르’로 해 달라고 요청했다.)

디벌룬은 2016년 설립된 호주 보안기업이다. 글로벌 은행과 정부 기관을 대상으로 모의해킹을 진행하는 오펜시브 시큐리티를 전문으로 한다. 에테AI르는 그간 쌓아온 해킹 노하우에 AI를 결합, 스스로 위협을 탐지하고 분석하는 공격형 보안 기술에 집중한 신생 스타트업이다.

그는 최근 두 기업의 시너지를 바탕으로 자율 AI 생태계 오픈클로의 핵심 관리자(Maintainer)이자 보안 어드바이저로 합류했다. 오픈클로를 직접 사용하며 발견한 보안 취약점을 수시로 제보하다, 아예 보안 자문까지 하게 됐다. 매일 쏟아지는 보안 위협을 현장에서 직접 걸러내며 생태계를 지키는 방어자 역할을 맡게 된 것이다.

“AI 해킹, 하루 이틀이면 뚫린다”... 배테랑의 확신을 깬 사건
불과 1년 전만 해도 라일리 어드바이저는 “AI가 아무리 발전하더라도 해커의 직관과 창의성은 결코 뛰어넘을 수 없다”고 믿었다. 하지만 최근 6개월 사이 진행된 연구는 그의 확신을 깨부쉈다. 팀원들과 함께 호주 정부의 ‘디지털 운전면허증’ 보안 체계를 분석하던 중, 예상을 뛰어넘는 AI의 능력을 두 눈으로 직접 확인했기 때문이다.

정부 당국은 3년 전 발견된 취약점을 보완해 대응력을 대폭 높인 상태였다. 그러나 오펜시브 AI는 기존 해킹 도구조차 사용하지 않고 프로그램의 기계어(바이트 코드)를 직접 조작하는 방식으로 면허증의 사진과 정보를 단숨에 바꿔버렸다.

그는 “과거엔 취약점을 찾고 실제 공격 코드인 익스플로잇 제작까지 상당한 시간이 걸렸지만, 이제는 모든 과정이 하루나 이틀이면 끝난다”고 말했다.

오픈클로가 지향하는 4단계 핵심 신뢰 프로그램 [출처: 제이미 어드바이저]

서버가 아닌 ‘개발자’ 노리는 공급망 공격과 정체성 해킹
공격자의 심리를 누구보다 잘 아는 라일리 어드바이저는 시스템의 논리적 틈새보다 ‘사람’이라는 약한 고리를 더 크게 우려했다. ‘정체성을 해킹한다’는 말은 단순히 비밀번호가 유출된다는 뜻이 아니다. 고도화된 AI가 특정 직원의 이메일 말투나, 업무 습관, 심지어 사내 시스템 승인 권한까지 복제해 사람 행세를 하며, 기업의 데이터를 노릴 수 있다는 것이다.

노련한 공격자는 여러 겹으로 쌓인 서버를 뚫기 위해 자원을 낭비하지 않고, 소프트웨어 빌드 파이프라인의 접근 권한을 지닌 개발자를 겨냥한다. 특히, AI 에이전트가 외부 기능을 연동하는 과정에서 악의적 목적을 지닌 코드가 섞이는 공급망 공격을 경계했다.

침투를 막기 위해 오픈클로가 지향하는 4단계 핵심 신뢰 프로그램인 △투명성(Transparency) △로드맵(Roadmap) △코드 리뷰(Code Review) △선별(Triage)을 기업 내부에서 확실하게 정착시켜야 한다고 그는 거듭 강조했다.

호주 해커가 아태지역 거점으로 ‘대한민국 서울’ 택한 이유
호주 국적인 라일리 어드바이저가 아시아-태평양 지역 중 한국에 미니 스튜디오를 세우려는 이유는 명확했다. 최근 한국에서 열린 보안 컨퍼런스에서 무대에 올랐던 그는, 한국이 IT 인프라 도입속도가 가장 빠르면서 정보보호 인재들을 다수 보유한 매력적 국가라고 판단했다.

한국 기업 보안 조직들과 직접 머리를 맞대며, 자율형 AI 환경에서 발생하는 신종 위협에 대한 글로벌 공동 대응 전선의 시작점으로 한국을 선택한 것이다.

신설될 미니 스튜디오는 아시아-태평양 지역을 아우르는 핵심 교두보 역할을 하게 된다. 자율형 에이전트 도입을 앞둔 국내 기업에 다각도로 검토된 가장 안전하고 입체적인 보안 가이드라인을 제시한다는 계획이다.

그는 “예전처럼 단순 웹 애플리케이션이나 모바일 앱의 단편적 허점을 찔러보던 취약점 스캐닝의 시대는 이제 영원히 끝났다”며 “앞으로 클라우드 인프라는 물론, 최상단 권한인 ‘인간의 정체성’까지 노리는 포괄적이고 입체적인 AI 해킹이 공격 패러다임을 변화시킬 것”이라고 내다봤다.

[조재호 기자(zephyr@boannews.com)]

우리나라 정보보호 수준 향상을 위해 이재명 정부에게 가장 바라는 점은 무엇인가요?
	ISMS 등 보안 인증 제도 실효성 개선
	AI 보안, 양자보안 등 보안 기술 연구개발 지원 확대
	중소 기업 보안 지원 확대
	기업 보안 예산 비율 의무화
	국가 정보보호 거버넌스 체계 정비
	기타(댓글로)