[한국정보공학기술사 보안을 論하다-43] Agentic AI로 인한 새로운 보안 위협과 대응방안

AI 도입 통한 생산성 향상뿐 아니라, AI 기반 공격이 가져올 속도와 규모의 변화 함께 직시해야

[보안뉴스= 이제원 기술사] 사이버 공격과 방어는 늘 자동화와 함께 진화해 왔다. 공격자는 더 적은 비용으로 더 많은 표적을 노렸고, 방어자는 더 빠른 탐지와 더 정교한 대응으로 이에 맞서 왔다. 하지만 Agentic AI의 등장은 이 오래된 균형을 다시 흔들고 있다. 공격자는 이제 Agentic AI를 통해 정찰, 취약점 발굴, 공격 도구 생성, 실제 침투로 이어지는 ‘자동화된 사이버 킬 체인’을 구성할 수 있게 됐다.

이러한 변화가 더 이상 단순한 기술적 가능성에 머물지 않음을 상징적으로 보여준 사례가 있다. 바로 2026년 4월 7일 앤트로픽(Anthropic)이 공개한 클로드 미토스(Claude Mythos)다. 미토스는 장기간 발견되지 않았던 OpenBSD 결함을 찾아내고 침투 경로까지 설계했으며, 주요 운영체제와 웹 브라우저에서 기존에 알려지지 않은 보안 취약점을 대거 식별한 것으로 전해졌다. 이는 AI가 더 이상 공격자의 보조 수단이 아니라, 의사결정과 실행 효율을 동시에 증폭시키는 자율형 공격 도구로 진화했음을 보여준다.

이러한 우려가 과장이 아님은 각국의 대응에서도 확인된다. 미국에서는 제롬 파월 연준 의장이 주요 금융사 CEO들을 불러 긴급회의를 열었고, 영국에서도 주요 금융기관을 대상으로 긴급 리스크 평가에 착수한 것으로 전해졌다. 독일에서도 미토스가 금융권 레거시 시스템에 미칠 영향을 점검하고 있다고 알려졌다.

국내에서도 4월 14일 과학기술정보통신부가 주요 플랫폼 기업 CISO들을 긴급 소집해 대책 회의를 열었고, 금융감독원 역시 금융권 정보보안 담당자들을 긴급 소집해 AI 기반 사이버 위협 대응체계를 점검한 것으로 보도됐다. 해외에서 시작된 미토스 충격이 한국에서도 금융·플랫폼·국가 기반시설 전반에 영향을 줄 수 있는 현실적 보안 과제로 확산되고 있다.

그렇다면 Agentic AI를 통한 새로운 보안 위협은 어떤 것이 있을까. 보안 업계가 주목해야 할 Agentic AI 기반의 핵심 위협은 크게 다섯 가지가 있다.

첫 번째 위협은 취약점 발굴과 제로데이 후보 탐색의 가속화다. 과거에도 공격자는 자동화 도구를 활용했지만, 이제는 Agentic AI가 코드와 설정, 공개 자산, 의존성 정보를 종합해 ‘어디를 먼저 공격할지’를 스스로 좁혀갈 수 있다. 고도화된 AI가 장기간 숨어 있던 결함을 더 빨리 찾아낼수록, 방어자가 패치를 준비하고 대응할 수 있는 시간은 그만큼 줄어든다. 과거에는 고도의 전문성과 오랜 분석 시간이 필요했던 작업이 앞으로는 더 많은 공격자에게 열릴 수 있다는 점에서 이 변화는 결코 가볍지 않다.

두 번째 위협은 사이버 킬 체인의 자동화다. Agentic AI는 악성 코드 작성에 그치지 않는다. 공격 대상을 정하고, 공개된 자료와 노출 자산을 수집하며, 기술 스택과 버전 정보를 분석하고, 설정 오류나 취약한 연결 지점을 찾아낸 뒤, 이를 바탕으로 공격 도구를 자동으로 생성하고 후속 침투 경로까지 설계할 수 있다. 이 같은 자동화를 통해 공격자는 더 짧은 시간 안에 더 많은 표적을 검토하고, 그중 실제 공격 가능성이 높은 대상을 선별해 우선적으로 공략할 수 있게 됐다.

세 번째 위협은 초개인화된 피싱과 사회공학 공격의 정밀화다. 생성형 AI가 자연스러운 문장 생성에 활용돼 온 것은 이미 익숙한 이야기다. 그러나 Agentic AI는 여기서 한 차원 더 나아간다. 공개 프로필, 조직도, 보도자료, 이메일 형식, 회의 일정, SNS 흔적 등을 종합해 표적별 맞춤 시나리오를 설계할 수 있다. 여기에 캘린더, 메일, 문서와 같은 외부 도구가 결합되면, 단순히 그럴듯한 메일을 쓰는 수준이 아니라 실제 업무 맥락을 모방한 정교한 공격이 가능해진다.

결국 피싱의 본질은 기술이 아니라 신뢰의 탈취인데, Agentic AI는 그 신뢰 탈취 과정을 자동화하고 정밀화한다는 점에서 훨씬 더 위험하다.

네 번째 위협은 도구 악용과 권한 오남용의 확산이다. 공격자는 탈취한 계정이나 API 키, 과도하게 설정된 서비스 계정 권한을 Agentic AI와 결합해 더 효율적으로 공격할 수 있다. 정상적인 목적으로 구축된 내부 자동화 도구, 협업 플랫폼, 개발 파이프라인이 공격자의 Agentic AI와 결합해 공격 벡터로 전환된다면 피해는 기하급수적으로 커질 수밖에 없다.

다섯 번째이자 가장 구조적인 위협은 공격의 지속성과 적응성이다. Agentic AI의 진정한 위협은 단발성 공격보다 공격 이후 반복적이고 적응적으로 행동할 수 있다는 데 있다. 메모리와 컨텍스트를 활용해 이전 시도에서 실패한 원인을 분석해 다른 경로를 스스로 모색하거나, 여러 표적에 맞춰 공격 도구와 킬 체인을 최적화할 수 있기 때문이다. Agentic AI 환경에서는 하나의 잘못된 입력이나 권한 오남용이 연쇄적 피해로 이어질 수 있다는 점에서 더욱 위험하다.

그렇다면 조직은 이러한 보안위협에 대해 어떻게 대응해야 할까.

첫 번째는 취약점 관리의 기준을 바꿔야 한다. Agentic AI가 취약점 발굴을 자동화하면, 조직이 마주하는 취약점의 양은 과거와는 비교할 수 없을 만큼 늘어난다. 문제는 취약점이 쏟아지는 속도에 비해, 이를 분석하고 패치해야 하는 개발자와 보안 인력의 역량에는 물리적 한계가 있다는 점이다. 모든 취약점을 동일한 무게로 다루는 방식으로는 이 격차를 감당할 수 없다. 외부 노출 여부, 인증 우회 가능성, 권한 상승 연계성, 실제 공격 경로와의 연결성을 함께 고려해 위험 기반(Risk-Based) 접근으로 우선순위를 재정렬하고, '언젠가 패치해야 할 취약점'이 아니라 '지금 당장 악용될 수 있는 취약점'에 한정된 자원을 집중하는 전략 전환이 필수적이다.

두 번째는 탐지 로직을 시그니처 기반에서 행위 기반으로 전환해야 한다. Agentic AI를 활용한 공격은 개별 이벤트만 보면 정상 행위처럼 보일 수 있다. 짧은 시간 안에 공개 자산을 반복 조회하고, 문서를 수집하며, API를 집중 호출하고, 특정 권한을 시험하는 행위는 각각 따로 보면 공격으로 판단하기 모호하다. 그러나 이를 연결하면 명백한 공격 준비 징후가 된다. 보안 정보 및 이벤트 관리(Security Information and Event Management, SIEM), 확장형 탐지 및 대응(eXtended Detection and Response, XDR), 사용자 및 엔티티 행동 분석(User and Entity Behavior Analytics, UEBA), 보안 오케스트레이션·자동화 및 대응(Security Orchestration, Automation and Response, SOAR)를 활용하더라도 핵심은 이벤트 자체보다 연속적이고 목표지향적인 행동 패턴을 포착하는 데 있어야 한다.

세 번째는 초개인화된 공격에 대응할 수 있도록 인적 검증 절차를 다층화해야 한다. 초개인화 피싱이 현실화된 상황에서 단순 보안 교육만으로는 충분하지 않다. 다중인증(Multi-Factor Authentication, MFA), 송금·계정 변경·외부 전송에 대한 다중 승인, 경영진 사칭 대응 절차, 생성형 AI 기반 사기 시나리오 훈련이 병행되어야 한다. Agentic AI가 만들어내는 피싱은 시스템 취약점이 아니라 사람의 판단력을 공략한다.. 따라서 조직은 Zero Trust 기반의 지속적 검증 문화와 절차를 함께 정착시켜야 한다.

네 번째는 권한과 자동화 도구에 대한 통제를 대폭 강화해야 한다. 공격자가 Agentic AI를 활용하더라도, 권한이 한정적이며 실행 범위가 제한되어 있으면 피해를 크게 줄일 수 있다. 상시 권한 제거, JIT(Just-In-Time) 권한 부여, 관리자 계정 분리, 최소권한 원칙, 네트워크 세분화(Micro Segmentation)을 기본 적용해야 한다. Agentic AI 시대에는 '누가 로그인했는가'뿐 아니라 '어떤 에이전트가 어떤 권한으로 무엇을 수행했는가'까지 통제할 수 있어야 한다.

다섯 번째는 지속적·적응적 공격에 맞서 방어자 또한 Agentic AI를 활용해 능동적 방어 체계를 구축해야 한다. Agentic AI가 실패를 학습해 경로를 바꾸고 반복적으로 침투를 시도한다면, 방어자 또한 한 번의 차단으로 끝나서는 안 된다. Agentic AI를 활용해 위협 인텔리전스를 실시간으로 수집·반영하고, 탐지 규칙을 자동으로 갱신하며, 공격 시도가 감지된 자산에 대해서는 즉시 격리·권한 회수·접근 경로 재검토를 수행하는 등 자율적 대응 체계를 갖춰야 한다. Agentic AI 시대의 보안은 공격자만 AI를 활용하는 비대칭 구도를 허용하지 않는 것에서 출발한다. 공격이 진화하는 만큼 방어도 AI를 활용해 함께 진화해야 한다.

그러나 이러한 대응만으로 모든 공백이 채워지는 것은 아니다. 개별 위협에 대한 기술적 대응을 넘어, 이를 하나의 체계로 묶는 관리적 기반이 함께 갖춰져야 한다. 기존 모의훈련이 랜섬웨어, 계정 탈취, 내부자 유출 중심이었다면, 이제는 'AI의 대규모 취약점 탐색', '초개인화 피싱 메일', '탈취 계정과 자동화 도구의 결합' 같은 시나리오를 포함해야 한다. 나아가 공격자가 AI를 활용하는 상황을 전제로 보안 정책, 로그 보존, 행위 감사 체계, 의사결정 체계까지 거버넌스를 함께 정비해야 한다.

조직은 이제 AI 도입을 통한 생산성 향상만 바라볼 것이 아니라, AI 기반 공격이 가져올 속도와 규모의 변화를 함께 직시해야 한다. Agentic AI는 생산성을 극대화하는 도구인 동시에 공격자의 역량을 증폭시킬 수 있는 양날의 검이다.

지금 필요한 것은 막연한 두려움이 아니라 현실적인 대응이다. 권한 최소화, 행위 기반 탐지, 위험 기반 우선 대응, 인적 검증 절차 강화를 중심으로 보안 체계를 재설계하고, 공격자가 Agentic AI를 활용할 때 어떤 피해가 발생할 수 있는지를 사전에 모의훈련으로 검증해야 한다. 이는 선택이 아닌 필수다. Agentic AI 시대에 보안은 더 이상 뒷전이 아니라 비즈니스 연속성과 디지털 신뢰를 지키기 위한 최전선 활동이기 때문이다.

글_ 이제원 기술사

필자소개
(재)차세대수치예보모델개발사업단
한국정보공학기술사회 미래융합기술원 보안분과
과학기술정보통신부 ICT 멘토
한국정보보호산업협회 정보보안 및 개인정보보호 전문위원
한국방송통신전파진흥원 국가기술자격 제도발전위원
한국정보통신기술협회 중소기업 정보화 자문위원

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다