AI 고도화의 시대, 보안담당자가 갖춰야 할 AI 활용 대응 역량은 어떻게 만들까

ISEC Training Course, ‘LLM/RAG 기반 사이버 위협 예측 및 예측 AI Agent 구축’ 교육
8월 11~12일 코엑스에서 열리는 아시아 대표 보안 콘퍼런스 ‘ISEC 2026’ 동시 개최 행사로 진행

[보안뉴스 원병철 기자] 인공지능(AI)을 활용한 사이버 공격이 빠르게 고도화되면서, 보안 담당자에게도 AI를 활용한 대응 역량이 요구되고 있다. 공격자는 생성형 AI를 이용해 피싱 메일을 더 정교하게 작성하거나, 악성코드 제작과 변형 속도를 높이고 있다. 이에 따라 보안 현장에서도 단순히 탐지된 이벤트를 확인하는 수준을 넘어, 앞으로 발생할 수 있는 위협을 예측하고 선제적으로 대응하는 능력이 중요해지고 있다.

이러한 흐름에 맞춰 ‘ISEC Training Course’에서는 ‘LLM/RAG 기반 사이버 위협 예측 및 예측 AI Agent 구축’ 교육을 진행한다. 이번 과정은 초대형 언어 모델인 LLM과 검색 증강 생성 기술인 RAG를 활용해 사이버 위협 예측 파이프라인을 구축하고, 이를 AI Agent 형태로 확장하는 방법을 실습 중심으로 다룬다.

이번 교육은 보안 담당자를 위한 전문 교육 과정으로, 2026년 8월 11일부터 12일까지 ‘ISEC 2026’ 동시 개최 행사로 진행된다. 공공기관과 기업 보안 담당자 등 보안 종사자를 대상으로 하며, 실습 중심의 교육을 통해 생성형 AI를 보안 업무에 실제로 적용하는 방법을 단계적으로 학습할 수 있도록 구성됐다.

LLM은 챗GPT와 같은 생성형 AI를 의미한다. 사람이 질문을 입력하면 문맥을 이해하고 자연스러운 문장으로 답변을 생성하는 기술이다. 하지만 LLM은 때때로 실제 근거가 부족한 내용을 그럴듯하게 답변하는 문제가 있다. 이를 ‘환각’(Hallucination)이라고 한다. 보안 분야에서는 잘못된 분석 결과가 실제 침해사고 대응 실패로 이어질 수 있기 때문에, AI가 신뢰할 수 있는 자료를 기반으로 답변하도록 만드는 것이 중요하다.

이를 보완하기 위해 활용되는 기술이 RAG다. RAG는 AI가 단순히 기억에 의존해 답변하는 것이 아니라, 보안 리포트나 위협 인텔리전스, 로그, 패킷 데이터 등 외부 자료를 먼저 검색하고, 그 근거를 바탕으로 답변하도록 만드는 방식이다. 쉽게 말해, AI에게 참고자료를 제공해 더 정확하고 신뢰성 있는 답변을 하게 만드는 기술이다.

이번 교육에서는 LLM과 RAG를 결합해 사이버 위협을 예측하는 전체 흐름을 직접 구축한다. 여기서 파이프라인은 데이터를 수집하고, 분석하고, 결과를 도출하기까지의 일련의 처리 과정을 의미한다. 교육생들은 보안 리포트를 기반으로 RAG 데이터셋을 만들고, 패킷 데이터에서 위협 예측에 필요한 증거를 추출한 뒤, 이를 LLM과 결합해 사이버 위협 예측 결과를 도출하는 과정을 실습하게 된다.

1일차 교육은 ‘사이버 위협 예측을 위한 LLM/RAG 파이프라인 구축’을 주제로 진행된다. 먼저 사이버 위협 예측이 무엇인지, 기존 예측 방식에는 어떤 한계가 있는지 살펴본다. 이어 LLM과 RAG의 기본 개념을 배우고, 보안 리포트를 활용해 RAG 데이터셋을 구축한다. 이후 패킷 데이터에서 공격 징후나 위협 판단에 필요한 증거를 추출하고, 이를 RAG와 결합해 사이버 위협 예측 파이프라인을 구성한다. 마지막으로 Prompt-Tuning을 통해 AI에게 질문하고 지시하는 방식을 개선하고, 구축된 파이프라인의 성능을 평가하는 실습을 진행한다.

2일차 교육은 ‘LLM/RAG 파이프라인 고도화 및 AI Agent 구축’을 중심으로 구성된다. 먼저 LLM의 대표적인 한계인 환각 문제와 그 위험성을 이해하고, 이를 줄이기 위한 해결 방법을 학습한다. 이어 RAG 파이프라인을 더 정확하고 안정적으로 개선하는 고도화 기법을 다룬다. 이후 AI Agent의 개념과 구성요소를 배우고, LangChain을 활용해 사이버 위협 예측 파이프라인을 Agent 형태로 확장하는 실습을 진행한다.

AI Agent는 단순히 질문에 답하는 AI가 아니라, 사용자의 목표를 이해하고 필요한 작업을 스스로 판단해 수행하는 AI 시스템을 말한다. 예를 들어 보안담당자가 “이 패킷이 위험한지 분석해 줘”라고 요청하면, AI Agent가 관련 데이터를 확인하고, 필요한 보안 도구를 선택하고, 참고할 보안 리포트를 검색한 뒤, 위협 가능성과 판단 근거를 정리하는 방식이다.

이번 과정에서 활용되는 LangChain은 LLM, RAG, 데이터베이스, 외부 보안 도구 등을 서로 연결해 하나의 AI 서비스처럼 동작하게 해주는 개발 도구다. 교육생들은 LangChain 기반한 LLM/RAG 파이프라인 구축하고 더 나아가 LLM이 자율적으로 필요한 보안 도구를 선택하고 분석 절차를 수행하는 오케스트레이션을 실습하게 된다.

이번 ISEC Training Course의 가장 큰 특징은 초보자도 따라올 수 있도록 이론과 실습을 단계적으로 구성했다는 점이다. 단순히 AI 개념을 설명하는 데 그치지 않고, 보안업무에서 실제로 활용할 수 있는 형태로 교육이 진행된다. 보안 리포트 기반 RAG 데이터셋 구축, 패킷 데이터 증거 추출, LLM-RAG 결합, 환각 제어, Prompt-Tuning, AI Agent 구축까지 보안담당자가 실제 업무에 적용할 수 있는 전 과정을 다룬다.

교육 대상은 공공기관 및 기업 보안 담당자, 보안관제 담당자, 침해사고 분석 담당자, AI 기반 보안 자동화에 관심 있는 보안 실무자다. 특히 생성형 AI를 보안 업무에 적용하고 싶지만 어디서부터 시작해야 할지 막막했던 실무자들에게 유용한 과정이 될 것으로 기대된다.

이번 ISEC Training Course의 참가신청은 ISEC 2026 홈페이지에서 가능하다.

[원병철 기자(boanone@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다