S2W, 국제사이버범죄대응 심포지엄서 생성형 AI 보안 위협 대응 방안 제시

S2W, ISCR 2025서 차세대 보안 위협 현황발표
S2W, 보안 가드레일 기술로 선제적 대응

[보안뉴스 여이레 기자] 빅데이터 분석 인공지능(AI) 기업 에스투더블유(이하 S2W)가 26일 오후 서울 서초 JW 메리어트 호텔 서울에서 진행된 ‘2025 국제사이버범죄대응 심포지엄(ISCR 2025)’에 초청돼, 생성형 AI 시대의 신종 보안 위협에 관한 발표를 진행했다고 27일 밝혔다.

양종헌 S2W 오펜시브연구팀장 [사진: S2W]

올해 26회째를 맞는 ISCR은 경찰청 수사국이 주관하는 사이버보안 분야 대표 학술행사로, ‘사이버 치안 거버넌스를 통한 안전 확보’를 목표로 매년 개최되고 있다. 올해는 ‘사이버세상 속 신뢰: 모두를 위한 안전’을 주제로 국내외 사이버범죄 전문가들이 참가해 안전한 사이버 공간 조성을 위한 지식과 경험을 공유했다.

이날 행사에서 양종헌 S2W 오펜시브연구팀장은 ‘AI 에이전트 및 멀티 에이전트 시스템 취약점 및 보안 위협’을 주제로 발표를 진행했다.

양 팀장은 대규모 언어모델(LLM) 기반 AI 에이전트와 멀티 에이전트 시스템을 표적으로 한 대표적인 보안 위협 8가지를 제시했다. 주요 위협으로는 △프롬프트 인젝션 △모델 포이즈닝 △악성도구를 이용한 권한 상승 등이 포함됐다.

올해 실제 발생한 생성형 AI 보안 사고 사례들도 상세히 소개했다. △랭스미스 랭체인 허브 어뷰징 △레노버 ‘레나’ 챗봇 XSS 공격 △아마존 Q 개발자 플러그인 어뷰징 등의 구체적인 사례를 통해 생성형 AI 환경에서의 보안 위협이 현실화되고 있음을 경고했다.

이날 행사에서 양종헌 S2W 오펜시브연구팀장은 ‘AI 에이전트 및 멀티 에이전트 시스템 취약점 및 보안 위협’을 주제로 공개세션 발표를 진행했다.

양 팀장은 ‘프롬프트 인젝션(Prompt Injection)’과 ‘모델 포이즈닝’, ‘악성도구를 이용한 권한 상승’ 등을 포함해 대규모 언어모델(LLM) 기반 AI 에이전트 및 멀티 에이전트 시스템의 취약점을 공략한 대표적인 보안 위협 8종과 이에 대한 대응책을 소개했다.

S2W는 이러한 위협에 대응하기 위해 독자적인 보안 기술을 개발해 실제 서비스에 적용하고 있다. S2W는 LLM의 개발부터 배포, 운영 전 과정에서 안전성과 신뢰성을 보장하는 방어 체계인 ‘시큐리티 가드레일’(Security Guardrail)'을 자체 개발했다. 이 기술은 S2W의 산업 특화 AI 플랫폼 'SAIP’(S2W AI Platform)에 탑재돼 생성형 AI 서비스 운용 시 발생할 수 있는 다양한 사이버 위협을 차단하는 역할을 하고 있다.

또한 S2W의 위협인텔리전스센터 ‘탈론’(TALON)은 온톨로지 기반 지식그래프 기술을 활용해 악성코드, 취약점, 위협 행위자 간의 연관관계를 정밀 분석한다. 이를 통해 고객들이 점점 지능화되는 AI 기반 사이버 위협에 맞서 최적화된 방어 전략을 수립할 수 있도록 지원하고 있다.

양종헌 팀장은 “이번 심포지엄 발표는 구체적인 사례를 통해 생성형 AI 시대 보안 위협의 실체를 심층 조명하고, 이를 선제적으로 차단할 수 있는 방안에 대한 인사이트를 공유하는 뜻깊은 기회였다”며 “S2W는 생성형 AI가 야기한 새로운 위협 환경을 분석하는 것을 넘어, 실제 현장에서 적용 가능한 고도화된 방어 체계를 구축하는 데 주력할 것”이라고 말했다.

[여이레 기자(gore@boannews.com)]

우리나라 정보보호 수준 향상을 위해 이재명 정부에게 가장 바라는 점은 무엇인가요?
	ISMS 등 보안 인증 제도 실효성 개선
	AI 보안, 양자보안 등 보안 기술 연구개발 지원 확대
	중소 기업 보안 지원 확대
	기업 보안 예산 비율 의무화
	국가 정보보호 거버넌스 체계 정비
	기타(댓글로)