“사람처럼 드나드는 AI 에이전트... 인증 규격 등 ‘보안 프레임워크’ 시급”

“안방처럼 드나드는데 인증 규격도 아직 없어”

[보안뉴스 강현주 기자] AI 에이전트의 안전한 도입과 운영을 위한 보안 프레임워크가 빠르게 마련돼야 한다는 지적이 나왔다. 사람을 대신해 내부 시스템에 들어와 업무를 수행하는 만큼, 접근 관리 체계 등의 표준이 필요하다는 목소리다.

27일 최영철 SGA솔루션즈 대표는 한국정보보호산업협회(KISIA)에서 열린 기자간담회에서 ‘사이버보안 솔루션 기술 개요’를 주제로 강연하며 이 같이 강조했다.

최 대표는 “예전에는 AI 보안의 초점이 사용자가 챗GPT나 클로드를 쓸 때 발생하는 데이터 유출 방지, 환각 현상, 프롬프트 인젝션 공격 등에 맞춰져 있던 수준”이라며 “하지만 AI 에이전트 단계는 다른 차원”이라고 말했다.

AI 에이전트는 회사 내부로 들어와 사람 대신 데이터베이스(DB)에 접근하고 메일 계정까지 접속하며 작동한다는 설명이다. 가령 영수증 처리를 ERP 시스템에 자동 등록하는 등 사람의 업무를 대신하기 위해 외부 퍼블릭 클라우드 등에 상시 노출된다.

최 대표는 “이런 에이전트가 해커에게 장악되면 시키지도 않은 일을 하기 위해 DB에 들어가 정보를 꺼내 외부로 보내거나, 하지 말라고 했던 영역까지 넘어서서 갈 수 있다”며 “AI를 위한 보안은 단순히 대규모 언어 모델(LLM)을 넘어 AI 에이전트용 보안 프레임워크가 빠르게 마련돼야 한다”며 제로트러스트 보안체계의 중요성을 강조했다.

이어 “사람의 경우 현재 공동인증서, 카카오 인증 등을 다 갖고 있는데, 에이전트에도 인증을 적용해야 할텐데 어떤 식별번호를 부여할 것인가 등의 글로벌 표준이 나온게 아직 없다”며 “가령 중국의 경우 휴머노이드 로봇에 ID를 넣는다고 하는데, 그 방법이 동일한 규격이 있는 게 아니고, 관련 요소 기술들도 여기저기 분절돼 있다”고 했다.

기업 뿐 아니라 공공기관에서도 효율과 혁신을 위해 AI 에이전트 도입이 권장되고 있는만큼, 제어 메커니즘은 아직 미비하다는 게 최 대표의 지적이다.

최 대표는 “미국의 경우 AI RMF 같은 관련 표준이 마련되고 있지만 세부적인 내용들이 완성되지 않았고 아직 글로벌 표준이 정립되지 않은 상태”라며 “관련 정책 마련과 더불어 제어 체계를 실질적으로 구현할 방법론 두가지 모두 시급하다”고 강조했다.

[강현주 기자(jjoo@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다