AI가 업무 대신하는 시대, “양자내성 기반으로 AI 에이전트 권한 관리해야“... 제8차 양자보안포럼 개최

오상근 KQC 부사장, “권한 무결성 위한 양자 제로 트러스트 필요”

[보안뉴스 한세희 기자] “위임된 권한을 벗어나면 AI 에이전트는 사용자의 자산을 멋대로 매도할 위험이 있고, 피지컬 AI는 ‘터미네이터’가 될 수 있습니다.”

AI가 업무 환경에 빠르게 확산되면서 업무를 수행하는 AI 에이전트의 권한과 행동에 대한 통제가 새로운 보안 과제로 떠오르고 있다.

오상근 한국퀀텀컴퓨팅(KQC) 부사장은 30일 열린 ‘제8차 양자보안포럼’에서 “이제 탈취된 크리덴셜이 아니라 과잉 위임된 자율성이 문제”라며 “AI 에이전트 시대 제로 트러스트는 ‘누구인가’가 아니라 ‘지금 무엇을 해도 되는가’에 대한 질문으로 바뀌었다”고 말했다.

▲오상근 KQC 부사장이 30일 제8차 양자보안포럼에서 발표하고 있다. [출처: 보안뉴스]

현재 제로 트러스트가 사람과 기기, 세션 검증에 초점을 맞추고 있다면, AI 에이전트 시대엔 비인간 주체의 행동을 단위로 권한이 제대로 위임됐는지 검증하는 것이 과제가 됐다. 가트너에 따르면, 2028년까지 기업 애플리케이션의 33%에 에이전트 기능이 포함될 전망이다. 또 2028년까지 B2B 거래의 90%가 AI 에이전트를 사용, 15조달러 이상의 지출이 일어날 것으로 예상된다.

이같은 비인간 에이전트는 유효한 인증서와 토큰, 세션을 갖고 있어 크리덴셜엔 문제가 없음에도, 위임 권한 설정이 제대로 안 돼 뜻하지 않은 피해를 일으킬 수 있다. 자산 관리 에이전트가 사용자 대신 보유 재산을 자동 매도하는 등의 사고가 벌어질 우려가 있다.

이에 따라 에이전트에 최소한의 권한만 범위와 기간을 한정해 위임하는 방안이 논의되고 있다. 범위를 벗어난 행동에 대해선 애초에 유효한 자격을 부여하지 않게 강제해야 한다. 또 하드웨어 수준의 보안 수단이 필요하다는 지적이다.

오 부사장은 “모든 통제가 소프트웨어 레이어에서 이뤄지고, 권한의 루트까지 소프트웨어이면 해킹 위협이 크다”며 “국가 차원의 주요 시스템엔 엔터프라이즈 하드웨어 보안 모듈(HSM), 기타 시스템엔 경량 HSM을 적용해 보안성을 높일 필요가 있다”고 말했다.

양자내성암호(PQC) 전환 역시 데이터 기밀성을 넘어 권한 무결성까지 염두에 두어야 한다는 제언이다. 서명을 위조해 AI 에이전트나 피지컬 AI 단말 등에 정당하지 않은 권한을 부여하는 것을 막기 위해서다. PQC 기술과 하드웨어 보안 수단을 결합한 양자내성 권한 무결성을 구현, 에이전트가 권한을 위임받고 행동하는 전 과정을 안전하게 지켜야 한다는 설명이다.

오상근 부사장은 “양자 제로 트러스트란 에이전트의 권한 위임과 실행 허가가 양자 위협 가정 하에서도 위조되지 않도록 만드는 아키텍처를 말한다”며 “국가 PQC 전환 로드맵에 ‘권한 무결성’ 트랙이 필요하다”고 제언했다.

양자보안포럼(회장 이원태)은 양자기술 시대 사이버안보 선도국가 실현을 위한 민관 협력 플랫폼 구축을 목표로 출범했다. 양자컴퓨팅 시대에 대응한 안전한 디지털 혁신을 뒷받침하고, 양자보안 기술과 산업을 육성해 국가 사이버안보 역량을 강화한다.

산학연관 참여로 정보 공유와 협력을 강화하는 한편, 양자보안 정책을 발굴하고 제도 개선에 기여한다. QKD나 PQC 등 핵심 양자보안 기술 개발을 촉진하고, 국제협력과 인재 양성을 통해 생태계 조성을 지원할 계획이다.

[한세희 기자(hahn@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다