금융보안원, ‘금융 AI 안전성·신뢰성 평가 프레임워크’ 개발

망분리 완화 등 규제혁신으로 가속화되는 금융권 AX 체계적 위험관리 기반 마련

[보안뉴스 강초희 기자] 금융보안원(원장 박상원)은 망분리 완화 등 금융당국의 규제 혁신으로 금융권 인공지능 전환(AX)이 가속화됨에 따라, AI 활용 확대에 수반되는 위험을 체계적으로 관리하고 AI의 안전성과 신뢰성을 객관적·종합적으로 평가할 수 있는 프레임워크를 개발했다.

금융회사의 AI 활용이 핵심 업무 영역까지 확대되면서 AI 환각, 오작동, 보안사고 등 AI 시스템에서 발생할 수 있는 새로운 리스크에 대응하고, 금융산업에 특화된 평가 기준을 마련할 필요성이 제기돼 왔다.

금융보안원은 국내외 주요 AI 평가 체계를 조사·분석해 AI 관련 규제 체계에 부합하는 세부 기술 평가 항목과 기준을 마련했다.

엄격한 규제 준수와 고도의 안전성·신뢰성이 요구되는 금융회사의 업무 특성을 고려했으며, 금융위원회가 발표한 ‘금융분야 인공지능 가이드라인’ 내 신뢰성·보안성 원칙에 대한 기술적 검증이 가능하도록 구성했다.

금융보안원은 금융회사를 대상으로 14일 온라인 설명회를 열고 9월 중 수요조사를 실시하며, 하반기 중 ‘금융 AI 안전성·신뢰성 평가’ 시범 검증을 수행할 계획이다. 시범 검증을 통해 평가 프레임워크의 실효성을 검증·보완해 완성도를 높이고, 2027년부터 본격적인 평가 업무를 개시할 예정이다.

아울러 이번 평가 프레임워크가 ‘AI 기본법’에 따른 AI 안전성·신뢰성 검증·인증 체계로도 활용될 수 있도록 추진할 계획이다.

박상원 금융보안원장은 “이번 프레임워크는 금융산업의 특수성을 반영한 국내 최초의 AI 안전성·신뢰성 평가 체계라는 점에서 의미가 크다”며 “AI 서비스의 잠재적 위험을 실질적으로 평가할 수 있도록 기술 평가 항목을 강화했으며, 향후 금융권의 표준 프레임워크로 발전시켜 안전하고 신뢰할 수 있는 금융권의 AI 활용을 지원할 계획”이라고 밝혔다.

[강초희 기자(choh@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다