국정원, 미국·영국 주관 ‘안전한 AI 개발 가이드’에 파트너로 참여

안전한 AI 시스템 개발 환경 확보 위한 세계 정보기관 간 개발 가이드 합의
AI 개발과정에 ‘보안내재화’ 원칙 천명...설계부터 운영까지 단계별 상세 행동요령 제시

[보안뉴스 김영명 기자] 국가정보원은 11월 28일 영국 국가사이버안보센터(NCSC), 미국 사이버안보·인프라보호청(CISA) 및 파이브아이즈(Five-Eyes)를 비롯한 주요국 23개 기관들이 참여한 ‘안전한 AI 시스템 개발 가이드라인’을 공동으로 발표했다.

▲국정원이 영국 NCSC, 미국 CISA 등 주요국 23개 기관과 ‘안전한 AI 시스템 개발 가이드라인’을 공동으로 발표했다[로고=국정원]

이번 가이드라인에 참여한 기관은 △미국 NSA △미국 FBI △오스트레일리아 ACSC △캐나다 CCCS △뉴질랜드 NCSC △에스토니아 RIA △에스토니아 NCSC △프랑스 ANSSI △독일 BSI △이스라엘 INCD △이탈리아 ACN △일본 NISC △나이지리아 NITDA △노르웨이 NCSC △폴란드 MC △폴란드 NASK △싱가포르 CSA 등이다.

이번 가이드라인은 영국 NCSC와 미국 CISA가 최근 안전한 AI 시스템 확보를 위해 AI 개발과 관련한 가이드 마련을 주도하고, 우리나라 국정원 등 주요국 사이버안보기관이 협력 파트너로 대거 참여한 결과물이다.

특히, 국정원은 4월의 ‘한·미 전략적 사이버안보 협력 프레임워크’와 11월의 ‘한·영 전략적 사이버 파트너십’ 체결 등 연이은 정상간 사이버안보 협력 토대를 조성하는 가운데, 다방면의 연대를 공고히 하고자 협력 파트너로서 참여했다.

국정원에 따르면, 이번 가이드라인은 AI 시스템 제공업체의 IT 기술자들이 안전하게 개발하는데 도움을 주는 실용적인 조언을 제공하고 있다. 가이드라인은 먼저 개발과정 전반에 걸쳐 ‘보안내재화(Design by Secure)’를 강조하면서 △보안에 대한 책임 △책임성·투명성 보장 △기업 영업시 보안내재화 최우선적 고려 등 3개 원칙을 제시했다.

또한, 가이드라인은 안전한 AI시스템 개발방법에 대해 설계·개발·배포·운영 등 4단계로 구분해 단계별로 상세한 조치사항이 담겼다. 단계별 세부적인 내용으로는 ①안전한 설계 : 시스템에 대한 위협 요소 분석, 윤리적 요소 고려 ②안전한 개발 : 공급망 보안 대책 마련 ③안전한 배포 : 배포 IT 인프라 보호·AI 모델 조작 환경 보호 ④안전한 운영 : 시스템 행동 모니터링·자동 업데이트 보안대책 적용 등이다. 자세한 내용은 국정원 국가사이버안보센터 홈페이지에서 확인할 수 있다.

국정원 백종욱 3차장은 “국정원은 앞으로도 주요국들과 사이버안보 파트너십을 바탕으로 AI 등 신기술 등장에 따른 ‘신종 공격 위협’에 적극적으로 대응해 나갈 계획”이라고 밝혔다.
[김영명 기자(boan@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다