.jpg)
.jpg)
[3줄 요약]
1. 공공용·민간용 같은 날 배포… 생애주기별 관리 공통 강조
2. 국정원 ‘AI 보안 가이드’, N2SF 등 국가 보안 체계 연동 강조
3. 과기정통부 ‘인공지능(AI) 보안 안내서’, 산업 생태계 신뢰 초점
[보안뉴스 강현주 기자] 국가정보원과 과학기술정보통신부가 같은 날 AI 보안 관련 지침서를 각각 배포했다. 국정원은 국가 및 공공기관용, 과기정통부는 기업 및 개인용이며 전반적 개념 등 큰 틀에서 많은 공통점이 있다. 반면 대상과 초점 등에선 차이가 있다.
국정원 ‘AI 보안 가이드’와 과기정통부 ‘인공지능(AI) 보안 안내서’는 모두 △AI 시스템 전 생애주기(수명주기) 단계별 보안 관리 △데이터 오염 등 AI 특화 공격 방어책 △보안 거버넌스 체계 구축 등을 다룬다는 공통점이 있다. AI를 위한 보안과 보안을 위한 AI 개념 제시도 공통점이다.
수명주기 구분·데이터 오염 방지·거버넌스 등 공통 강조
국정원은 AI 시스템의 ‘수명주기’를 구분해 ‘데이터 수집 - AI학습 - AI시스템 구축 - AI시스템 운영 - AI 시스템 폐기’ 단계별 발생 가능한 보안 위협들을 제시했다.
과기정통부는 같은 개념인 ‘생애주기’를 ‘계획 및 설계 - 데이터 수집 및 준비 - 모델 개발 – 모델 배포 -모니터링 및 유지보수 – 파기’ 등 6단계로 구분해 단계별로 보안 체크리스트를 마련했다.
양측 모두 ‘데이터 오염’ 방지를 강조했다. 국정원은 데이터 수집 단계의 위협으로 ‘학습데이터 오염’을 언급하며 신뢰할 수 있는 출처의 데이터 활용 필요성을 제시했다. 또 내부 업무용 AI를 외부망에 연계할 때 외부의 오염된 데이터가 유입되는 것을 차단해야 함을 강조했다.
과기정통부는 데이터 수집 및 준비 단계에서 ‘데이터 중독 공격에 대한 방어 대책 마련’ 여부를 체크 항목으로 넣었다. 모델 개발 단계에선 악의적 사용자의 허위 데이터 삽입 가능성 차단 여부를 명시했다. 또 모델 오염 공격에 대한 방어책 수립을 체크하도록 했다.
이와 함께 AI 보안 거버넌스 체계의 중요성도 두 조직 모두 내세우는 점이다. AI 보안을 담당하는 조직의 역할과 책임을 명확히해야 함을 강조한다. 내부 정책과 지침 수립 및 조직원 숙지 필요성 등도 언급한다.
“산업 생태계와 국가 안보, 연결되는 것”
AI 보안 적용에 있어서 어디에 초점을 두는지는 두 기관이 차이를 보인다.
국정원 가이드는 국가 안보와 핵심 정보 보호에 중점을 두고 국가 보안 체계 연동을 강조한다.
국정원은 특히 국가망보안체계(N2SF)와 AI 시스템 연계를 강조했다. 국정원은 데이터 보안성을 유지함과 동시에 업무 효율성을 높이는 AI·클라우드 등 신기술 활용을 장려하기 위해 ‘N2SF’와 ‘국가 클라우드 컴퓨팅 보안 가이드라인’을 제정했다. 이에 따라 “AI시스템의 보안대책을 수립할 때엔 시스템 성격에 따라 관련된 지침·가이드라인 등을 충분히 고려해야 한다”고 강조한다.
국정원 가이드는 또 구축 및 활용 환경별 맞춤형 보안을 중점적으로 다룬다. 내부망 전용 AI 시스템, 내부 업무 AI 시스템의 외부망 연계, 대민 서비스용 AI의 외부망 연계 등으로 구분해 유형별 보안 대책을 다룬다. 상용 AI 서비스와 에이전틱 AI, 피지컬 AI 등 미래형 AI 시스템에 대한 대책도 제시했다.
반면 과기정통부 안내서는 AI 산업 생태계 전반의 정보보호와 신뢰 환경 조성에 초점을 맞춘다. AI 시스템 개발자, 서비스 제공자, 이용자를 위한 보안 체크리스트를 분리해 제시하는 게 특징이다. 또 데이터, 모델, 컴퓨팅 자원 등 AI 시스템의 구성 요소별 보안 요구사항을 다룬다.
이와 함께 AI 시스템 침해 사고가 발생했을 때 신속히 대응 및 복구하기 위한 비상 계획을 수립하고, 모의훈련을 수행할 것을 권장한다. AI 보안 활동의 지속적 프로세스 정립과 AI 서비스의 신뢰성 보장을 강조한다.
정부 한 관계자는 “같은 AI 보안을 다루더라도 과기정통부는 민간이 대상이라 안전하고 신뢰 높은 산업 생태계에, 국정원은 국가안보와 국가 및 국민의 기밀 유지에 중점을 둔 지침서를 낸 것으로 보인다”며 “산업 생태계와 국가 안보는 별개가 아니라 상호작용 하는 것으로, AI 시대 더 증가하는 보안 위협에 양 기관의 AI 보안 역량을 이용해 협업하며 시너지를 내는 것이 바람직하다”고 말했다.
[강현주 기자(jjoo@boannews.com)]
1. 공공용·민간용 같은 날 배포… 생애주기별 관리 공통 강조
2. 국정원 ‘AI 보안 가이드’, N2SF 등 국가 보안 체계 연동 강조
3. 과기정통부 ‘인공지능(AI) 보안 안내서’, 산업 생태계 신뢰 초점
[보안뉴스 강현주 기자] 국가정보원과 과학기술정보통신부가 같은 날 AI 보안 관련 지침서를 각각 배포했다. 국정원은 국가 및 공공기관용, 과기정통부는 기업 및 개인용이며 전반적 개념 등 큰 틀에서 많은 공통점이 있다. 반면 대상과 초점 등에선 차이가 있다.
국정원 ‘AI 보안 가이드’와 과기정통부 ‘인공지능(AI) 보안 안내서’는 모두 △AI 시스템 전 생애주기(수명주기) 단계별 보안 관리 △데이터 오염 등 AI 특화 공격 방어책 △보안 거버넌스 체계 구축 등을 다룬다는 공통점이 있다. AI를 위한 보안과 보안을 위한 AI 개념 제시도 공통점이다.
▲인공지능 보안 안내서와 AI 보안 가이드 [자료: 과기정통부, 국정원]
수명주기 구분·데이터 오염 방지·거버넌스 등 공통 강조
국정원은 AI 시스템의 ‘수명주기’를 구분해 ‘데이터 수집 - AI학습 - AI시스템 구축 - AI시스템 운영 - AI 시스템 폐기’ 단계별 발생 가능한 보안 위협들을 제시했다.
과기정통부는 같은 개념인 ‘생애주기’를 ‘계획 및 설계 - 데이터 수집 및 준비 - 모델 개발 – 모델 배포 -모니터링 및 유지보수 – 파기’ 등 6단계로 구분해 단계별로 보안 체크리스트를 마련했다.
양측 모두 ‘데이터 오염’ 방지를 강조했다. 국정원은 데이터 수집 단계의 위협으로 ‘학습데이터 오염’을 언급하며 신뢰할 수 있는 출처의 데이터 활용 필요성을 제시했다. 또 내부 업무용 AI를 외부망에 연계할 때 외부의 오염된 데이터가 유입되는 것을 차단해야 함을 강조했다.
과기정통부는 데이터 수집 및 준비 단계에서 ‘데이터 중독 공격에 대한 방어 대책 마련’ 여부를 체크 항목으로 넣었다. 모델 개발 단계에선 악의적 사용자의 허위 데이터 삽입 가능성 차단 여부를 명시했다. 또 모델 오염 공격에 대한 방어책 수립을 체크하도록 했다.
이와 함께 AI 보안 거버넌스 체계의 중요성도 두 조직 모두 내세우는 점이다. AI 보안을 담당하는 조직의 역할과 책임을 명확히해야 함을 강조한다. 내부 정책과 지침 수립 및 조직원 숙지 필요성 등도 언급한다.
“산업 생태계와 국가 안보, 연결되는 것”
AI 보안 적용에 있어서 어디에 초점을 두는지는 두 기관이 차이를 보인다.
국정원 가이드는 국가 안보와 핵심 정보 보호에 중점을 두고 국가 보안 체계 연동을 강조한다.
국정원은 특히 국가망보안체계(N2SF)와 AI 시스템 연계를 강조했다. 국정원은 데이터 보안성을 유지함과 동시에 업무 효율성을 높이는 AI·클라우드 등 신기술 활용을 장려하기 위해 ‘N2SF’와 ‘국가 클라우드 컴퓨팅 보안 가이드라인’을 제정했다. 이에 따라 “AI시스템의 보안대책을 수립할 때엔 시스템 성격에 따라 관련된 지침·가이드라인 등을 충분히 고려해야 한다”고 강조한다.
국정원 가이드는 또 구축 및 활용 환경별 맞춤형 보안을 중점적으로 다룬다. 내부망 전용 AI 시스템, 내부 업무 AI 시스템의 외부망 연계, 대민 서비스용 AI의 외부망 연계 등으로 구분해 유형별 보안 대책을 다룬다. 상용 AI 서비스와 에이전틱 AI, 피지컬 AI 등 미래형 AI 시스템에 대한 대책도 제시했다.
반면 과기정통부 안내서는 AI 산업 생태계 전반의 정보보호와 신뢰 환경 조성에 초점을 맞춘다. AI 시스템 개발자, 서비스 제공자, 이용자를 위한 보안 체크리스트를 분리해 제시하는 게 특징이다. 또 데이터, 모델, 컴퓨팅 자원 등 AI 시스템의 구성 요소별 보안 요구사항을 다룬다.
이와 함께 AI 시스템 침해 사고가 발생했을 때 신속히 대응 및 복구하기 위한 비상 계획을 수립하고, 모의훈련을 수행할 것을 권장한다. AI 보안 활동의 지속적 프로세스 정립과 AI 서비스의 신뢰성 보장을 강조한다.
정부 한 관계자는 “같은 AI 보안을 다루더라도 과기정통부는 민간이 대상이라 안전하고 신뢰 높은 산업 생태계에, 국정원은 국가안보와 국가 및 국민의 기밀 유지에 중점을 둔 지침서를 낸 것으로 보인다”며 “산업 생태계와 국가 안보는 별개가 아니라 상호작용 하는 것으로, AI 시대 더 증가하는 보안 위협에 양 기관의 AI 보안 역량을 이용해 협업하며 시너지를 내는 것이 바람직하다”고 말했다.
[강현주 기자(jjoo@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
강현주기자 기사보기
.gif)
.jpg)
.png)
.jpg)
.png)
