[이슈칼럼] AI 보안 표준화 동향, AI 위협 및 취약점 분석 가이드라인 필요성 제기

국제적으로 국가차원 AI 위협 및 취약점 분석 수행...가이드라인 개발 필요

[보안뉴스= 이훈재 동서대학교 교수] 세계 보안 산업계에서 큰 관심을 끌고 있는 AI관련 국제표준 개정이 현재 진행중이다. SC42 인공지능 소위원회에서 완료된 표준은 20여건이고, 개발 중인 표준을 포함하면 대략 50여건에 이른다. AI 관심도가 증가하면서 AI 위협요소와 관련된 적대적 사례(adversarial example)들이 점차 늘어나는 추세이다. 이에 따라 AI(보안) 표준 및 AI 역기능과 관련된 위협 및 취약점 사례들을 살펴본다. 국제적으로 국가차원 AI 위협 및 취약점 분석이 수행되고 있어 이에 대한 가이드라인 개발이 필요하다.

[이미지=gettyimagesbank]

AI(보안)표준화 현황
잘 알려진 AI관련 글로벌표준기구로는 국제표준화기구(ISO), 국제전기기술위원회(IEC), 전기전자공학자협회(IEEE), 국제 전기 통신 연합(ITU), 국제 인터넷 표준화 기구(IETF), 유럽 표준화 위원회(CEN), 유럽 전기기술표준화 위원회(CENELEC), 유럽전기통신표준협회(ETSI) 등이 있다. 그리고 각 표준기구는 AI관련 다양한 표준문서 개발이 진행중이다.

그중에서도 ISO/IEC JTC1 SC42 AI 표준화분과에서는 5개의 작업그룹(WG)이 서로 다른 업무분야로 표준화그룹을 형성하고 있다. 작업그룹1(WG1)은 기초표준으로 ‘정보기술-인공지능-인공지능 개념 및 용어(ISO/IEC ISO/IEC 22989: 2022)’를 포함한 2건이 개발 완료되었고, 총 5건의 표준화 작업이 있다.

작업그룹2(WG2)는 데이터 표준으로 ‘정보기술–빅데이터–개요 및 용어(ISO/IEC 20546:2019)’를 포함한 7건이 개발 완료되었고, 총 14건의 표준화 작업이 있다.

작업그룹3(WG3)은 신뢰성으로 ‘정보기술 – 인공지능(AI) – AI시스템의 편향 및 AI 지원의사결정(ISO/IEC TR 24027: 2021)’을 포함한 8건이 개발 완료되었고, 총 19건의 표준작업이 있다.

작업그룹4(WG4)는 이용사례 및 응용으로 ‘정보기술 – 인공지능(AI)- 활용사례(ISO/IEC TR 24030: 2021)’이 개발되었고, 총 4건의 표준화 작업이 있다.

작업그룹5(WG5)에서는 AI 시스템의 계산적 접근 및 계산적 특성에 관하여 ‘정보기술 – 인공지능(AI) -AI시스템을 위한 계산접근방식의 개요(ISO/IEC TR 24372: 2021)’을 포함한 2건이 개발완료되었고, 총 4건의 표준화 작업이 있다. 공동작업그룹(JWG)에서도 ‘정보기술 – IT거버넌스 – 조직의 인공지능사용이 거버넌스에 미치는 영향(ISO/IEC 38507: 2022)’이 개발완료됐다.

AI 위협 및 취약점
인공지능으로 인한 인류발전 순기능은 너무나 많이 알려져 있지만, 한편으로는 위협적인 요소가 되는 역기능으로 인한 우려의 목소리도 점차 높아지고 있다. 정교한 딥페이크 기술로 친구의 얼굴과 음성을 생성해 8억원에 상당하는 송금을 유도한 사기 사건이 최근 중국에서 발생했다. 이러한 중국의 실시간 딥페이크(DeepFake) 사기 행각은 AI위협 및 취약점과 직결이 된다.

또한, 미국 워싱턴 대학의 이반 에브티모프 등은 교통표지판에 스티커를 부착하여 ‘정지’ 표지판을 ‘속도제한’ 표지판으로 기만하는 공격이 가능함을 보여주고 있다. 이와 같은 적대적 사례 공격으로 자율주행차량에 교통표지판을 잘못 인식하도록 기만함으로써 자칫 자율주행차량의 혼란을 야기하고, 대규모 사고가 유발될 수도 있음을 경고하고 있다.

이번 표준화워크숍에서는 이러한 AI 위협 및 취약점에 대하여 다양한 위협요소와 취약점을 5가지 부류로 구분하여 제시하고 있다. 첫째 유형은 영상 시험데이터에 대한 기만공격, 영상 학습데이터를 추출하는 공격, 음성 시험데이터에 대한 기만공격, 음향신호 행위(터치/제스처)를 추출하는 공격, 그 이외 기타 부채널 공격으로 구분하여 볼 수 있다.

예를들어, 첫 번째 유형의 ‘Adversarial Patch’ 공격에서는 ‘바나나’로 학습된 사진에 ‘토스터’ 스티커를 추가 삽입했더니 AI가 ‘바나나’를 ‘토스터’로 잘못 인식하는 오류를 범하도록 기만하게 된다. 또한, ‘Fast Gradient Sign Method(FGSM) Attack’을 통해 2016년 대선주자 중에서 ‘안철수’ 후보가 ‘유승민’ 후보로 잘못 인식하는 기만을 유도하기도 한다.

이와 유사한 15가지 이상의 공격유형을 수집하여 첫째 유형으로 분류하고, 총 5가지 유형에서 40여 가지의 기만공격들이 체계적으로 정리되어 표준화 워크숍에서 발표된 바 있다.

▲AI 기만 공격 대응 예시[이미지=이훈재 교수]

한편, 최근에 민감한 정보를 수집하는 AI 스피커와 CCTV 등에 외산 장비나 외산 칩이 탑재된 상태로 우리 군 내무반에 버젓이 설치되는 사례가 늘고 있어 여러 가지 측면에서 경각심이 필요하다. 이런 사례는 보통 ‘하드웨어 트로이(HT, Hardware Trojan)’로 알려진 하드웨어 스파이 칩 형태가 대부분이다.

기존의 보안시스템에 인공지능 딥러닝기술이 결합된 HT검출기술분야는 일본과 미국 등에서 국가의 핵심기술로 지정하여 정부지원을 받고 있다. 이에 따른 우수 성과가 도출되고 있어 국내에서도 정부지원에 의한 기술개발이 시급한 실정이다. 즉, 임베디드 보안시스템에 대한 각종 공격기술 및 방어기술이 국가간 산업스파이기술로 이슈화되고 있다.

▲국제표준 ISO/IEC 19790 & 24759 표준화 활동을 하고 있는 동서대학교 정보보안학과 이훈재 교수[사진=이훈재 교수]

특히, 하드웨어 트로이(HT) 공격을 검출하는 기술에 많은 연구가 이루어지고 있다. HT검출기술은 디캡(decap)과 같은 칩 파괴검사와 비파괴검사 기술로 구분된다. 인공지능 딥러닝 기술이 접목된 CT촬영 등과 같은 비파괴검사에는 개발비용이나 인력측면에서 소규모 연구로는 어려움이 있어, 국책연구소 등과 같은 대규모 연구그룹에서 수행하는 것이 적절하다고 예측된다.

마지막으로, 이러한 AI 역기능 해소 노력중에는 과학기술정보통신부의 '신뢰할 수 있는 인공지능 실현 전략(2021)'을 통하여 한국과학기술기획평가원(KISTEP)과 한국전자통신연구원(ETRI)이 발표한 '디지털 역기능 대응 8대 정책방향'에 AI-인간의 협동형 직업·직무 개발, 디지털 범죄 대응 지능형 치안 강화, 디지털 윤리 및 안전의 글로벌 표준화 주도 등이 포함되어 있다.

시사점
이번 기고에서는 AI 보안관련 표준화 현황 및 AI 위협/취약점에 대하여 간단히 소개했다. 4차 산업혁명 시대에 AI는 기술의 중심 키워드가 되고 있고, 기고에서 요약한 바와 같이 AI 보안 및 위협이 날로 심각해지고 있다. 이 문제를 해결하기 위해 제정되고 있는 관련 표준들은 향후 이 기술들에 보안 향상에 큰 영향을 미칠 것으로 예상된다. 이와 함께 관련 위협을 완화 또는 제거하기 위해 AI 취약점에 대한 가이드라인 제정 뿐만 아니라, 많은 이용자와 개발자들의 특별한 관심이 필요할 것으로 사료된다.
[글_이훈재 동서대학교 교수]

3월 15일부터 시행되고 있는 개정 개인정보보호법과 관련해 가장 까다롭고 이행하기 어려운 조항은 무엇인가요?
	인공지능(AI) 등 자동화된 결정에 대한 정보주체 권리 구체화
	접근권한 관리 등 개인정보 안전성 확보조치 강화 및 고유식별정보 관리실태 정기조사
	영향평가 요약본 공개제도 도입 등 개인정보 영향평가제도
	영상정보처리기기 및 안전조치 기준
	개인정보 보호책임자의 전문성 강화 위한 전문CPO 지정
	국외 수집·이전 개인정보 처리방침 공개 등 개인정보 처리방침 평가제도
	손해배상책임 의무대상자 변경 및 확대
	공공기관 개인정보 보호수준 평가 확대
	기타(댓글로)