인공지능이 데이터 변조 공격에 당하면 큰 문제 발생...시스템 보호방안 필요
‘2018년 네이버 우수연구자’ 선정된 권현 대위, 인공지능 보안 강의
[보안뉴스 원병철 기자] 네이버는 최근 인공지능 보안에 대한 경각심을 제고하고 직원들의 기술역량 강화를 위한 강연을 개최했다. 그런데 이례적으로 육군 대위가 강단에 서 눈길을 끌었는데, 바로 지난해 ‘네이버 우수 연구자’로 선정됐던 권현 대위였다.
4차 산업혁명 시대에 각광을 받고 있는 인공지능은 고성능 컴퓨터 연산 및 로봇기술과 융합해 산업현장은 물론 일상생활과 국방 등 사회 전반에 걸쳐 점차 확산되고 있다. 기술 발전과 더불어 인공지능을 악용하는 경우도 있어 인공지능 보안 분야에 대한 관심이 요구되고 있다.
이날 강의에서 권 대위는 ‘인공지능의 Evasion attack과 대응방안’이라는 주제로 강연하며 인공지능 시스템 보호방안으로 ‘Friend-safe evasion attack’을 제안했다. 그는 “인공지능이 데이터 변조 공격(Evasion attack)에 노출될 경우 여러 문제가 발생될 수 있는데 예를 들어 사람이 보기에는 이상이 없는 좌회전 표지판을 자율주행차량은 우회전으로 잘못 인식하게 하거나 음성인식 스피커에서 어떤 물건을 주문할 때 잘못 인식하게 해서 엉뚱한 물건이 주문되게 한다든지, 개인정보를 다른 기계로 보내는 등 오작동을 발생시킬 수 있다”고 지적했다.
권 대위는 “세상을 이끌 안전한 인공지능 환경을 함께 만들어가자”고 강조하며 인공지능 기술의 데이터 변조 보안문제를 해결할 시스템 보호방안을 소개해 참석자들의 공감을 이끌어냈다.
인공지능 및 보안 관련 카이스트 박사 과정을 밟고 있는 권 대위는 최근 이슈가 되고 있는 인공지능 음성인식과 사물인식의 보안 취약점에 대한 연구를 하며 국제 저명학술지인 SCI에 논문 6편, 국제학술대회에 논문 5편을 게재하는 등 국제적으로도 연구 성과를 인정받고 있다. 특히, ‘Adversarial Example that is Safe for Friendly Deep Neural Networks’라는 논문의 주저자로서 지난 한해 국가정보원이 후원하는 사이버 안보(보안) 논문 공모전에서 장려상을 수상하기도 했다. 이외에도 미국 군사 분야 최고학회인 ‘Milcom’과 일본 인공지능 통신학회에 논문을 발표하고 국내 대학교에서 특강을 하는 등 활발한 학술활동을 이어가고 있다.
권 대위는 “발표한 연구를 확장시켜 군사용 표지판, 위장이나 은밀채널, 인공지능 인식 회피 등에 접목할 수 있다”며 “향후 발전될 인공지능 보안 분야에서 아군을 보호하고 적은 불리하게 통제할 수 있는 기술을 개발해 국방기술 발전에 기여하고 싶다”고 말했다. 이어 “민간에서 앞서 나가고 있는 학술 분야를 군에 접목시키기 위해 끊임없이 노력하는 연구자이자 군인이 되고 싶다”며 앞으로의 포부를 밝혔다.
[원병철 기자(boanone@boannews.com)]
‘2018년 네이버 우수연구자’ 선정된 권현 대위, 인공지능 보안 강의
[보안뉴스 원병철 기자] 네이버는 최근 인공지능 보안에 대한 경각심을 제고하고 직원들의 기술역량 강화를 위한 강연을 개최했다. 그런데 이례적으로 육군 대위가 강단에 서 눈길을 끌었는데, 바로 지난해 ‘네이버 우수 연구자’로 선정됐던 권현 대위였다.
▲네이버에서 강연 중안 권현 대위[사진=육군]
4차 산업혁명 시대에 각광을 받고 있는 인공지능은 고성능 컴퓨터 연산 및 로봇기술과 융합해 산업현장은 물론 일상생활과 국방 등 사회 전반에 걸쳐 점차 확산되고 있다. 기술 발전과 더불어 인공지능을 악용하는 경우도 있어 인공지능 보안 분야에 대한 관심이 요구되고 있다.
이날 강의에서 권 대위는 ‘인공지능의 Evasion attack과 대응방안’이라는 주제로 강연하며 인공지능 시스템 보호방안으로 ‘Friend-safe evasion attack’을 제안했다. 그는 “인공지능이 데이터 변조 공격(Evasion attack)에 노출될 경우 여러 문제가 발생될 수 있는데 예를 들어 사람이 보기에는 이상이 없는 좌회전 표지판을 자율주행차량은 우회전으로 잘못 인식하게 하거나 음성인식 스피커에서 어떤 물건을 주문할 때 잘못 인식하게 해서 엉뚱한 물건이 주문되게 한다든지, 개인정보를 다른 기계로 보내는 등 오작동을 발생시킬 수 있다”고 지적했다.
권 대위는 “세상을 이끌 안전한 인공지능 환경을 함께 만들어가자”고 강조하며 인공지능 기술의 데이터 변조 보안문제를 해결할 시스템 보호방안을 소개해 참석자들의 공감을 이끌어냈다.
인공지능 및 보안 관련 카이스트 박사 과정을 밟고 있는 권 대위는 최근 이슈가 되고 있는 인공지능 음성인식과 사물인식의 보안 취약점에 대한 연구를 하며 국제 저명학술지인 SCI에 논문 6편, 국제학술대회에 논문 5편을 게재하는 등 국제적으로도 연구 성과를 인정받고 있다. 특히, ‘Adversarial Example that is Safe for Friendly Deep Neural Networks’라는 논문의 주저자로서 지난 한해 국가정보원이 후원하는 사이버 안보(보안) 논문 공모전에서 장려상을 수상하기도 했다. 이외에도 미국 군사 분야 최고학회인 ‘Milcom’과 일본 인공지능 통신학회에 논문을 발표하고 국내 대학교에서 특강을 하는 등 활발한 학술활동을 이어가고 있다.
권 대위는 “발표한 연구를 확장시켜 군사용 표지판, 위장이나 은밀채널, 인공지능 인식 회피 등에 접목할 수 있다”며 “향후 발전될 인공지능 보안 분야에서 아군을 보호하고 적은 불리하게 통제할 수 있는 기술을 개발해 국방기술 발전에 기여하고 싶다”고 말했다. 이어 “민간에서 앞서 나가고 있는 학술 분야를 군에 접목시키기 위해 끊임없이 노력하는 연구자이자 군인이 되고 싶다”며 앞으로의 포부를 밝혔다.
[원병철 기자(boanone@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
원병철기자 기사보기
[2024-04-18] 
.jpg)
.jpg)
.jpg)
