한국정보보호학회 AI보안연구회 창립기념 ‘2019 AI 보안 워크샵’ 개최
이경현 회장과 조현숙 소장, 최소영 편집인과 성재모 PM 등 보안전문가 패널토론
[보안뉴스 원병철 기자] 알파고의 등장과 함께 이제는 일반인에게도 친숙한 단어가 되어버린 인공지능(AI)은 어느 틈엔가 정보보호 산업에도 널리 접목되고 있다. 특히, 4차 산업혁명 시대에 접어들면서 빅데이터, IoT와 함께 다음 세대를 이끌어갈 핵심기술로도 각광받고 있다. 하지만 인공지능은 정보보안과는 또 다른 영역으로, 쉽게 적용하기 어려운 기술이기도 하다. 이러한 상황에서 한국정보보호학회에서 AI보안연구회를 만들어 본격적인 보안 접목을 위한 AI 연구에 나서 주목받고 있다.
한국정보보호학회(회장 이경현) AI보안연구회(회장 정수환)는 11월 21일 서울 코엑스에서 ‘2019 AI 보안 워크샵’을 열고 창립기념식을 대체했다. 특히, 이날 워크샵은 별도의 개회식을 하지 않고 △학계 △연구계 △언론계의 보안전문가들과 함께 ‘AI가 보안에 미치는 순기능과 역기능’을 주제로 패널토론을 열었다.
패널토론의 사회를 맡은 정수환 교수(숭실대, 한국정보보호학회 수석부회장)는 “향후 10년 안에 세상을 가장 많이 바꿀 기술이 바로 AI”라면서, “하지만 반대로 10년 안에 세상을 가장 위협할 수 있는 기술이 바로 AI이기도 하다”고 설명했다. “오늘 패널토론은 이미 정보보호 분야에 큰 영향을 미치고 있는 AI에 대해서 각 분야의 보안전문가 의견을 듣고자 마련했습니다. 과연 AI가 보안에 미치는 순기능은 무엇이고, 역기능은 무엇인지 함께 이야기해 보겠습니다.”
첫 번째 발제는 이경현 한국정보보호학회 회장이 나섰다. 이경현 회장은 “처음 인터넷이 등장했을 때 아무도 보안에는 관심이 없었고, 시간이 지나면서 여러 사이버공격과 취약점 등이 등장하면서 보안의 중요성이 대두됐다”면서 “AI도 마찬가지 상황”이라고 설명했다.
“최근 딥러닝을 중심으로 한 인공지능 기술이 여러 분야에 접목되고 있는데 역시나 보안에 대한 고려가 부족한 상황입니다. 이러한 상황에서 보안연구회가 시작된 것은 매우 시의적절하다고 볼 수 있습니다. 특히, 세계 유수의 보안 컨퍼런스에서 ‘인공지능과 보안’에 대한 논문들이 10여 편 이상 계속 나오고 있어 앞으로 우리들도 보안연구회를 중심으로 연구를 지속해야 할 것입니다.”
이경현 회장은 최근 이슈인 보안 내재화, 즉 Security by Design은 물론 개인정보보호를 내재화하는 Privacy by Design을 넘어 인공지능 내재화인 AI by Design이 등장할 것으로 예상하면서 “과기정통부도 AI 보안에 대한 관심과 투자를 약속한 만큼 우리도 AI보안에 대한 연구를 지속해야할 것”이라고 강조했다.
두 번째 패널로 나선 조현숙 국가보안기술연구소 소장은 “AI가 통신과 제조, 서비스 등 산업에 적용되면서 4차 산업혁명 시대의 핵심기술로 자리매김했지만, 악용될 수 있는 이중성과 구조적 특성 때문에 취약점이 존재한다”며 그 위험성을 지적했다. “가트너가 2020년 10대 전략기술 트렌드를 발표하면서 ‘AI보안’을 포함시켰지만, 그 위험성도 강조했습니다. 아울러 최근에는 취약점 발굴 및 침투코드 생성분야에서도 AI 기술이 접목되고 있고, 인간 해커를 능가하는 피싱 공격 등 복잡한 공격과정도 자동화되어 블랙햇과 같은 보안 컨퍼런스에서 소개되고 있습니다. 이처럼 AI가 사이버공격에 활용될 경우 사이버위협 양상은 대량화·고속화·자동화되는 형태로 변화할 것으로 예측됩니다.”
조현숙 소장은 이러한 사이버위협 양상에 대응하기 위해서는 기계적인 속도로 사이버위협을 인식하고, 분석하며, 자동으로 대응할 수 있는 AI 기반의 대응체계 마련이 필요하다고 강조했다. 덧붙여 이를 위해 △위협모델과 위협정보의 규격화 △정보공유체계 △AI 기반의 판단 및 분류 모델 △보안장비와의 연동체계 등이 고려돼야 한다고 밝혔다.
이어 최소영 보안뉴스 편집인은 “최근 정부가 인공지능 기술기반 확보를 위해 향후 10년간 2조원의 예산을 집중 투자한다고 발표했는데, 과연 2조원 안에 인공지능 보안 예산은 얼마나 할당됐는지 묻고 싶다”며 서두를 꺼냈다.
“이번 과기정통부의 조직개편을 보면 D.N.A, 즉 데이터와 네트워크, 그리고 인공지능이 중심임을 알 수 있습니다. 하지만 Security가 빠진 D.N.A는 모래성이라는 사실을 우리는 잘 알고 있습니다. 이경현 회장님이 말씀하신 것처럼 우리는 정보화를 추진하면서 보안에는 소홀했습니다. 이제 와서 보안장비를 추가하고 보안 내재화를 주장하고 있지만 이미 문제는 커진 상황입니다. 인공지능 역시 지금부터 보안을 함께 고려해 설계하고, 단계별로 보안문제를 고민해야 합니다.”
아울러 최소영 편집인은 “AI는 단일 산업이 아닌 애플리케이션 산업으로 자율주행차와 인공지능 의료 서비스 등 기존 산업에 접목되어 경쟁력을 강화하고 있다”면서, “AI 강국이 되기 위해서는 AI를 적용할 모든 사업분야에서 ‘보안’에 대한 인식과 이해도가 높아지고, 보안이 가장 우선적으로 고려되고 함께 설계되어야 할 것”이라고 강조했다.
마지막 패널로 나선 성재모 IITP PM은 “이미 인공지능은 여러 보안제품에 적용되고 있다”면서, “실제 보안관련 연구 중 35~40%가 인공지능 기반 보안 연구일 정도”라고 설명했다. “이러한 시점에서 AI보안연구회의 창립은 매우 의미가 깊습니다. 이 안에서 이뤄질 여러 연구들이 향후 정보보안 연구 강화는 물론 5G 시대의 보안 연구에 있어 매우 중요한 역할을 할 것입니다. 또한, AI 국가전략에서 보안 측면이 없다면 안전성과 신뢰성이 담보될 수 없기 때문에 당연히 보안이 포함될 것입니다.”
한편, 이날 오후에는 컨퍼런스가 진행됐는데, △국가보안기술연구소 김종욱 박사의 ‘딥러닝을 이용한 제어시스템 이상행위 탐지’ △KAIST 손수엘 교수의 ‘Machine Learning-guided JS engine Fuzzing and bug classification’ △공주대 최대선 교수의 ‘딥러닝 분류기에 대한 기만 공격’ △서울대 정교민 교수의 ‘Convolutional Deep Neural Network의 개념과 응용’ △한양대 ERICA 이상근 교수의 ‘기계학습의 취약성과 오동작 유도 공격 기법의 이해’ 등 AI보안과 관련된 강연이 펼쳐졌다.
[원병철 기자(boanone@boannews.com)]
이경현 회장과 조현숙 소장, 최소영 편집인과 성재모 PM 등 보안전문가 패널토론
[보안뉴스 원병철 기자] 알파고의 등장과 함께 이제는 일반인에게도 친숙한 단어가 되어버린 인공지능(AI)은 어느 틈엔가 정보보호 산업에도 널리 접목되고 있다. 특히, 4차 산업혁명 시대에 접어들면서 빅데이터, IoT와 함께 다음 세대를 이끌어갈 핵심기술로도 각광받고 있다. 하지만 인공지능은 정보보안과는 또 다른 영역으로, 쉽게 적용하기 어려운 기술이기도 하다. 이러한 상황에서 한국정보보호학회에서 AI보안연구회를 만들어 본격적인 보안 접목을 위한 AI 연구에 나서 주목받고 있다.
▲2019 AI 보안 워크샵의 패널토론 모습[사진=보안뉴스]
한국정보보호학회(회장 이경현) AI보안연구회(회장 정수환)는 11월 21일 서울 코엑스에서 ‘2019 AI 보안 워크샵’을 열고 창립기념식을 대체했다. 특히, 이날 워크샵은 별도의 개회식을 하지 않고 △학계 △연구계 △언론계의 보안전문가들과 함께 ‘AI가 보안에 미치는 순기능과 역기능’을 주제로 패널토론을 열었다.
패널토론의 사회를 맡은 정수환 교수(숭실대, 한국정보보호학회 수석부회장)는 “향후 10년 안에 세상을 가장 많이 바꿀 기술이 바로 AI”라면서, “하지만 반대로 10년 안에 세상을 가장 위협할 수 있는 기술이 바로 AI이기도 하다”고 설명했다. “오늘 패널토론은 이미 정보보호 분야에 큰 영향을 미치고 있는 AI에 대해서 각 분야의 보안전문가 의견을 듣고자 마련했습니다. 과연 AI가 보안에 미치는 순기능은 무엇이고, 역기능은 무엇인지 함께 이야기해 보겠습니다.”
첫 번째 발제는 이경현 한국정보보호학회 회장이 나섰다. 이경현 회장은 “처음 인터넷이 등장했을 때 아무도 보안에는 관심이 없었고, 시간이 지나면서 여러 사이버공격과 취약점 등이 등장하면서 보안의 중요성이 대두됐다”면서 “AI도 마찬가지 상황”이라고 설명했다.
“최근 딥러닝을 중심으로 한 인공지능 기술이 여러 분야에 접목되고 있는데 역시나 보안에 대한 고려가 부족한 상황입니다. 이러한 상황에서 보안연구회가 시작된 것은 매우 시의적절하다고 볼 수 있습니다. 특히, 세계 유수의 보안 컨퍼런스에서 ‘인공지능과 보안’에 대한 논문들이 10여 편 이상 계속 나오고 있어 앞으로 우리들도 보안연구회를 중심으로 연구를 지속해야 할 것입니다.”
이경현 회장은 최근 이슈인 보안 내재화, 즉 Security by Design은 물론 개인정보보호를 내재화하는 Privacy by Design을 넘어 인공지능 내재화인 AI by Design이 등장할 것으로 예상하면서 “과기정통부도 AI 보안에 대한 관심과 투자를 약속한 만큼 우리도 AI보안에 대한 연구를 지속해야할 것”이라고 강조했다.
▲2019 AI 보안 워크샵을 빛낸 내외귀빈들[사진=보안뉴스]
두 번째 패널로 나선 조현숙 국가보안기술연구소 소장은 “AI가 통신과 제조, 서비스 등 산업에 적용되면서 4차 산업혁명 시대의 핵심기술로 자리매김했지만, 악용될 수 있는 이중성과 구조적 특성 때문에 취약점이 존재한다”며 그 위험성을 지적했다. “가트너가 2020년 10대 전략기술 트렌드를 발표하면서 ‘AI보안’을 포함시켰지만, 그 위험성도 강조했습니다. 아울러 최근에는 취약점 발굴 및 침투코드 생성분야에서도 AI 기술이 접목되고 있고, 인간 해커를 능가하는 피싱 공격 등 복잡한 공격과정도 자동화되어 블랙햇과 같은 보안 컨퍼런스에서 소개되고 있습니다. 이처럼 AI가 사이버공격에 활용될 경우 사이버위협 양상은 대량화·고속화·자동화되는 형태로 변화할 것으로 예측됩니다.”
조현숙 소장은 이러한 사이버위협 양상에 대응하기 위해서는 기계적인 속도로 사이버위협을 인식하고, 분석하며, 자동으로 대응할 수 있는 AI 기반의 대응체계 마련이 필요하다고 강조했다. 덧붙여 이를 위해 △위협모델과 위협정보의 규격화 △정보공유체계 △AI 기반의 판단 및 분류 모델 △보안장비와의 연동체계 등이 고려돼야 한다고 밝혔다.
이어 최소영 보안뉴스 편집인은 “최근 정부가 인공지능 기술기반 확보를 위해 향후 10년간 2조원의 예산을 집중 투자한다고 발표했는데, 과연 2조원 안에 인공지능 보안 예산은 얼마나 할당됐는지 묻고 싶다”며 서두를 꺼냈다.
“이번 과기정통부의 조직개편을 보면 D.N.A, 즉 데이터와 네트워크, 그리고 인공지능이 중심임을 알 수 있습니다. 하지만 Security가 빠진 D.N.A는 모래성이라는 사실을 우리는 잘 알고 있습니다. 이경현 회장님이 말씀하신 것처럼 우리는 정보화를 추진하면서 보안에는 소홀했습니다. 이제 와서 보안장비를 추가하고 보안 내재화를 주장하고 있지만 이미 문제는 커진 상황입니다. 인공지능 역시 지금부터 보안을 함께 고려해 설계하고, 단계별로 보안문제를 고민해야 합니다.”
아울러 최소영 편집인은 “AI는 단일 산업이 아닌 애플리케이션 산업으로 자율주행차와 인공지능 의료 서비스 등 기존 산업에 접목되어 경쟁력을 강화하고 있다”면서, “AI 강국이 되기 위해서는 AI를 적용할 모든 사업분야에서 ‘보안’에 대한 인식과 이해도가 높아지고, 보안이 가장 우선적으로 고려되고 함께 설계되어야 할 것”이라고 강조했다.
마지막 패널로 나선 성재모 IITP PM은 “이미 인공지능은 여러 보안제품에 적용되고 있다”면서, “실제 보안관련 연구 중 35~40%가 인공지능 기반 보안 연구일 정도”라고 설명했다. “이러한 시점에서 AI보안연구회의 창립은 매우 의미가 깊습니다. 이 안에서 이뤄질 여러 연구들이 향후 정보보안 연구 강화는 물론 5G 시대의 보안 연구에 있어 매우 중요한 역할을 할 것입니다. 또한, AI 국가전략에서 보안 측면이 없다면 안전성과 신뢰성이 담보될 수 없기 때문에 당연히 보안이 포함될 것입니다.”
한편, 이날 오후에는 컨퍼런스가 진행됐는데, △국가보안기술연구소 김종욱 박사의 ‘딥러닝을 이용한 제어시스템 이상행위 탐지’ △KAIST 손수엘 교수의 ‘Machine Learning-guided JS engine Fuzzing and bug classification’ △공주대 최대선 교수의 ‘딥러닝 분류기에 대한 기만 공격’ △서울대 정교민 교수의 ‘Convolutional Deep Neural Network의 개념과 응용’ △한양대 ERICA 이상근 교수의 ‘기계학습의 취약성과 오동작 유도 공격 기법의 이해’ 등 AI보안과 관련된 강연이 펼쳐졌다.
[원병철 기자(boanone@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
원병철기자 기사보기
[2024-04-18] 
.jpg)
