Home > 전체기사
인공지능에 레이저를 사용해 음성 명령을 전달할 수 있다?
  |  입력 : 2019-11-06 15:55
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
미국과 일본의 대학 연구원들이 연구...음성 장비, 빛으로도 통제 가능
공격에 들어가는 비용은 600달러 정도...공격 가능한 최소 거리는 110미터


[보안뉴스 문가용 기자] 레이저를 사용해 음성 명령을 시리와 알렉사, 구글 어시스턴트에 입력시킬 수 있다는 연구 결과가 발표됐다. 미국 미시건대학교와 일본 전자통신대학의 전문가들이 힘을 합해 진행한 이번 연구를 통해 인공지능 음성 어시스턴트들을 공략하는 게 가능한 일이 되었다.

[이미지 = iclickart]


이 공격법에는 ‘광명령(Light Commands)’이라는 이름이 붙었다. 대부분의 현대 기기에 탑재된 ‘미세 전자 기계 시스템(Micro Electro Mechanical Systems, MEMS)’ 기반의 마이크로폰이 빛에 반응하기 때문에 성립 가능한 공격법이다.

마이크로폰은 음파를 전자 오디오 신호로 변환시키는 기계다. “하지만 레이저와 같은 광원에도 반응을 하더군요. 우연히 그 사실을 발견했습니다. 반응 방식은 음파에 반응하는 그것과 비슷하고요. 이를 활용해 마이크로폰에 빛을 주입함으로써 소리가 주입된 것과 같은 효과를 줄 수 있습니다.”

만약 스마트폰이나 패드 등에 탑재되어 있는 음성 어시스턴트 기술을 공격하고자 한다면, 공격자로서는 빛을 쏘아줌으로써 음성을 입력한 것과 동일한 효과를 얻을 수 있게 된다는 뜻이 된다. 장비는 음성 명령으로 이를 받아들여 처리할 것이고, 이를 통해 사용자가 예상치 못한 현상을 일으킬 수 있게 된다.

연구원들에 의하면 이러한 방법으로 다양한 명령을 실행하는 게 가능하다고 설명한다. “스마트 홈 장비를 통해 불을 마음대로 껐다 켰다 할 수도 있고, 차고 문을 열 수도 있으며, 차량에 멋대로 시동도 켜고, 대문을 열 수도 있습니다. 온라인 쇼핑도 마음껏 할 수 있고요.”

연구원들은 이러한 연구 결과를 상세히 보고서(https://lightcommands.com/20191104-Light-Commands.pdf)로 작성해 발표했으며, 광명령의 위험성을 알리기 위한 웹사이트(https://lightcommands.com/)도 개설했다. 영상 데모도 녹화해 공개하고 있다.

발표를 하기 전에 연구원들은 10개가 넘는 장비들을 전부 실험했다고 한다. 애플, 구글, 아마존, 페이스북, 삼성에서 나오는 대부분의 음성 어시스턴트 기반 장비들이 포함되어 있었다. 장비에 따라 결과가 조금씩 달라지긴 하지만, 최소 110미터 떨어진 거리에서 공격을 성공시킬 수 있었다고 한다. 연구실 복도 길이라는 한계가 있었기 때문에 최대 공격 가능 거리를 측정하기에는 무리가 있었다.

공격에 드는 비용은 600달러 정도라고 한다. “누구라도 살 수 있는 소비자용 레이저 장비를 구매하면 됩니다. 프레젠테이션 할 때 자주 사용하는 레이저 포인터 같은 것이면 되죠. 여기에 신호를 모듈화 할 수 있는 레이저 드라이버, 녹음된 명령을 재생시킬 증폭기, 레이저 빛을 한 곳에 모을 수 있는 렌즈가 더 필요합니다.” 공격 거리가 상당히 길 경우에는 별도의 광 초점 장비가 추가로 필요할 수 있다.

공격을 더 은밀히 진행하기 위해서 공격자들은 눈에 보이지 않는 레이저를 사용할 수 있다. 또한 다른 공격을 진행하기에 앞서 음성 어시스턴트에 스피커 볼륨을 낮추라는 명령을 전달하면, 음성 어시스턴트의 대답 소리가 잘 들리지 않게 되므로 공격을 훨씬 조용하게 진행할 수 있다.

연구원들에 의하면 이런 공격을 방어하는 가장 효과적인 방법은 “사용자 인증 장치를 하나 더 추가하는 것”이라고 한다. “여기에 더해 스피터가 있는 부분이 빛에 잘 닿지 않도록 막아두는 것도 좋은 방법입니다. 늘 들고다니며 움직이는 장비라면 레이저로 맞추기가 힘들지만, 가만히 한 곳에 서 있는 장비라면 마이크 앞에 뭔가 장애물을 두는 편이 좋습니다.”

3줄 요약
1. 많은 장비들에 탑재된 마이크로폰, 파동과 빛 모두에 반응.
2. 이를 악용해 레이저 포인터 등으로 가짜 명령 전달 가능.
3. 애플, 아마존, 구글, 삼성의 모든 인공지능 어시스턴트 공략 가능.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
지난 10월 정보보호정책관을 정보네트워크정책관으로 변경하는 과학기술정보통신부의 조직 개편 움직임이 논란이 된 바 있습니다. 과기정통부에서 정보보호 업무를 총괄하는 조직 위상에 대한 견해는?
과기정통부에서 분리해 별도의 정부부처가 전담해야
과기정통부 내 정보보호정책실(실장급)로 격상시켜야
지금처럼 정보보호정책관(국장급) 조직을 유지해야
네트워크 업무를 통합시키되, 정보보호네트워크정책관(국장급)으로 명명해야
과기정통부의 초안처럼 정보네트워크정책관(국장급)으로 해야
기타(댓글로)
      

이스온
원격감시 / 안전관리

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

파나소닉코리아
Sevurity Camera / CCTV

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

AVIGILON
영상 보안 / 출입 통제

대명코퍼레이션
DVR / IP카메라

티제이원
영상 보안 / 출입 통제

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

비전정보통신
IP카메라 / VMS / 폴

다후아 코리아
CCTV / DVR

씨앤비텍
통합보안솔루션

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

피엔에이
CCTV / IP 카메라 모듈

테크스피어
손혈관 / 차량하부 검색기

쿠도커뮤니케이션
스마트 관제 솔루션

슈프리마
출입통제 / 얼굴인식

아이티엑스엠투엠
DVR / NVR / IP CAMERA

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

링크플로우
이동형 CCTV 솔루션

한국씨텍
PTZ CCTV

엔토스정보통신
DVR / NVR / CCTV

경인씨엔에스
CCTV / 자동복구장치

트루엔
IP 카메라

씨오피코리아
CCTV 영상 전송장비

CCTV협동조합
CCTV

디비시스
CCTV토탈솔루션

도마카바코리아
시큐리티 게이트

다민정보산업
기업형 스토리지

테크어헤드
얼굴인식 소프트웨어

에스카
CCTV / 영상개선

브이유텍
플랫폼 기반 통합 NVR

윈스
지능형 차세대 방화벽

포티넷
네트워크 보안

화이트박스로보틱스
CCTV / 카메라

신우테크
팬틸드 / 하우징

네이즈
VMS

케이제이테크
지문 / 얼굴 출입 통제기

혜인에스앤에스
통합보안시스템

셀링스시스템
IP 카메라 / 비디오 서버

사라다
지능형 객체 인식 시스템

수퍼락
출입통제 시스템

구네보코리아
보안게이트

일산정밀
CCTV / 부품 / 윈도우

아이엔아이
울타리 침입 감지 시스템

이노뎁
VMS

새눈
CCTV 상태관리 솔루션

케이티앤씨
CCTV / 모듈 / 도어락

파이브지티
얼굴인식 시스템

이스트컨트롤
통합 출입 통제 솔루션

아이유플러스
레이더 / 카메라

지와이네트웍스
CCTV 영상분석

두레옵트로닉스
카메라 렌즈

지에스티엔지니어링
게이트 / 스피드게이트

이후커뮤니케이션
전송장치/CCTV

창우
폴대

넷플로우
IP인터폰 / 방송시스템

대산시큐리티
CCTV 폴 / 함체 / 랙

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

DK솔루션
메트릭스 / 망전송시스템

싸이닉스
스피드 돔 카메라

다원테크
CCTV / POLE / 브라켓

유진시스템코리아
팬틸트 / 하우징

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

카티스
출입통제 / 외곽경비

세환엠에스
시큐리티 게이트