Home > 전체기사

인공지능 스피커의 마이크 부분에 빛을 쏘이니 “명령에 순종”

  |  입력 : 2020-11-25 14:40
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
장비 가격에 따라 먼 거리에서도 공격 가능…고양이 장난감 사은품도 활용돼
빛을 쏘면 음성으로 인식…이런 현상에 대한 물리적 설명은 아직 불가능한 상태


[보안뉴스 문가용 기자] 미국 미시건대학과 일본 전자통신대학의 연구원들은 아직도 명확히 이해하지 못하고 있다. 작년 자신들이 했던 실험이 왜 성공했는지를 말이다. 그들은 2019년 아마존 알렉사, 구글 홈, 애플 시리, 페이스북 포털이 탑재된 장비의 마이크로폰에 물리적으로 빛을 쏨으로써 명령을 주입하는 실험을 진행했었다.

[이미지 = utoimage]


당시 연구원들은 레이저 빔을 사용해 약 110미터 떨어진 곳에서 인공지능 스피커의 마이크로폰 부분을 공략했었다. 소리 없이 악성 명령을 주입할 수 있다는 것을 증명한 것이다. 그리고 올해 수수께끼와 같은 부분들을 연구하고 이해하는 데에 주력했다고 한다.

“이 공격을 성립시켜주는 물리적 특성을 아직 다 설명할 수가 없습니다. 그래서 올해는 이 특성을 보다 깊이 이해하는 데에 시간을 투자했습니다.” 미시간대학의 벤자민 서(Benjamin Cyr)의 설명이다. “빛을 쏘여 명령을 전달하는 순간, 물리적 차원에서는 어떤 일이 일어나는지 정확하게 알고 싶었습니다. 그래야 안전한 장비 제조에 도움이 될 테니까요.”

이들이 풀고 싶었던 첫 번째 문제는 ‘왜 인공지능 스피커들은 빛을 소리처럼 인식할까?’였다. 이 문제를 탐구하다가 현재는 센서 시스템 전반으로 연구 대상을 확장시켰다. 그리고 보안 카메라를 인공지능 스피커를 통해 조작할 수 있는 방법을 발견해 냈다. 이를 블랙햇 유럽 행사에서 공개할 예정이다. 동시에 아마존 에코 3를 대상으로 한 빛 명령 주입 공격 시연도 있을 것이라고 한다. 빛이 마이크에 닿는 순간 나는 소리도 공개된다.

이 연구가 의미를 갖는 건 사물인터넷 장비들이 최근 폭발적으로 늘어나고 있지만, 보안 개념을 바탕으로 만들어진 건 하나도 없기 때문이다. 연구원들도 “사물인터넷 장비들은 기상천외한 공격에 노출되어 있다는 것을 증명하고 싶었다”고 말한다. “저희가 개발한 빛 공격이 그 자체로 위험하다는 게 아닙니다. 이 정도로 색다른 공격이 가능하다는 걸 증명하고 싶었습니다.”

이 공격 실험에 들어간 비용은 2천 달러도 되지 않았다고 한다. 공격에는 ‘광령(Light Commands)’이라는 이름을 붙였다. 구매한 장비는 레이저 포인터, 레이저 드라이버, 소리 증폭기였다. 하지만 연구원들은 100달러 미만으로도 공격을 성공시킬 수 있다고 설명한다. “고양이 장난감 레이저 포인터로도 공격이 가능합니다. 이런 장비들은 고양이 물품 사면 사은품으로 나오기도 하죠. 고양이 물품 사서 레이저만 가져간 뒤 나머지를 중고로 팔면 공격 비용이 상당히 줄어듭니다.”

물론 비용을 더 들이면 더 먼 거리에서의 공격도 가능하게 된다. “200달러짜리 망원 렌즈를 사면 공격 가능 거리를 유의미하게 늘릴 수 있다는 것을 확인할 수 있었습니다. 더 비싼 렌즈를 사면 더 먼 곳에서도 공격이 가능할 것으로 보입니다. 결국에는 마이크의 ‘어쿠스틱’ 부분에 빛을 쏴서 어쿠스틱 신호로 전환시키는 것이 공격의 핵심이니까요. 신호가 어쿠스틱으로 전환되면 빛을 통해 들어온 명령이 음성 명령으로 인식됩니다.”

실험을 통해 연구진들은 음성으로 발동되는 다양한 사물인터넷 장비들에 명령을 내리고 기능을 수행하도록 만들었다. “차고 문을 열고, 스마트락을 잠그거나 풀고, 보안 카메라를 조작할 수 있었습니다.” 그런 후 아마존, 구글 등 주요 장비 제조사들에 이 사실을 알리고 패치가 될 때까지 기다렸다. 아마존은 작은 픽스를 발표했다. “차세대 장비들은 마이크 부분에 커버가 씌워져 있더군요. 저희 연구 때문인 건지는 모르겠습니다만.”

음성으로 발동되는 사물인터넷 장비들의 경우 이들의 ‘광령 공격’에 전부 노출되어 있다고 볼 수 있다고 연구진들은 주장했다. 그러면서 “센서나 마이크 부분에 빛이 닿지 않도록 막아두면 어느 정도 방어 효과를 볼 수 있다”고 강조했다. 혹은 아마존처럼 추가 인증 단계를 도입함으로써 장비 주인이 아니면 아예 명령을 내릴 수 없도록 하는 것도 좋은 방법이라고 한다. 물론 이는 제조사들이 취해야 할 조치들이다.

3줄 요약
1. 음성 인식 시스템의 마이크에 빛을 쪼이면 소리 없이 음성 명령 주입이 가능.
2. 사물인터넷 장비들은 기존에 없었던 새로운 사이버 공격의 유형을 가능하게 함.
3. 제조사들 편에서 여러 가지 패치(소프트웨어 및 하드웨어)를 진행해줘야 안전.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
보안전문 기자들이 뽑은 2021년 보안 핫키워드 10개 가운데 가장 관심이 높은 키워드는?
민간인증서부터 융복합인증까지, 인증의 시대 열린다
랜섬웨어 공격, ‘불특정 다수’에서 ‘표적형’으로 진화
데이터 프라이버시가 기업들의 목을 죈다
재택근무와 주 52시간 근무제, 오피스 보안 ‘혁신’ 예고
영상·음성까지 합성 ‘딥페이크’, 비대면 사회 침투하나
의료·제약 분야, 코로나19 다음은 해커
스마트공장 구축은 OT/ICS 보안 정립부터
드론, 융합보안 산업의 핵심 아이템이 되다
몸집 키운 ADT캡스-에스원 대격돌, 보안시장 지각변동
CCTV 시스템온칩 대란, 중소기업 생존까지 위협