보안 업체 체크막스, 알렉사의 듣는 세션 끝내지 않을 방법 찾아
아마존에 알려 문제 해결한 후 공격법에 대한 영상도 공개
[보안뉴스 문가용 기자] 아마존의 인공지능 음성 어시스턴트인 알렉사(Alexa)를 어뷰징해서 사용자를 도청하는 것이 가능하다는 사실이 밝혀졌다. 보안 업체 체크막스(Checkmarx)의 연구원들이 발견한 내용이다.
알렉사는 전 세계 약 3천 1백만 장비 속에 탑재된 인공지능으로 사용자가 ‘알렉사’라고 부르면 깨어나 활동을 시작한다. 그 다음으로는 지능형 가상 비서(Intelligent Personal Assistant)가 요청으로 들어온 기능을 발휘하거나 애플리케이션을 발동시킨다. 이러한 기능이나 애플리케이션을 스킬(skill)이라고 부르는데, 이 스킬은 기본 탑재되어 있기도 하고, 일부는 알렉사 스킬 스토어(Alexa Skill Store)에서 판매되기도 한다.
체크막스의 전문가들은 악성 스킬 애플리케이션을 하나 만들었다. 배경에서 들리는 사용자의 음성을 모두 녹음하고, 이를 외부로 유출시키는 기능을 가진 것이었다. 사용자에게 어떠한 경고나 통제 없이 말이다.
하지만 모든 알렉사는 사용자의 ‘알렉사’라는 호출 음성이 있어야만 스킬이 발동된다. 즉 음성을 기록하는 것도 사용자가 ‘알렉사’라고 활성화를 시킨 후에야 가능하다는 것이다. 또한 프라이버시 보호를 위해 알렉사가 사용자의 음성을 듣는 시간도 알렉사가 응답을 내보낸 후에는 종료된다. 그래서 체크막스의 전문가들은 알렉사의 듣는 시간(listening session)이 끝나지 않으며, 그러한 사실이 사용자에게 알려지지 않도록 악성 스킬을 만들어야 했다.
먼저 알렉사에는 shouldEndSession이라는 플래그가 있다. 이는 세션이 한 사이클 끝난 후에도 살아있도록 유지시켜 주는 것이다. 서비스의 응답 텍스트가 사용자에게 읽혀진 이후에도 말이다. 다만 사용자에게 ‘듣는 시간(listening session)’이 아직 살아있다는 걸 알려준다.
체크막스의 전문가들은 이 shouldEndSession을 어떻게 해서든 활용해야만 했다. 사용자에게 알려주지 않고 이 기능을 활성화시키려면 어떻게 해야 할까가 연구됐다. 이들은 리프롬프트(re-prompt) 기능을 활용했다. shouldEndSession과 비슷한 기능을 가지고 있지만 ‘빈 리프롬프트’를 받아들인다는 차이점이 있다. 이것은 “새로운 리스닝 사이클을 시작하되 사용자에게 알리지 않아도 된다”는 뜻이라고 체크막스는 설명한다.
그런 후 연구원들은 사용자의 음성을 최대한 정확하게 텍스트로 옮기는 방법을 연구했다. 그리고 새로운 슬롯 형식의 음성 캡처 기능을 추가했다. 특정 단어들의 목록을 입력해, 해당 단어들만 알아듣도록 한 것에서 옵션을 보다 활짝 연 것이다. 또한 다양한 길이에 따른 문자열도 구축했다.
그럼에도 문제는 하나 남아있었다. 알렉사가 탑재된 아마존 에코의 경우 알렉사가 계속해서 사용자의 음성을 듣고 있으면 파란 불이 켜진다는 것이다. 하지만 이는 큰 문제가 아니었다. 특정 알렉사 탑재 장비 벤더들의 경우 이러한 시각적인 알림 장치를 기기에 넣지 않는 경우가 왕왕 있기도 하고, 사용자들도 이 불빛에는 큰 신경을 쓰지 않는다는 것이 밝혀졌기 때문이다.
“알렉사가 아직도 켜져 있다는 걸 파란 불빛이 보여주긴 하지만, 애초에 알렉사 관련 제품들이 음성으로 작동하는 것이니 사용자들이 쳐다볼 필요가 전혀 없어요. 스마트폰이나 패드가 아니라는 겁니다. 심지어 알렉사를 잘 보이지 않는 구석에 놓고 사용하는 사람들이 대부분이고요. 보지 않고서도 필요한 응답을 얻을 수 있는 게 알렉사 제품의 셀링 포인트입니다.”
이 악성 스킬 앱은 뭔가 배경에서 소리가 나기만 한다면 계속해서 작동하도록 되어 있다. 그러나 완벽히 고요할 경우, 알렉사는 원래 8초 후에 세션을 종료하지만 체크막스 전문가들은 빈 리프롬프트를 활용해 이를 16초로 연장시키는 것에도 성공했다고 한다.
체크막스는 아마존에 이와 같은 사실들을 알렸다. 그리고 아마존과 같이 이러한 위협을 줄일 수 있도록 함께 작업했다고 밝혔다. 앱이나 스킬을 인증할 때 정상보다 긴 세션이나 빈 리프롬프트를 탐지할 수 있도록 했다.
[국제부 문가용 기자(globoan@boannews.com)]
아마존에 알려 문제 해결한 후 공격법에 대한 영상도 공개
[보안뉴스 문가용 기자] 아마존의 인공지능 음성 어시스턴트인 알렉사(Alexa)를 어뷰징해서 사용자를 도청하는 것이 가능하다는 사실이 밝혀졌다. 보안 업체 체크막스(Checkmarx)의 연구원들이 발견한 내용이다.
[이미지 = iclickart]
알렉사는 전 세계 약 3천 1백만 장비 속에 탑재된 인공지능으로 사용자가 ‘알렉사’라고 부르면 깨어나 활동을 시작한다. 그 다음으로는 지능형 가상 비서(Intelligent Personal Assistant)가 요청으로 들어온 기능을 발휘하거나 애플리케이션을 발동시킨다. 이러한 기능이나 애플리케이션을 스킬(skill)이라고 부르는데, 이 스킬은 기본 탑재되어 있기도 하고, 일부는 알렉사 스킬 스토어(Alexa Skill Store)에서 판매되기도 한다.
체크막스의 전문가들은 악성 스킬 애플리케이션을 하나 만들었다. 배경에서 들리는 사용자의 음성을 모두 녹음하고, 이를 외부로 유출시키는 기능을 가진 것이었다. 사용자에게 어떠한 경고나 통제 없이 말이다.
하지만 모든 알렉사는 사용자의 ‘알렉사’라는 호출 음성이 있어야만 스킬이 발동된다. 즉 음성을 기록하는 것도 사용자가 ‘알렉사’라고 활성화를 시킨 후에야 가능하다는 것이다. 또한 프라이버시 보호를 위해 알렉사가 사용자의 음성을 듣는 시간도 알렉사가 응답을 내보낸 후에는 종료된다. 그래서 체크막스의 전문가들은 알렉사의 듣는 시간(listening session)이 끝나지 않으며, 그러한 사실이 사용자에게 알려지지 않도록 악성 스킬을 만들어야 했다.
먼저 알렉사에는 shouldEndSession이라는 플래그가 있다. 이는 세션이 한 사이클 끝난 후에도 살아있도록 유지시켜 주는 것이다. 서비스의 응답 텍스트가 사용자에게 읽혀진 이후에도 말이다. 다만 사용자에게 ‘듣는 시간(listening session)’이 아직 살아있다는 걸 알려준다.
체크막스의 전문가들은 이 shouldEndSession을 어떻게 해서든 활용해야만 했다. 사용자에게 알려주지 않고 이 기능을 활성화시키려면 어떻게 해야 할까가 연구됐다. 이들은 리프롬프트(re-prompt) 기능을 활용했다. shouldEndSession과 비슷한 기능을 가지고 있지만 ‘빈 리프롬프트’를 받아들인다는 차이점이 있다. 이것은 “새로운 리스닝 사이클을 시작하되 사용자에게 알리지 않아도 된다”는 뜻이라고 체크막스는 설명한다.
그런 후 연구원들은 사용자의 음성을 최대한 정확하게 텍스트로 옮기는 방법을 연구했다. 그리고 새로운 슬롯 형식의 음성 캡처 기능을 추가했다. 특정 단어들의 목록을 입력해, 해당 단어들만 알아듣도록 한 것에서 옵션을 보다 활짝 연 것이다. 또한 다양한 길이에 따른 문자열도 구축했다.
그럼에도 문제는 하나 남아있었다. 알렉사가 탑재된 아마존 에코의 경우 알렉사가 계속해서 사용자의 음성을 듣고 있으면 파란 불이 켜진다는 것이다. 하지만 이는 큰 문제가 아니었다. 특정 알렉사 탑재 장비 벤더들의 경우 이러한 시각적인 알림 장치를 기기에 넣지 않는 경우가 왕왕 있기도 하고, 사용자들도 이 불빛에는 큰 신경을 쓰지 않는다는 것이 밝혀졌기 때문이다.
“알렉사가 아직도 켜져 있다는 걸 파란 불빛이 보여주긴 하지만, 애초에 알렉사 관련 제품들이 음성으로 작동하는 것이니 사용자들이 쳐다볼 필요가 전혀 없어요. 스마트폰이나 패드가 아니라는 겁니다. 심지어 알렉사를 잘 보이지 않는 구석에 놓고 사용하는 사람들이 대부분이고요. 보지 않고서도 필요한 응답을 얻을 수 있는 게 알렉사 제품의 셀링 포인트입니다.”
이 악성 스킬 앱은 뭔가 배경에서 소리가 나기만 한다면 계속해서 작동하도록 되어 있다. 그러나 완벽히 고요할 경우, 알렉사는 원래 8초 후에 세션을 종료하지만 체크막스 전문가들은 빈 리프롬프트를 활용해 이를 16초로 연장시키는 것에도 성공했다고 한다.
체크막스는 아마존에 이와 같은 사실들을 알렸다. 그리고 아마존과 같이 이러한 위협을 줄일 수 있도록 함께 작업했다고 밝혔다. 앱이나 스킬을 인증할 때 정상보다 긴 세션이나 빈 리프롬프트를 탐지할 수 있도록 했다.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2025-04-07] 
.png)
