“AI 캐리커처, 신원 사칭 위험 주의”

“내 모든 정보 기반 생성... 디지털 사기 노출 위험”
프롬프트에 본인 식별 가능 정보 입력 자제 등 주의 필요

[보안뉴스 강현주 기자] AI 활용 캐리커처나 애니메이션 제작 도구에 개인 맥락 정보를 공유하는 것이 신원 사칭 및 사회공학 공격을 초래할 수 있다는 경고가 나왔다.

14일 글로벌 보안 기업 카스퍼스키(한국지사장 이효은)는 AI 캐리커처가 개인의 모든 정보를 바탕으로 생성되기 때문에 디지털 사기 위험에 노출될 수 있다고 분석했다.

소셜 미디어에서 새로운 트렌드가 빠르게 확산되고 있다. 사용자들은 개인 사진을 공유하고 AI 도구에 자신의 삶, 직업 등 자신에 대해 알고 있는 모든 것을 기반으로 캐리커처 또는 일러스트를 생성해 달라고 요청하고 있다.

그 결과물은 사무실에서 일하는 모습, 가족과 함께 있는 모습, 또는 직업을 표현한 애니메이션으로 제작되며, 현재 인스타그램, 틱톡, 링크드인 등에서 자주 공유되는 콘텐츠가 되고 있다.

이 트렌드는 창의적이고 재미있는 활동으로 보일 수 있지만, 사이버보안 전문가는 이러한 행위가 개인 정보를 노출시키고 맞춤형 대규모 사기 메시지를 생성할 수 있도록 만들다. 이는 현재 매우 현실적인 위협이 되고 있다는 게 카스퍼스키의 분석이다.

카스퍼스키 보안 전문가에 따르면, 이러한 요청은 단순한 시각 필터처럼 작동하지 않는다. 정확한 이미지를 생성하기 위한 사용자들의 명령에 포함된 지시에 따라 프로필과 관련된 모든 정보에 AI 도구가 제한 없이 접근하도록 허용하게 된다. 참고 사진 외에도 회사 이름, 기업 로고, 직책, 도시, 일상 루틴, 취미, 가족 관련 정보 등의 추가 데이터가 포함되어 이 트렌드 생성에 활용되는 경우가 많다.

이러한 각 데이터 포인트는 상세한 디지털 프로필을 구축하는 핵심 요소가 된다. 이미지, 텍스트, 맥락을 결합하면 습관, 인간관계, 자주 방문하는 장소, 직무 등이 드러나게 되며, 이러한 정보는 사이버 범죄자가 더욱 정교한 사기를 설계하는 데 악용될 수 있다.

그 결과 피해자의 직장, 직책, 가족 구성원 등을 언급하는 사기 시도는 훨씬 더 신뢰성 있게 보이게 되며, 피해자가 이를 신뢰하고 민감 정보나 금전을 제공할 가능성이 크게 증가한다.

이러한 위험은 특히 아시아태평양 지역에서 더욱 심각하게 나타나고 있다. 이 지역은 AI 도입률이 매우 높은 수준으로, 전문가의 78%가 매주 AI를 사용하고 있으며 이는 글로벌 평균인 72%를 상회하는 수치다. 하지만 많은 사용자가 여전히 기본적인 기술 이해력에 어려움을 겪고 있어, 사회공학 및 피싱 공격에 더욱 취약한 상태에 놓여 있다.

이러한 플랫폼과 상호작용할 때 사용자는 단순히 최종 이미지만 공유하는 것이 아니다. 서비스와 해당 개인정보 보호정책에 따라, 원본 사진, 사용자가 작성한 텍스트 또는 명령, 사용 기록, 그리고 IP 주소, 기기, 상호작용 패턴과 같은 특정 기술 데이터도 함께 저장될 수 있다.

이러한 정보의 일부는 서비스 운영, 성능 개선, 또는 AI 모델 훈련을 위해 유지될 수 있으며, 이는 캐리커처 생성 이후에도 콘텐츠가 즉시 삭제되지 않고 사용자가 예상하는 것보다 더 오래 보관될 수 있음을 의미한다.

카스퍼스키가 제시한 주의사항에 따르면, 사용자는 정보를 기입하는 프롬프트에 식별 가능한 데이터(본명, 직책, 회사명, 도시, 주소, 일정, 일상 등)를 입력하면 안된다. 이미지에 '개인화'를 위한 것이라 해도 마찬가지다. 로고, 자격 증명, 문서, 차량 번호판, 화면, 건물 외관 또는 사용자의 위치 파악이나 특정 기관과의 연관성을 추측할 수 있는 요소가 포함된 사진은 업로드하면 안된다.

또 미성년자의 정보나 이미지를 공유하거나, 가까운 지인을 사칭하거나 감정적 사기를 설계하는 데 악용될 수 있는 가족 정보를 공개하면 안된다. 플랫폼 사용 전 개인정보 처리방침 및 권한 설정을 반드시 확인해야 한다. 특히 콘텐츠 보관 기간과 데이터 활용 목적(훈련 또는 서비스 개선)에 유의해야 한다.

이와 함께 경계와 함께 적극적인 디지털 보호를 병행해야 한다. ‘카스퍼스키 프리미엄’과 같은 솔루션은 악성 링크, 위험한 다운로드, 피싱 기법으로 인한 위험을 줄여주며, 콘텐츠 생성 및 공유에 사용되는 기기의 보안을 강화할 수 있다고 이 회사는 강조한다.

아드리안 히아 카스퍼스키 아시아태평양 총괄 사장은 “우리의 삶을 캐리커처로 만드는 트렌드는 무해한 재미처럼 보일 수 있지만, 실제로는 사이버 범죄자에게 자발적인 브리핑을 하는 것과 같다”며 “자신에 대한 상세 정보를 AI에 입력해 재미있는 일러스트를 생성할 때마다, 그들은 완벽한 사회공학 공격을 위한 설계도를 넘겨주고 있는 것”라고 밝혔다.

이어 “사기범이 일반적인 피싱 이메일을 매우 설득력 있는 개인화된 사기로 전환할 수 있도록 필요한 ‘맥락’을 직접 제공하고 있는 셈”이라며 “이는 매우 신중한 사용자의 방어조차 우회할 수 있다”고 경고했다.

[강현주 기자(jjoo@boannews.com)]

우리나라 정보보호 수준 향상을 위해 이재명 정부에게 가장 바라는 점은 무엇인가요?
	ISMS 등 보안 인증 제도 실효성 개선
	AI 보안, 양자보안 등 보안 기술 연구개발 지원 확대
	중소 기업 보안 지원 확대
	기업 보안 예산 비율 의무화
	국가 정보보호 거버넌스 체계 정비
	기타(댓글로)