[AI와 보안] “AI 자체가 공격 통로”...구글 제미나이 취약점 발견

사용자 개인정보 유출과 자산 도용으로 이어질 수 있어

[보안뉴스 김형근 기자] 구글 AI 모델 제미나이에서 사용자 개인정보 유출과 자산 도용으로 이어질 수 있는 보안 취약점이 발견됐다.

사이버 보안 기업 테너블 연구진에 따르면, 해커들이 이들 3개 취약점을 성공적으로 악용할 경우, 사용자 개인 정보 유출과 클라우드 자산 도용 등 심각한 위험을 초래할 수 있다고 경고했다.

테너블은 이 결함들을 ‘제미나이 트라이펙타’(Gemini Trifecta)로 명명했다.

이들 취약점은 제미나이 제품군의 세 가지 독립된 핵심 구성 요소에 걸쳐 있었다. ‘제미나이 클라우드 어시스트’에선 프롬프트 인젝션 결함이 발견됐다. 해커가 AI가 요약하는 로그 안에 악성 명령을 숨겨, 클라우드 자산 API를 무단으로 쿼리하거나 IAM 설정 오류를 탈취하는 방식으로 클라우드 환경 자체를 침해할 수 있다.

‘검색 개인화 모델’에서는 서치 인젝션(Search-injection) 결함이 발견됐다. 해커가 자바스크립트를 이용해 사용자의 크롬 검색 기록을 조작하면, AI 모델이 정상적 쿼리와 악성 명령을 구별하지 못해 사용자의 저장 정보나 위치 데이터를 유출하는 결과를 낳았다.

‘제미나이 브라우징 툴’에서도 웹페이지 내용을 요약하는 내부 호출을 악용하는 간접 프롬프트 인젝션 문제가 확인됐다. 이 취약점을 이용해 공격자는 사용자 정보를 외부의 악성 서버로 몰래 전송하게 만들 수 있다.

테너블 연구진은 이 취약점을 활용, AI가 공격자 명령에 따라 사용자의 사적 데이터를 하이퍼링크 안에 삽입해 공격자 서버로 전송하게 만드는 시나리오를 제시했다.

구글은 테너블의 연락을 받은 후 해당 취약점들을 모두 패치했으며, 로그 요약 응답에서 하이퍼링크 렌더링을 중단하는 등 보안 조치를 강화했다.

테너블 연구 책임자는 “제미나이 트라이펙타는 AI 자체가 공격의 도구가 될 수 있음을 보여준다”며 “기업들이 AI 플랫폼 보안에 대한 엄격한 정책 수립을 게을리해서는 안 된다”고 강조했다.

[김형근 기자(editor@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다