[AI와 보안] 클로드 AI, ‘간접 프롬프트 주입’ 취약점 발견…민감 정보 탈취 위험

[보안뉴스 김형근 기자] 앤트로픽 클로드 AI에서 간접 프롬프트 주입 공격을 통해 민감한 사용자 데이터를 해커 계정으로 빼돌릴 수 있는 취약점이 발견됐다.

이는 클로드 코드 인터프리터 도구에 새로 추가된 네트워크 접근 기능에서 기인한다. 보안연구 전문가 요한 레베르거는 클로드 기본 설정인 ‘패키지 관리자만 허용’ 이 api.anthropic.com을 포함한 승인된 도메인에 네트워크 접근을 허용하면서 보안 백도어를 열었다고 지적했다.

‘기억’ 기능과 API 악용한 공격 사슬
공격자는 사용자가 분석을 요청한 파일 등 겉으로는 무해해 보이는 콘텐츠에 악성 지침을 숨겨 공격을 시작한다. 이렇게 주입된 간접 프롬프트는 클로드의 ‘메모리’ 기능을 악용, AI에게 최근 대화 데이터를 추출해 샌드박스에 파일로 저장하도록 명령한다.

이어 클로드가 파이썬 코드를 실행하도록 강제한다. 이 코드는 공격자의 API 키를 환경 변수에 설정한 후, 클로드의 파일(Files) API를 통해 샌드박스에 저장된 훔친 파일을 공격자 자신의 계정에 업로드한다. 이 과정에서 피해자의 인증 절차를 우회하게 된다.

레베르거 연구원은 이 취약점을 앤트로픽에 책임 있게 공개했지만, 회사는 초기에는 ‘모델 안전 문제’로 간주해 범위를 벗어났다며 기각했다가 며칠 후 유효한 취약점으로 인정했다.

보안 전문가들은 이를 강력한 AI 모델, 외부 접근, 프롬프트 기반 제어가 결합된 ‘치명적인 삼중 위협’의 일부로 보고 API 호출을 로그인 사용자 계정에만 한정하도록 샌드박스 규칙을 강화할 것을 권고했다. 또 사용자는 네트워크 접근을 최소화하거나 비활성하도록 조언했다.

[김형근 기자(editor@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다