[AI 시대의 인지전-4] 2026년 중동전쟁, AI의 오답도 인지전에 이용될 수 있다

실제 미나브 사진을 다른 참사로 오인한 제미나이와 그록, 근거로 제시한 출처도 오류
수익형 AI 전쟁 영상부터 추천 알고리즘까지, 정보의 생성과 노출, 검증 과정에 드러난 취약점

[보안뉴스=유도진 극동대학교 해킹보안학과 교수] 2026년 2월 28일 미국과 이스라엘의 대이란 공습이 시작됐다. 같은 날 이란 미나브의 한 초등학교가 공격받아 학생과 여성 교사, 학부모 등 다수의 민간인이 숨졌다.

이틀 뒤, 희생자들의 매장을 준비하는 미나브 묘지 사진이 온라인에 퍼졌다. 이 사진을 둘러싼 생성형 AI의 오답을 취재한 영국 일간지 가디언은 구글 제미나이에 사진의 촬영 장소를 물었다. 제미나이는 이를 2023년 튀르키예 지진 당시의 집단매장지라고 답했다. 같은 사진을 본 다른 이용자들이 X의 생성형 AI 그록에 진위를 묻자, 그록은 2021년 인도네시아의 코로나19 희생자 묘지라고 설명했다.

두 답변은 모두 틀렸다. 가디언 보도에 따르면 전문가들은 다출처 사진 수십 장, 현장 영상을 대조해 촬영 장소가 미나브임을 확인했다. 전문가들은 디지털 조작 흔적도 발견하지 못했다. 두 AI가 근거로 든 링크 중에는 존재하지 않는 기사를 출처로 제시한 경우도 있었다.

물론 제미나이와 그록의 오답 자체가 인지전은 아니다. 진짜 문제는 이러한 오답이 실제 증거를 부정하는 근거로 재사용될 때 생길 수 있다. 이제 일부 전쟁 관련 정보는 AI로 만들어져 플랫폼에 노출되고, 이용자는 다시 AI에 진위를 묻는다. 인지전 행위자는 이 과정 전체를 통제하지 않고도 취약한 한 단계를 악용할 수 있다.

▲2026년 3월 2일 이란 미나브에서 학교 공격 희생자들을 위해 준비 중인 묘지. 제미나이와 그록은 이 사진을 각각 튀르키예 지진과 인도네시아 코로나19 묘지로 잘못 설명했다 [출처: Iranian Foreign Media Department/WANA, Handout via Reuters]

AI 사용만으로 인지전을 가를 수 없다
그렇다면 AI가 들어간 전쟁 콘텐츠를 모두 같은 방식으로 봐야 할까. 이란과 이스라엘의 공식 계정에서 나온 두 사례는 그렇지 않다는 점을 보여준다.

주오스트리아 이란대사관의 공식 X 계정은 파괴된 미나브 학교 사진과 피가 묻은 어린이 책가방 이미지를 함께 게시했다. 스페인 공영방송 RTVE는 여러 탐지 도구로 확인한 결과 책가방 이미지가 AI 생성물이었다고 보도했다. 다만 누가 이미지를 만들었고, 이를 실제 현장 사진으로 믿게 하려 했는지는 확인되지 않았다.

베냐민 네타냐후 이스라엘 총리의 공식 X 계정에는 실제 영상에 AI로 만든 페르시아어 음성을 입힌 메시지가 올라왔다. 그는 이란 국민에게 거리로 나서 정권을 무너뜨릴 것을 촉구했다. 발신자와 표적, 요구 행동이 분명한 전시 영향 활동이었다.

두 사례에서 AI는 서로 다른 역할을 했다. 이란대사관 게시물에서는 실제 피해 사진과 AI 생성 이미지가 함께 제시됐고, 네타냐후 영상에서는 상대국 국민의 행동을 촉구하는 공식 메시지에 합성 음성이 사용됐다. AI 사용 여부만으로 허위정보나 인지전을 판정할 수는 없다. 무엇을 만들었고 어떤 사실과 함께 제시했는지, 누가 누구에게 어떤 행동을 요구했는지를 봐야 한다.

▲네타냐후 이스라엘 총리가 AI로 합성한 페르시아어 음성을 사용해 이란 국민에게 거리로 나설 것을 촉구한 공식 X 영상 화면. 영상은 실제 촬영본이며 음성에 AI 합성이 사용됐다 [출처: 네타냐후 공식 X 계정]

전쟁 영상은 선전뿐 아니라 돈벌이로도 만들어진다

전쟁 정보에 개입하는 것은 국가와 정치조직만이 아니다. 조회수와 수익을 노리는 운영자에게 전쟁 영상은 돈을 벌 수 있는 상품이 되기도 한다.

당시 X 제품 총괄이었던 니키타 비어는 파키스탄의 한 운영자가 탈취된 계정 31개를 관리하며 AI 전쟁 영상을 게시했다고 밝혔다. 비어에 따르면 이 계정들은 전쟁 정보를 전하는 계정처럼 보이는 이름으로 바뀌었다.

비어는 이와 같은 계정들이 정치적 지지보다 조회수와 수익을 좇는다고 설명했다. 비어의 설명대로 운영 목적이 수익이었다고 해도 이용자가 받는 영향까지 사라지는 것은 아니다. 수익형 가짜 영상도 전쟁 상황에 대한 판단을 흐릴 수 있고, 같은 유통 방식은 정치적 영향활동에도 이용될 수 있다.

X는 3월 3일부터 AI로 만든 무력충돌 영상에 생성 사실을 표시하지 않은 이용자의 수익배분 참여를 첫 위반 때 90일간 정지하고, 다시 위반하면 수익 지급을 영구 정지하는 규칙을 시행했다. 영상 자체를 금지하기보다 표시하지 않은 합성 영상으로 돈을 벌 유인을 줄인 것이다.

수익이 영상을 계속 만들게 하는 유인이라면, 추천 알고리즘은 그 영상이 사람에게 도달하는 경로다. X의 맞춤형 추천 화면은 팔로우와 좋아요, 재게시, 시청 기록 등을 반영해 게시물을 보여준다. 31개 계정의 노출에 추천이 얼마나 기여했는지는 공개되지 않았다. 다만 좋아요와 재게시 같은 반응이 조직적으로 만들어지면 자발적인 관심과 비슷한 신호로 읽힐 수 있다. 이 경우 공략 대상은 알고리즘 자체가 아니라 알고리즘이 읽는 반응 신호다.

이렇게 만들어지고 노출된 정보가 다시 AI의 답변을 거쳐 조직의 판단으로 들어가면, 취약점은 검증 과정으로 이어진다.

AI 답변이 조직의 판단으로 넘어가는 경로를 추적해야
합성물이 넘칠수록 실제 증거까지 가짜라고 몰아가기 쉬워진다. 이는 필자가 2부에서 다룬 ‘거짓말쟁이의 배당‘과 닮았다. AI가 제시한 링크들이 서로 독립된 근거인지 확인해야 한다는 점에서는 3부에서 다룬 ’출처 계보‘ 문제와도 이어진다.

필자는 원자료에서 AI 답변과 사람의 검토를 거쳐 조직의 판단에 이르기까지 출처와 가공 내용, 재검증 결과, 남은 불확실성이 사라지지 않는 상태를 ’검증 경로의 무결성‘이라고 본다. 핵심은 AI 답변의 근거를 한 번 확인하는 데 있지 않다. 누가 무엇을 확인했고 무엇을 확인하지 못했는지가 최종 판단과 함께 남아야 한다.

국방과 외교, 재난 대응 및 치안 등 국가안보 업무에서는 사용한 서비스와 모델 버전, 질문, 검색 시각뿐 아니라 검토자와 재확인 결과, 판단 보류 여부까지 기록해야 한다. 이 기준을 앞서 2부에서 제시한 인지전 시나리오 라이브러리와 플레이북에도 반영할 수 있다. 직접 영향활동, 수익형 조작, 추천 신호 악용, AI 검증 오류를 서로 다른 위협 경로로 구분하고, 원출처가 확인되지 않았을 때의 추가 검증 책임자와 결정 보류 조건을 정해두는 것이다.

현재 공개된 근거만으로 이 사례들을 하나의 작전으로 묶을 수는 없다. AI의 오답도 그 자체로 인지전은 아니다. 그러나 실제 증거를 부정하는 근거로 반복 유통되는 순간 인지전에 악용될 수 있다. 조직이 확인해야 할 것은 AI를 사용했는지를 넘어, 정보가 어디에서 나와 어떻게 노출되고 검증됐으며, 어떤 행동의 근거가 됐는지다.

[글_유도진 극동대학교 해킹보안학과 교수]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다