[AI와 보안] 마이크로소프트 코파일럿, 사내 기밀 이메일 접근하는 오류 발견

AI와 대화하며 기업 업무 지원하는 코파일럿 챗 오류
‘기밀’ 라벨 붙은 데이터까지 접근해 활용

[보안뉴스 한세희 기자] 마이크로소프트 코파일럿이 기업 사용자의 기밀 메일에 접근해 관련 내용을 요악 제공하는 등의 버그가 발생했다고 블리핑컴퓨터가 18일(현지시간) 보도했다..

마이크로소프트는 코파일럿이 기업 고객의 워드와 엑셀, 파워포인트, 아웃룩, 원노트 등에 접근해 사내 업무 환경의 맥락에 맞춰 사용자와 대화하며 업무를 돕는 ‘코파일럿 챗 워크탭’ 기능을 제공한다.

하지만 이 기능을 구현하는 코드에 오류가 있어 사용자의 ‘보낸 편지함’이나 ‘임시 보관함’에 저장된 이메일을 부정확하게 읽고 요약하는 버그가 생겼다. 이 과정에서 AI 모델의 접근을 막는 ‘기밀’(Confidential) 라벨이 붙은 메일의 내용도 노출됐다.

사내 정보의 외부 유출을 막는 정보유출방지(DLP) 솔루션이 적용된 상태에서 데이터가 노출되기도 했다.

마이크로소프트는 “코드 문제로 ‘기밀’ 라벨이 적용된 상태에서도 ‘보낸 편지함’과 ‘임시 보관함’ 폴더에 있는 내용을 코파일럿이 활용하는 문제가 발생했다”고 밝혔다.

마이크로소프트는 이달 초 오류를 수정하고, 현재 문제가 해결됐는지 확인하기 위한 모니터링 작업을 하고 있다고 밝혔다. 최종적 피해 규모는 향후 조사 결과에 따라 달라질 전망이다.

[한세희 기자(boan@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다