“생성형 AI가 내 정보 학습 못하게 ‘옵트아웃’ 가능해요”... 개인정보 가이드 나와

개인정보위, ‘생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드’ 발간

[보안뉴스 강현주 기자] A씨는 생성형 인공지능(AI)에 가족사진을 올리며 “애니메이션풍 그림으로 바꿔줘” 라고 요청했다. 완성된 이미지를 보며 즐거워했지만, 곧 이런 궁금증이 들었다. “내 가족 얼굴 사진은 어디에 저장될까? AI 학습에도 쓰이는 걸까?”

개인정보보호위원회(위원장 송경희)는 이처럼 생성형 AI 이용 과정에서 국민이 마주할 수 있는 궁금증에 답하고 스스로 개인정보를 안전하게 관리할 수 있도록 돕기 위해 ‘생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드’를 발간했다.

▲‘생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드’ 내용 일부 [출처: 개인정보위]

생성형 AI 서비스는 문서 작성, 정보 검색, 일정 관리 등 국민의 일상과 업무 전반으로 빠르게 확산되고 있다. 그만큼 입력한 정보가 어떻게 처리되는지, 학습에 활용되는지, 해외로 이전되는지 등에 대한 관심과 우려도 함께 커지고 있다. 실제로 생성형 AI를 알고 있는 20~60대 성인 가운데 약 89%가 개인정보 침해 위험을 우려하는 것으로 나타났다.*

그간 개인정보위가 기업과 기관의 책임 강화와 제도정비에 주력해 왔다면, 이번 가이드는 생성형 AI 시대의 핵심 주체인 ‘이용자’의 AI 문해력(리터러시) 강화에 초점을 맞췄다. 복잡한 AI 서비스 구조 속에서 내 정보가 어떻게 활용되는지 이해하고, 필요한 설정을 스스로 선택·관리할 수 있을 때 사회 전반의 프라이버시 보호 수준이 실질적으로 제고될 수 있기 때문이다.

개인정보위는 국민으로부터 접수된 민원과 정책제안, 주요 상담 사례 등을 토대로 체감도가 높은 8개 핵심 이슈를 선정했다. 이후 학계·법조계·산업계·시민사회 전문가가 참여하는 ‘AI 프라이버시 민·관 정책협의회’ 정보주체 권리 분과(3분과) 논의를 거쳐 이번 가이드를 완성했다.

가이드는 데이터 수집부터 AI 학습, 서비스 이용 단계에 이르기까지 개인정보가 처리되는 과정을 시각화해 AI 환경에서 개인정보가 어떻게 처리되는지 이용자의 이해도를 높였다.

특히, 학습활용 거부(옵트아웃) 및 대화 기록 저장·삭제 설정 등 이용자가 직접 확인하고 통제할 수 있는 기능을 함께 안내했다.

복잡한 기술 구조나 법률 해석 위주의 설명에서 벗어나 △입력 내용의 AI학습 활용 여부 △업무 관련 자료 입력 시 주의사항 △외부 서비스 연동 시 안전성 등 민원 사례와 언론 보도 분석을 통해 도출한 8가지 주요 질의에 대한 답변과 함께 관리방법을 제시했다.

개인정보위는 이번 가이드 발간을 통해 일반 국민이 생성형 AI 서비스 이용 과정에서 발생할 수 있는 위험을 점검·예방하여 생성형 AI 서비스 이용에 대한 불안감을 줄일 수 있을 것으로 기대하고 있다. 기업과 개발자에게는 이용자의 우려 사항을 파악해 서비스 설계의 참고자료로 활용할 수 있을 것으로 전망한다.

‘AI 프라이버시 민·관 정책협의회’ 정보주체 권리 분과장을 맡고 있는 윤혜선 한양대 교수는 “생성형 AI가 일상화되었으나 이용자가 개인정보 처리 과정을 명확히 파악하기는 어려운 실정”이라며, “이번 가이드가 학습 활용 여부, 기록 삭제 등 주요 궁금증을 해소하고 이용자가 직접 자신의 개인정보를 점검하고 관리하는 첫걸음이 되기를 바란다”고 말했다.

송경희 개인정보위 위원장은 “그간 생성형 AI 서비스의 복잡한 작동 방식 뒤에 가려져 있던 개인정보 처리 구조를 국민이 보다 쉽고 정확하게 이해할 수 있도록 하는 것이 이번 가이드의 핵심”이라며 “앞으로 개인정보위는 이용자가 AI의 편의성을 누리면서도 필요시 옵트아웃 등 권리 행사를 통해 자신의 정보 통제권을 실질적으로 행사할 수 있도록 지원하고, 안전하고 신뢰할 수 있는 AI 이용 환경 조성에 정책적 역량을 집중해 나갈 것”이라고 밝혔다.

[강현주 기자(jjoo@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다