정부 “피지컬 AI·에이전틱 AI 대응 개인정보 보호 기준 마련”

‘신뢰 기반 AI 혁신 촉진 제3차 개인정보 보호 기본계획’ 발표
“피지컬 AI 상시적 정보 수집 대응”

[보안뉴스 강현주 기자] 정부가 인공지능(AI) 시대에 맞춰 실물 AI(피지컬 AI)와 자율형 AI(에이전틱 AI) 대응 등 개인정보 보호 체계 등을 마련한다.

개인정보보호위원회는 3일 열린 경제관계장관회의에서 관계부처와 합동으로 ‘제3차 개인정보 보호 기본계획(2027∼2029)’을 발표했다.

획일적인 규제 대신 위험 수준에 따라 보호 수준을 달리하는 ‘원칙 중심’ 규율체계로 전환하고, 기업의 데이터 활용을 지원하는 대신 개인정보 유출 예방과 책임은 한층 강화한다는 게 골자다.

기본계획은 향후 3년간 개인정보 정책의 청사진으로, ‘신뢰받는 개인정보 환경, 안심하고 누리는 AI 사회’를 비전으로 제시했다.

정부는 특히 피지컬 AI와 에이전틱 AI의 확산에 대응한 개인정보 보호 기준을 새롭게 마련한다.

피지컬 AI의 상시적 정보 수집 확대에 대응하는 권리보장, 위험평가 등 최신 기술에 대한 규율체계와 보호 기준을 수립할 방침이다. 또 디지털 보안과 물리 안전 규제에 대한 사이버-물리 통합보안 체계를 검토한다.

이와 함께 에이전틱 AI에 의한 처리 등 의사결정의 책임구조 검토, 에이전틱 AI 기반 공격 증가를 고려한 안전조치 기준을 개선할 방침이다. 취약점 발굴·대응 등 관련 산학연·범부처 협력도 강화한다는 계획이다.

AI 전환(AX) 과정에서 기업들이 겪는 개인정보 처리 불확실성을 해소하기 위해 ‘AX 안심지원센터’를 운영하고, 안전조치를 전제로 AI 학습에 불가피한 개인정보 원본 활용을 허용하는 AI 특례 도입을 병행한다.

딥페이크 등 데이터 변조 방지 방안을 마련하고 AI 투명성 확보를 위한 제도화도 추진한다.

개인정보 보호 정책의 무게 중심은 사후 제재에서 사전 예방으로 옮긴다.

고위험 분야와 취약 분야를 대상으로 상시 점검체계를 강화하고, AI 보안점검 등 보안점검 제도화를 추진한다.

정보보호 및 개인정보보호 관리 체계(ISMS-P) 인증 및 각종 평가체계에 AI 기술을 접목해 기준과 절차를 개선한다.

개인정보 보호에 선제적으로 투자한 기업에는 유출 과징금 감면 등 인센티브를 확대하는 한편 최고경영자(CEO)의 책임을 강화하고 개인정보보호책임자(CPO)의 위상도 높인다.

반면 관리 의무를 소홀히 한 사업자에 대해서는 이행강제금 도입을 추진하고 개인정보 불법 유통에 대한 형사처벌 근거를 신설하는 등 제재를 강화한다.

또 중소기업을 대상으로 개인정보 유출 사고 발생 시 복구 기술 지원과 맞춤형 컨설팅을 제공하는 등 ‘회복력’ 중심의 지원체계를 구축한다.

개인정보위를 컨트롤타워로 하는 범정부 통합 개인정보 보호체계도 구축하기로 했다. 개인정보 관련 규율이 분야별로 별도로 운영돼 혼선을 빚고 있기 때문이다.

통신·교육·고용 등 고위험 분야는 소관 부처와 공동 관리하고, 조기경보체계 구축과 중복 규제 정비 등을 통해 부처 간 협력을 강화할 계획이다.

정부는 국경 간 데이터 이전 제도도 정비한다. 이미 마련된 한·EU 상호 동등성 인정 체계에 이어 영국, 일본, 미국 등과도 법체계 유사성과 교역 규모 등을 고려해 맞춤형 데이터 이전 협력을 확대하기로 했다.

표준계약조항(SCC)과 구속력 있는 기업규칙(BCR) 등 안전한 국외 이전 수단을 넓혀 글로벌 공동연구 등 국경 간 데이터 이전의 유연성을 높일 계획이다.

또 개인정보 유출이나 침해가 발생하면 신고부터 조사, 분쟁조정, 손해배상까지 연계하는 원스톱 권리구제 체계를 마련하고, AI 기반 개인정보 관리 플랫폼을 구축해 국민이 자신의 개인정보 처리 현황을 쉽게 확인하고 권리를 행사할 수 있도록 지원한다.

송경희 개인정보위원장은 “이번 3개년 기본계획은 개인정보 규율체계를 인공지능 환경에 맞게 재설계하고 사전 예방 중심의 보호체계를 확립함으로써, 국민은 안심하고 인공지능 편익을 누리고 기업은 신뢰를 바탕으로 혁신하는 환경을 만들어 나가는 데 정책 역량을 집중하겠다”라고 밝혔다.

[강현주 기자(jjoo@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다