Home > 전체기사

AI 개발자·운영자 위한 개인정보보호 자율점검표 나왔다

  |  입력 : 2021-05-31 15:31
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
개인정보위, AI 개발자 자율점검 위한 안내서 발간
인공지능 개발·운영 시 개인정보보호 위한 단계별 16개 점검 항목, 54개 확인사항 제시


[보안뉴스 이상우 기자] 인공지능(AI) 서비스의 개발과 운영 시 발생할 수 있는 개인정보 침해를 예방하기 위한 안내서가 발표됐다. 개인정보보호위원회(위원장 윤종인, 이하 개인정보위)는 산업계 의견 수렴 및 전문가·전체회의 논의 등을 거쳐, ‘AI 개인정보보호 자율점검표(개발자·운영자용)’를 확정해 공개했다. 해당 가이드라인은 개인정보위 홈페이지 및 개인정보보호포털 등에서 확인할 수 있다.

[이미지=utoimage]


이번에 공개한 안내서는 인공지능 설계, 개발·운영 과정에서 개인정보를 안전하게 처리하기 위해 지켜야 할 개인정보 보호법 상 주요 의무·권장사항을 단계별로 자율적으로 점검할 수 있도록 정리했다. 업무처리 모든 과정에서 지켜져야 할 적법성, 안전성, 투명성, 참여성, 책임성, 공정성 등 6가지 원칙과 이를 기반으로 8개로 나눈 단계마다 점검할 항목 16개, 확인사항 54개 등을 함께 제시해 개인정보보호가 이뤄질 수 있도록 지원한다.

해당 안내서는 대규모 데이터의 처리, 복잡성·불투명성, 자동화·불확실성 등 인공지능의 개인정보 처리 특성을 고려해 개인정보 보호법, 과기정통부가 발표한 AI 윤리기준, 국제적으로 통용되는 개인정보보호 중심설계 원칙 등을 반영했다.

업무처리 단계별(8단계) 주요 점검항목은, 우선 △기획·설계 단계에서는 인공지능 서비스 특성상 예상치 못한 개인정보 침해가 발생할 수 있으므로 사전 점검과 예방을 위해 개인정보보호 중심 설계(PbD) 원칙을 적용하고, 침해가 우려되는 경우 개인정보 영향평가를 수행하도록 했다. PbD(Privacy by Design) 원칙이란 제품·서비스 개발 시 기획 단계부터 개인정보 처리의 전체 생애주기에 걸쳐 이용자의 프라이버시를 고려한 기술·정책을 설계에 반영하는 것을 의미하며, 국제적으로 통용되는 개인정보보호 원칙이다.

△개인정보 수집 단계에서 인공지능 개발‧운영 시 대규모 개인정보가 수집·이용되는 점을 고려하여 적법한 동의방법, 동의 이외의 수집근거 확인, 공개된 정보 등 정보주체 이외로부터 수집 시 유의사항을 점검하도록 하고, 동의 방식 예시를 제시해 잘못된 방법으로 동의를 받지 않도록 안내했다. 가령, ‘신규 서비스 개발’을 위한 개인정보 수집 동의 시 ‘OO 서비스의 챗봇 알고리즘 개발’과 같이 목적을 구체적으로 작성하고, 이용자가 충분히 이해·예측할 수 있도록 ‘신규 서비스’의 의미 등을 구체적으로 알려야 한다.

△서비스 이용·제공 단계에서 개인정보는 수집 목적 내 이용·제공해야 하고, 목적 외 이용은 적법한 근거를 확인하도록 했다. 동의 없이 가명처리 및 활용하려는 경우 과학적 연구, 통계작성 등 허용된 목적인지, 관련 기준에 부합하는지 등 점검내용을 제시하고, 학습데이터의 가명처리 시 유의사항, 가명정보의 공개제한 등도 안내했다. 가령, 소셜 미디어 대화 데이터의 경우 발화자의 식별정보뿐만 아니라 특정 개인의 식별가능정보 또는 사생활 침해 우려 정보도 가명처리가 필요하다.

△개인정보 보관·파기 단계에서는 개인정보의 유‧노출 및 해킹 방지를 위한 안전조치를 점검하고, 개인정보가 불필요해지면 안전하게 파기하도록 했으며 △AI 서비스 관리·감독에서 개인정보 취급자, 개인정보 처리업무 수탁자에 대한 관리·감독을 수행하도록 해, 인공지능 개발·운영과정에서 직원의 실수 또는 고의로 개인정보 침해가 발생하지 않도록 했다.

△이용자 보호에서는 개인정보 처리내역을 처리방침에 투명하게 공개, 개인정보의 열람·정정·삭제·처리정지 등 정보주체의 권리보장 절차 마련‧이행, 개인정보 유출사고에 대비한 점검내용을 제시했다.

△또한, 인공지능 기술 발전과 서비스 등장에 따른 다양한 개인정보 침해를 예방하고자 개인정보 보호활동을 자율적으로 수행할 것을 권장했으며 △마지막으로 개인정보 처리 시 사회적 차별, 편향 등이 최소화되도록 점검·개선하고, 윤리적 이슈에 대한 판단은 AI 윤리기준을 참고할 수 있도록 했다.

그동안 국내·외에서 논의된 AI 관련 프라이버시에 관한 사항은 추상적인 원칙 수준이었으나, 이번 자율점검표는 AI 서비스의 개인정보 침해사례와 산업계의 관심사항을 구체적으로 반영해 현장에 도움이 되도록 했다. 자율점검표는 인공지능뿐만 아니라, 다양한 ICT 서비스의 개발·운영에도 활용될 수 있어 신기술 분야의 개인정보 침해요인을 사전에 예방하는데 크게 도움이 될 것으로 기대된다.

개인정보위는 점검표가 AI 분야 현장에서 널리 활용될 수 있도록 적극적인 홍보와 함께 6월 초부터 AI 스타트업 대상 설명회를 개최하고 중소기업 컨설팅·교육 등에도 적극 활용할 예정이다. 아울러, 관련 기술의 급속한 발전, 개인정보보호 관련 법령의 제·개정 등 인공지능을 둘러싼 환경의 변화를 반영할 수 있도록 자율점검표를 지속적으로 현행화해 나갈 계획이다.

윤종인 위원장은 “AI 개발자·운영자가 이번 자율점검표를 적극 활용해 인공지능으로 인한 개인정보 침해를 예방하고, 보다 안전하고 신뢰할 수 있는 인공지능 서비스 환경을 조성하는데 도움이 되길 바란다”며, “앞으로도 개인정보위는 바이오정보·자율주행차·드론 등 신기술 환경 변화에 대응하여 현장에서 개인정보가 안전하게 보호될 수 있도록 노력하겠다”고 말했다.
[이상우 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
아이티스테이션 파워비즈모니터랩 파워비즈 6개월 2021년7월1~12월31일 까지엔사인 파워비즈 2021년6월1일~11월30일 까지2021 전망보고서위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
2021년 주요 보안 위협 트렌드 가운데 올해 말까지 가장 큰 위협이 될 것으로 전망되는 트렌드 한 가지만 꼽아주신다면?
산업 전반에 영향 미치는 타깃형 랜섬웨어 공격 증가
다크웹/딥웹 등을 통한 기업 주요 정보 유출 및 판매 피해 급증
북한/중국/러시아 등 국가지원 해킹그룹의 위협 확대
코로나 팬더믹 등 사회적 이슈 악용한 사이버 공격
서드파티 SW나 조직 인프라 솔루션을 통한 공급망 공격 증가
업무 메일로 위장한 정보유출형 악성코드 활개
기타(댓글로)