KAIST 사이버보안연구센터 고기혁 팀장 “인공지능의 학습과정에서의 랜덤 노이즈를 더하면 강화된 프라이버시 형성 가능”
[보안뉴스 김영명 기자] 국내 최대 개인정보보호 축제의 장인 ‘제11회 개인정보보호페어&CPO워크숍(PIS FAIR 2022)’가 서울 코엑스 그랜드볼룸에서 6월 2~3일 양일간 진행되는 가운데 행사 1일차인 6월 2일 트랙 A(Tech&Trend)에서 다섯 번째 강연자인 KAIST 사이버보안연구센터 고기혁 팀장은 ‘인공지능 시대의 프라이버시와 개인정보 보호’에 대해 발표했다.
KAIST 사이버보안연구센터 고기혁 팀장은 “인공지능은 현대사회에서 필수 기능 중 하나이지만 그 행동이 어떠한 결정방식에 의거한 것인지 확신하기는 힘들다”며 “이러한 의문은 인공지능의 학습과정에서 알아볼 수 있다”고 말했다.
고 팀장은 “학습과정에서의 랜덤 노이즈를 더하면 Stochastic Gradient Descent(SGD)를 만들 수 있으며, 이를 통해 나오는 출력물에서는 사용자가 입력물이 어떠한 것인지 구분할 수 없게 해준다”고 말했다. 이어 그는 “연관된 개념으로 2017년에 발표된 PATE 방법은 중복 없이 나열된 데이터에서 인공지능 모델을 학습하는 것으로, 학습된 여러 개의 모델에 노이즈를 넣어 스튜던트 네트워크를 통해 보다 강화된 프라이버시를 노출시킬 수 있다”고 설명했다.
고 팀장은 “또 다른 프라이버시 강화 방법은 학습에 필요한 데이터 자체를 공유하지 않겠다는 콘셉트인 연합학습이 있는데, 예를 들어 여러 병원에서 각각 환자 데이터를 보유할 때 그 데이터를 서로 공유하지 않아도 전체 병원의 환자 데이터를 하나로 만들 수 있는 방법”이라고 말했다.
고 팀장은 개인정보 오남용의 잘못된 사례에 대해 “2015년 구글이 AI기능에 따라 자동으로 관련된 결과물을 보여주는 광고 플랫폼이 있었다. 어떤 연구자들이 구글 광고 플랫폼에 가짜 구직자의 정보를 넣어 성별만 남녀가 바뀌었는데, AI 모델은 이를 파악할 수 없었던 적이 있었다”고 말했다. 또 다른 사례로 “메타에서 서비스하는 페이스북에서 위치정보를 사용해 자동으로 친구 추천을 해주는 기능은 알코올 중독자 모임을 통해 친구를 추천해줬는데 해당 사용자는 알고 싶지 않은 사람을 추천해줬다고 제보해 기사화된 적이 있다”며 “몇 년 전에는 미국의 대형 수퍼마켓 체인인 타깃(Target)이 AI 분석을 통해 미성년 여자가 임신했다는 것을 인식하고 추천 쇼핑목록에 아기 기저귀를 추천한 적이 있었지만 이 여자는 자신이 임신한 줄도 모르고 있어 문제가 되기도 했다”는 사례도 소개했다.
고 팀장은 “이러한 개인정보 오남용으로 발생한 사례들은 개인정보를 직간접적으로 잘못 사용했다는 문제와 함께 개인정보를 직접 사용하지는 않았어도 제대로 사용하지 못한 데 따른 문제로 분석할 수 있다”며 “개인정보의 직접 사용과 간접 사용은 모두 심각한 문제로 개인정보 사용 제한을 하는 것이 Use Privacy가 된다”고 덧붙였다.
한편, ‘개인정보보호 페어 & CPO워크숍’은 개인정보 보호법이 제정·시행된 2011년부터 개인정보보호 제도의 활성화와 대국민 홍보 및 인식 제고를 위해 매년 열렸다. 올해는 ‘데이터 경제 시대의 개인정보보호’를 주제로 35개의 강연이 진행되며, 부대행사로 ‘개인정보 기술 스타트업 챌린지’ 시상식과 전시부스, 개인정보보호최고책임자(CPO) 워크숍이 마련된다.
또한, 토스, 야놀자, 엔씨소프트 등 국내 정보기술 기업의 개인정보보호최고책임자(CPO)들이 직접 나와 ‘데이터 활용과 개인정보보호’를 주제로 토크콘서트를 진행하고, 주요 개인정보보호 솔루션 기업(약 30개사)이 참가하는 전시부스를 통해 개인정보보호 솔루션 및 제품들을 홍보‧시연하는 한편, 영세·중소 사업자를 위한 개인정보보호 기술지원 자문도 진행한다. 이와 함께 참관객을 대상으로 ‘개인정보보호 실천 안내서(가이드북)’도 무료로 배포된다.
[김영명 기자(sw@boannews.com)]
[보안뉴스 김영명 기자] 국내 최대 개인정보보호 축제의 장인 ‘제11회 개인정보보호페어&CPO워크숍(PIS FAIR 2022)’가 서울 코엑스 그랜드볼룸에서 6월 2~3일 양일간 진행되는 가운데 행사 1일차인 6월 2일 트랙 A(Tech&Trend)에서 다섯 번째 강연자인 KAIST 사이버보안연구센터 고기혁 팀장은 ‘인공지능 시대의 프라이버시와 개인정보 보호’에 대해 발표했다.
▲강연을 하고 있는 KAIST 사이버보안연구센터 고기혁 팀장[사진=보안뉴스]
KAIST 사이버보안연구센터 고기혁 팀장은 “인공지능은 현대사회에서 필수 기능 중 하나이지만 그 행동이 어떠한 결정방식에 의거한 것인지 확신하기는 힘들다”며 “이러한 의문은 인공지능의 학습과정에서 알아볼 수 있다”고 말했다.
고 팀장은 “학습과정에서의 랜덤 노이즈를 더하면 Stochastic Gradient Descent(SGD)를 만들 수 있으며, 이를 통해 나오는 출력물에서는 사용자가 입력물이 어떠한 것인지 구분할 수 없게 해준다”고 말했다. 이어 그는 “연관된 개념으로 2017년에 발표된 PATE 방법은 중복 없이 나열된 데이터에서 인공지능 모델을 학습하는 것으로, 학습된 여러 개의 모델에 노이즈를 넣어 스튜던트 네트워크를 통해 보다 강화된 프라이버시를 노출시킬 수 있다”고 설명했다.
고 팀장은 “또 다른 프라이버시 강화 방법은 학습에 필요한 데이터 자체를 공유하지 않겠다는 콘셉트인 연합학습이 있는데, 예를 들어 여러 병원에서 각각 환자 데이터를 보유할 때 그 데이터를 서로 공유하지 않아도 전체 병원의 환자 데이터를 하나로 만들 수 있는 방법”이라고 말했다.
고 팀장은 개인정보 오남용의 잘못된 사례에 대해 “2015년 구글이 AI기능에 따라 자동으로 관련된 결과물을 보여주는 광고 플랫폼이 있었다. 어떤 연구자들이 구글 광고 플랫폼에 가짜 구직자의 정보를 넣어 성별만 남녀가 바뀌었는데, AI 모델은 이를 파악할 수 없었던 적이 있었다”고 말했다. 또 다른 사례로 “메타에서 서비스하는 페이스북에서 위치정보를 사용해 자동으로 친구 추천을 해주는 기능은 알코올 중독자 모임을 통해 친구를 추천해줬는데 해당 사용자는 알고 싶지 않은 사람을 추천해줬다고 제보해 기사화된 적이 있다”며 “몇 년 전에는 미국의 대형 수퍼마켓 체인인 타깃(Target)이 AI 분석을 통해 미성년 여자가 임신했다는 것을 인식하고 추천 쇼핑목록에 아기 기저귀를 추천한 적이 있었지만 이 여자는 자신이 임신한 줄도 모르고 있어 문제가 되기도 했다”는 사례도 소개했다.
고 팀장은 “이러한 개인정보 오남용으로 발생한 사례들은 개인정보를 직간접적으로 잘못 사용했다는 문제와 함께 개인정보를 직접 사용하지는 않았어도 제대로 사용하지 못한 데 따른 문제로 분석할 수 있다”며 “개인정보의 직접 사용과 간접 사용은 모두 심각한 문제로 개인정보 사용 제한을 하는 것이 Use Privacy가 된다”고 덧붙였다.
한편, ‘개인정보보호 페어 & CPO워크숍’은 개인정보 보호법이 제정·시행된 2011년부터 개인정보보호 제도의 활성화와 대국민 홍보 및 인식 제고를 위해 매년 열렸다. 올해는 ‘데이터 경제 시대의 개인정보보호’를 주제로 35개의 강연이 진행되며, 부대행사로 ‘개인정보 기술 스타트업 챌린지’ 시상식과 전시부스, 개인정보보호최고책임자(CPO) 워크숍이 마련된다.
또한, 토스, 야놀자, 엔씨소프트 등 국내 정보기술 기업의 개인정보보호최고책임자(CPO)들이 직접 나와 ‘데이터 활용과 개인정보보호’를 주제로 토크콘서트를 진행하고, 주요 개인정보보호 솔루션 기업(약 30개사)이 참가하는 전시부스를 통해 개인정보보호 솔루션 및 제품들을 홍보‧시연하는 한편, 영세·중소 사업자를 위한 개인정보보호 기술지원 자문도 진행한다. 이와 함께 참관객을 대상으로 ‘개인정보보호 실천 안내서(가이드북)’도 무료로 배포된다.
[김영명 기자(sw@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
엄호식기자 기사보기
[2025-04-07] 
