AI vs. 개인정보...당신의 선택은?
“현행법으로 규제 불가능한 AI...新규범 필요”
[보안뉴스 조재호 기자] “인공지능(AI)은 개인을 식별하지 않더라도, 개인을 이해하려면 데이터가 필요한 모순적인 상황입니다. AI 프라이버시 침해 사례는 300종이 넘고 계속 늘어나고 있습니다. 새로운 규범 설계가 필요한 이유입니다.”
이진규 네이버 개인정보보호책임자(CPO·CISO)는 27일 서울 강남구 코엑스에서 열린 ‘PIS FAIR 2025’에서 이같이 밝히고, AI 시대와 개인정보보호의 상호작용을 설명했다.
이날 ‘인공지능 시대의 개인정보’를 주제로 키노트 스피치를 진행한 이 CISO는 “빠르게 진화하는 AI를 현행 제도 규제하는 것은 불가능하다”며 “매일 새로운 아이디어와 응용이 시장에 나오는 상황에서 이를 규제하는 것은 사회의 진화를 통제하려는 시도와 다름없다”고 말했다.
이 CISO는 우리는 AI 시대의 초입에 살고 있다며, 이 기술은 패턴을 찾을 수 있는 모든 영역에서 가치를 추가 창출한다고 강조했다. AI는 데이터를 흡수해 모든 응용의 기반을 만들고 확장해 혁신을 이룬다는 것이다. 이 과정에서 AI는 데이터 최소 수집의 원칙을 지킬 수 없다. 특정 데이터에서 개인을 식별하지 않더라도, 개인에 대한 이해를 위해 더 많은 데이터가 필요하다. 이 데이터에 개인정보도 하나의 맥락으로 포함된다.
또, AI의 프라이버시 침해는 기존과 다른 형태다. 기존 정형화된 개인정보 처리방식에서는 침해의 형태도 제한적으로 발생하지만, AI가 수집한 개인정보는 수집 방식이나 규모에 면에서 비교할 수 없게 크기 때문이다. 따라서 AI 기술은 현행 개인정보 체계와 긴장 관계를 형성하거나 컴플라이언스 자체를 확보하기 어렵다는 설명이다.
이 CISO는 AI의 발전은 오랜 시간에 걸쳐 축적된 기술적 발전을 토대로 성장했다고 힘줘 말했다. 최근 AI 시대가 본격적으로 다가오면서 많은 사람들이 AI의 기원을 이세돌과 바둑 대결을 벌인 ‘알파고’부터로 생각한다. 하지만 실제 인공지능 기술은 1950년대부터 이론적 기초를 다졌다. 당시 한계에 막혀 침체기를 겪은 AI는 2010년대 들어 본격적으로 기지개를 켰다.
AI는 시간을 압축하고, 밀도를 높인다. 신약 개발에서 AI는 기존의 방식으로 5년이 걸릴 실험 기간을 수개월 수준으로 단축했다. 기존보다 많은, 다양한 시도를 통해 성공 가능성을 높인다. 이러한 변화는 우리가 정보를 받아들이는 방식도 바꾼다. 기존 데이터가 맥락을 제거해 일반화했다면, AI는 맥락을 보존하는 방식으로 응용한다는 설명이다. 따라서 인공지능의 기존과 다른 형태로 프라이버시 침해한다.
이 CISO는 “AI에서 프라이버시 리스크만을 분리해서 볼 수 없다”며 “아직은 낯선 AI와 충분한 시간과 기회를 주고, 조심스러운 접근이 필요한 시점”이라는 의견이다. 위험성을 상수로 두지만 이를 무작정 막겠다는 생각은 피해야 한다는 것이다. AI 규제를 강조하던 EU도 성장과 투자로 정책을 전환했다.
AI의 맥락으로 일어날 수 있는 결과를 해석하고, 여러 법적 주체 사이에서 책임을 어떻게 분배할지 논의하고, 원칙 중심의 유연한 법 제도를 설계해 법 자체가 앞으로 변화할 세계를 받아들이고 적용될 수 있게 만드는 것이 중요하다는 것이다.
이 CISO는 “인공지능은 이미 우리에게 충분히 필요한 조언을 제시하고 있다”며 “어떻게 인공지능과의 공존 방안을 찾아나가야 할지 함께 고민해야 할 때”라는 화두를 던지며 강연을 마무리했다.
[조재호 기자(sw@boannews.com)]
“현행법으로 규제 불가능한 AI...新규범 필요”
[보안뉴스 조재호 기자] “인공지능(AI)은 개인을 식별하지 않더라도, 개인을 이해하려면 데이터가 필요한 모순적인 상황입니다. AI 프라이버시 침해 사례는 300종이 넘고 계속 늘어나고 있습니다. 새로운 규범 설계가 필요한 이유입니다.”
▲이진규 네이버 CISO가 키노트 스피치를 진행하고 있다. [자료: 보안뉴스]
이진규 네이버 개인정보보호책임자(CPO·CISO)는 27일 서울 강남구 코엑스에서 열린 ‘PIS FAIR 2025’에서 이같이 밝히고, AI 시대와 개인정보보호의 상호작용을 설명했다.
이날 ‘인공지능 시대의 개인정보’를 주제로 키노트 스피치를 진행한 이 CISO는 “빠르게 진화하는 AI를 현행 제도 규제하는 것은 불가능하다”며 “매일 새로운 아이디어와 응용이 시장에 나오는 상황에서 이를 규제하는 것은 사회의 진화를 통제하려는 시도와 다름없다”고 말했다.
이 CISO는 우리는 AI 시대의 초입에 살고 있다며, 이 기술은 패턴을 찾을 수 있는 모든 영역에서 가치를 추가 창출한다고 강조했다. AI는 데이터를 흡수해 모든 응용의 기반을 만들고 확장해 혁신을 이룬다는 것이다. 이 과정에서 AI는 데이터 최소 수집의 원칙을 지킬 수 없다. 특정 데이터에서 개인을 식별하지 않더라도, 개인에 대한 이해를 위해 더 많은 데이터가 필요하다. 이 데이터에 개인정보도 하나의 맥락으로 포함된다.
또, AI의 프라이버시 침해는 기존과 다른 형태다. 기존 정형화된 개인정보 처리방식에서는 침해의 형태도 제한적으로 발생하지만, AI가 수집한 개인정보는 수집 방식이나 규모에 면에서 비교할 수 없게 크기 때문이다. 따라서 AI 기술은 현행 개인정보 체계와 긴장 관계를 형성하거나 컴플라이언스 자체를 확보하기 어렵다는 설명이다.
이 CISO는 AI의 발전은 오랜 시간에 걸쳐 축적된 기술적 발전을 토대로 성장했다고 힘줘 말했다. 최근 AI 시대가 본격적으로 다가오면서 많은 사람들이 AI의 기원을 이세돌과 바둑 대결을 벌인 ‘알파고’부터로 생각한다. 하지만 실제 인공지능 기술은 1950년대부터 이론적 기초를 다졌다. 당시 한계에 막혀 침체기를 겪은 AI는 2010년대 들어 본격적으로 기지개를 켰다.
AI는 시간을 압축하고, 밀도를 높인다. 신약 개발에서 AI는 기존의 방식으로 5년이 걸릴 실험 기간을 수개월 수준으로 단축했다. 기존보다 많은, 다양한 시도를 통해 성공 가능성을 높인다. 이러한 변화는 우리가 정보를 받아들이는 방식도 바꾼다. 기존 데이터가 맥락을 제거해 일반화했다면, AI는 맥락을 보존하는 방식으로 응용한다는 설명이다. 따라서 인공지능의 기존과 다른 형태로 프라이버시 침해한다.
▲이 CISO가 AI와 프라이버시 리스크에 대해 설명하고 있다. [자료: 보안뉴스]
이 CISO는 “AI에서 프라이버시 리스크만을 분리해서 볼 수 없다”며 “아직은 낯선 AI와 충분한 시간과 기회를 주고, 조심스러운 접근이 필요한 시점”이라는 의견이다. 위험성을 상수로 두지만 이를 무작정 막겠다는 생각은 피해야 한다는 것이다. AI 규제를 강조하던 EU도 성장과 투자로 정책을 전환했다.
AI의 맥락으로 일어날 수 있는 결과를 해석하고, 여러 법적 주체 사이에서 책임을 어떻게 분배할지 논의하고, 원칙 중심의 유연한 법 제도를 설계해 법 자체가 앞으로 변화할 세계를 받아들이고 적용될 수 있게 만드는 것이 중요하다는 것이다.
이 CISO는 “인공지능은 이미 우리에게 충분히 필요한 조언을 제시하고 있다”며 “어떻게 인공지능과의 공존 방안을 찾아나가야 할지 함께 고민해야 할 때”라는 화두를 던지며 강연을 마무리했다.
[조재호 기자(sw@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
조재호기자 기사보기
[2025-04-07] 
.jpg)
.JPG){kind=spacer}
