서울에서 ‘AI와 데이터 프라이버시 국제 컨퍼런스’ 개최... 한국·영국·독일·일본 등 참여
영국·독일 등 AI 세계적인 규율 체계 논의 중인 유럽 핵심국 개인정보 감독기관과 논의
[보안뉴스 김영명 기자] 개인정보보호위원회(위원장 고학수, 이하 개인정보위)와 디지털플랫폼정부위원회(위원장 고진, 이하 디지털플랫폼정부위)가 서울 더 플라자 호텔에서 ‘인공지능(AI)과 데이터 프라이버시 국제 컨퍼런스(이하 콘퍼런스)’를 개최했다. 이날 콘퍼런스에서는 한국, 영국, 독일, 일본 등 주요국 개인정보 감독기관과 EU·OECD 등 국제기구, 국내외 인공지능(AI) 관련 전문가 및 관련 업계, 약 300명의 산·학·연 관계자와 일반인이 참석해 열띤 의견을 교환했다.
특히, 이번 콘퍼런스는 한국의 개인정보위가 AI 영역에서 세계적인 규율 체계에 관한 논의를 주도하고 있는 영국, 독일, 프랑스 등 유럽의 핵심국 개인정보 감독기관들과 함께, AI 규율 방향에 관한 논의를 본격적으로 시작했다는 점에서 그 의미가 크다.
콘퍼런스에서 개인정보위 고학수 위원장은 인공지능(AI)은 초거대 모델을 비롯해 자율주행, 의료 등 다양한 분야에서 역동적으로 성장하면서 사회 전반에 막대한 변화를 일으키고 있지만, AI의 부작용과 리스크의 우려가 공존한다고 하면서 기존의 개인정보보호 법률 원칙을 AI 영역에 어떻게 적용할 것인지에 대한 고민이 필요한 시점이라고 밝혔다.
고학수 위원장은 “급변하는 AI 환경에서 개인정보보호 원칙을 어떻게 적용할 수 있는지에 대해 AI 환경에서도 목적 범위에서 적합하게 개인정보를 수집 및 처리하고 안전하게 관리하며, 개인정보 처리목적과 내용 등을 투명하게 공개해 설명 가능한 AI를 구현할 수 있도록 해야 한다는 원칙은 반드시 준수돼야 한다”고 강조했다.
개인정보위는 이러한 생각을 담아 AI 관련 이슈 대응을 위해 △AI 서비스 제공자에 대한 안전장치 제공 △규정 중심(rule-based)에서 원칙 중심(principle-based)으로 규제 패러다임 전환 △AI의 리스크를 기준으로 차등적인 규제 도입 등을 담은 세 가지 정책 방향을 제시했다.
고학수 위원장은 특히, 초국가적으로 데이터가 처리되고 서비스가 제공되는 AI 환경에서는 개별 국가의 규제만으로는 한계가 있기 때문에 개인정보 감독기관 간 AI 관련 이슈를 공유하고, 대응방안을 모색하기 위해 국가 간 인공지능(AI) 관련 처분사례 등 정보를 공유하는 체계를 구축하는 것과 국가별 AI 프라이버시 이슈를 담당하는 소통 채널을 마련하는 것을 제안했다.
이번 콘퍼런스에서 디지털플랫폼정부위 고진 위원장은 기조연설을 통해 “AI 활용과 확산을 위해서는 사회적 공감대 조성이 필요하다”며 “개인에 대한 차별이나 편향, 사회적 불평등이 없도록 AI 알고리즘의 공정성, 투명성, 책임성에서 이와 같은 논의가 지속돼야 한다”고 말했다.
세션별로 논의된 주요 사항은 다음과 같다. 오전 세션의 강연을 맡은 미국 조지타운 법대 아누팜 챈더(Anupam Chander) 교수는 일부 주요 경제 강국이 AI를 규제하면서 예상되는 전 세계적 파급효과와 AI의 국제적 규제를 위해, 개인정보보호 법제의 역사에서 무엇을 배울 수 있는가를 발표해 참석자들의 관심을 끌었다.
오후 세션에서 영국 개인정보 감독기구(정보위원회) 존 에드워즈(John Edwards) 위원장은 “이 자리에 모인 우리는 규제기관으로서 생성형 AI의 윤리적이고 책임 있는 사용을 보장하기 위해 노력해오고 있다”며 “이러한 기술이 프라이버시에 대한 리스크와 일반 대중의 신뢰에 미치는 영향을 고려해야 한다”고 언급했다. 이어 “데이터 보호를 위한 법과 기술의 영향력을 이해하기 위한 방안도 존재하지만, 본질적으로 투명성 확보와 정보에 입각한 동의 및 보호장치 마련이 매우 중요하다”며 새로운 이슈 대응을 위한 협력 필요성을 강조했다.
독일 개인정보 감독기구(연방데이터보호정보자유위원회) 울리히 켈버(Ulrich Kelber) 위원장은 “AI 규제를 통해 관련 시스템이 투명성을 갖출 수 있도록 해야 하고, AI 시스템에 따른 차별의 영향을 받는 사람들이 자신을 방어할 수 있어야 하며, AI 법제를 통해 침해신고 메커니즘 확립 및 적절한 법적 조치 시행이 가능하도록 해야 한다”고 강조했다. 이어 “기본권 준수가 전제된 AI 시스템 개발과 활용에 있어 명확한 책임성을 갖는 것이 중요하다”고 덧붙였다.
일본 개인정보보호위원회 유지 아사이(Yuji Asai) 위원은 “이달 20~21일에 도쿄에서 일본 개인정보보호위원회가 개최한 제3차 G7 데이터 보호 및 개인정보보호 당국 회의가 열려 생성형 AI에 관한 성명서가 실행계획과 함께 채택됐다”며 “생성형 AI 사용 맥락에서 데이터 보호 및 프라이버시 문제에 대한 더 많은 논의와 협력이 필요하고 이번 콘퍼런스가 논의를 지속하기 위한 좋은 계기가 될 것”이라고 말했다.
이밖에도 △유럽연합 개인정보보호 이사회(EDPB) △유럽연합 개인정보보호 감독기구(EDPS) △경제개발협력기구(OECD) 데이터 보호 조직의 대표자들도 인공지능(AI) 규제를 위한 일관된 체계를 구축하기 위해 계속 협력할 의지를 표명했으며, 보다 효과적이고 적절하게 규제를 집행할 수 있는 구체적인 방안을 마련해 나가는 데 동의했다.
한편, 콘퍼런스에 참석한 AI 관련 국제적 기업들은 AI 기술의 리스크를 완화하기 위해서는 프라이버시 원칙을 준수하고, 책임성을 확보하는 것이 매우 중요하다는 것과 프라이버시 보호를 위한 합리적 규제를 마련하는 것이 필요하다는 데 공감했다.
삼성전자 김현종 개인정보 담당 상무는 “AI 개발에 필요한 학습 데이터의 수집과 이용에서 야기될 수 있는 프라이버시 위협요인을 최소화하기 위해 민관 협업으로 AI의 개인정보보호에 관한 합리적이고 균형 있는 제도적 장치가 마련되길 바란다”고 언급했다.
메타(Meta) 레이나 영(Raina Yeung) 개인정보 정책 이사는 “AI이 인류를 위해 엄청난 발전을 가능하게 했지만 이 기술을 책임 있게 개발해야 하고, 인공지능(AI) 기술의 영향력이 하나의 기업이나 국가에 국한되지 않는다”며 “정부와 업계는 혁신이 지속해서 이뤄지면서 잠재적 리스크를 완화시킬 수 있는 AI 거버넌스 프레임워크에 대해 협력해야 한다”고 말했다.
구글 안젤라 쉬(Angela Xu) 개인정보보호 법률팀 책임자는 “구글은 프라이버시와 보안을 최우선으로 생각하고 제품과 서비스를 생산하고 있다”며 “AI 기술의 개발과 사용에 있어 프라이버시 원칙 및 책임성 있는 AI 활용을 포함해 왔으며 앞으로도 그럴 것”이라고 말했다.
특히, 프랑스 개인정보 감독기구인 국가정보자유위원회는 이번 콘퍼런스에 대면으로 참석하지는 못했으나, AI로 인한 새로운 프라이버시 문제에 공동 대응하기 위한 후속 논의를 위해 힌국의 개인정보위와 함께, 각국의 개인정보 감독기구, 국제기구, AI 관련 기업 등 다양한 이해관계자가 참여하는 정기적인 교류체계를 만들겠다는 적극적인 입장을 표명했다.
고학수 위원장은 “이번 논의가 시작으로 앞으로의 후속 논의가 지속해서 이뤄지고 구체화 될 계기가 마련될 것”이라며 “AI 시대에 새롭게 대두되는 프라이버시 이슈를 효과적으로 해결하고, 신뢰할 수 있는 AI의 발전을 위한 국제 논의에 주도적으로 참여하겠다”는 의지를 밝혔다.
[김영명 기자(boan@boannews.com)]
영국·독일 등 AI 세계적인 규율 체계 논의 중인 유럽 핵심국 개인정보 감독기관과 논의
[보안뉴스 김영명 기자] 개인정보보호위원회(위원장 고학수, 이하 개인정보위)와 디지털플랫폼정부위원회(위원장 고진, 이하 디지털플랫폼정부위)가 서울 더 플라자 호텔에서 ‘인공지능(AI)과 데이터 프라이버시 국제 컨퍼런스(이하 콘퍼런스)’를 개최했다. 이날 콘퍼런스에서는 한국, 영국, 독일, 일본 등 주요국 개인정보 감독기관과 EU·OECD 등 국제기구, 국내외 인공지능(AI) 관련 전문가 및 관련 업계, 약 300명의 산·학·연 관계자와 일반인이 참석해 열띤 의견을 교환했다.
▲개인정보보호위원회 로고[로고=개인정보위]
콘퍼런스에서 개인정보위 고학수 위원장은 인공지능(AI)은 초거대 모델을 비롯해 자율주행, 의료 등 다양한 분야에서 역동적으로 성장하면서 사회 전반에 막대한 변화를 일으키고 있지만, AI의 부작용과 리스크의 우려가 공존한다고 하면서 기존의 개인정보보호 법률 원칙을 AI 영역에 어떻게 적용할 것인지에 대한 고민이 필요한 시점이라고 밝혔다.
고학수 위원장은 “급변하는 AI 환경에서 개인정보보호 원칙을 어떻게 적용할 수 있는지에 대해 AI 환경에서도 목적 범위에서 적합하게 개인정보를 수집 및 처리하고 안전하게 관리하며, 개인정보 처리목적과 내용 등을 투명하게 공개해 설명 가능한 AI를 구현할 수 있도록 해야 한다는 원칙은 반드시 준수돼야 한다”고 강조했다.
개인정보위는 이러한 생각을 담아 AI 관련 이슈 대응을 위해 △AI 서비스 제공자에 대한 안전장치 제공 △규정 중심(rule-based)에서 원칙 중심(principle-based)으로 규제 패러다임 전환 △AI의 리스크를 기준으로 차등적인 규제 도입 등을 담은 세 가지 정책 방향을 제시했다.
▲인공지능(AI) 관련 이슈 대응을 위한 주요 정책 방향[자료=개인정보위]
고학수 위원장은 특히, 초국가적으로 데이터가 처리되고 서비스가 제공되는 AI 환경에서는 개별 국가의 규제만으로는 한계가 있기 때문에 개인정보 감독기관 간 AI 관련 이슈를 공유하고, 대응방안을 모색하기 위해 국가 간 인공지능(AI) 관련 처분사례 등 정보를 공유하는 체계를 구축하는 것과 국가별 AI 프라이버시 이슈를 담당하는 소통 채널을 마련하는 것을 제안했다.
이번 콘퍼런스에서 디지털플랫폼정부위 고진 위원장은 기조연설을 통해 “AI 활용과 확산을 위해서는 사회적 공감대 조성이 필요하다”며 “개인에 대한 차별이나 편향, 사회적 불평등이 없도록 AI 알고리즘의 공정성, 투명성, 책임성에서 이와 같은 논의가 지속돼야 한다”고 말했다.
세션별로 논의된 주요 사항은 다음과 같다. 오전 세션의 강연을 맡은 미국 조지타운 법대 아누팜 챈더(Anupam Chander) 교수는 일부 주요 경제 강국이 AI를 규제하면서 예상되는 전 세계적 파급효과와 AI의 국제적 규제를 위해, 개인정보보호 법제의 역사에서 무엇을 배울 수 있는가를 발표해 참석자들의 관심을 끌었다.
오후 세션에서 영국 개인정보 감독기구(정보위원회) 존 에드워즈(John Edwards) 위원장은 “이 자리에 모인 우리는 규제기관으로서 생성형 AI의 윤리적이고 책임 있는 사용을 보장하기 위해 노력해오고 있다”며 “이러한 기술이 프라이버시에 대한 리스크와 일반 대중의 신뢰에 미치는 영향을 고려해야 한다”고 언급했다. 이어 “데이터 보호를 위한 법과 기술의 영향력을 이해하기 위한 방안도 존재하지만, 본질적으로 투명성 확보와 정보에 입각한 동의 및 보호장치 마련이 매우 중요하다”며 새로운 이슈 대응을 위한 협력 필요성을 강조했다.
독일 개인정보 감독기구(연방데이터보호정보자유위원회) 울리히 켈버(Ulrich Kelber) 위원장은 “AI 규제를 통해 관련 시스템이 투명성을 갖출 수 있도록 해야 하고, AI 시스템에 따른 차별의 영향을 받는 사람들이 자신을 방어할 수 있어야 하며, AI 법제를 통해 침해신고 메커니즘 확립 및 적절한 법적 조치 시행이 가능하도록 해야 한다”고 강조했다. 이어 “기본권 준수가 전제된 AI 시스템 개발과 활용에 있어 명확한 책임성을 갖는 것이 중요하다”고 덧붙였다.
일본 개인정보보호위원회 유지 아사이(Yuji Asai) 위원은 “이달 20~21일에 도쿄에서 일본 개인정보보호위원회가 개최한 제3차 G7 데이터 보호 및 개인정보보호 당국 회의가 열려 생성형 AI에 관한 성명서가 실행계획과 함께 채택됐다”며 “생성형 AI 사용 맥락에서 데이터 보호 및 프라이버시 문제에 대한 더 많은 논의와 협력이 필요하고 이번 콘퍼런스가 논의를 지속하기 위한 좋은 계기가 될 것”이라고 말했다.
이밖에도 △유럽연합 개인정보보호 이사회(EDPB) △유럽연합 개인정보보호 감독기구(EDPS) △경제개발협력기구(OECD) 데이터 보호 조직의 대표자들도 인공지능(AI) 규제를 위한 일관된 체계를 구축하기 위해 계속 협력할 의지를 표명했으며, 보다 효과적이고 적절하게 규제를 집행할 수 있는 구체적인 방안을 마련해 나가는 데 동의했다.
한편, 콘퍼런스에 참석한 AI 관련 국제적 기업들은 AI 기술의 리스크를 완화하기 위해서는 프라이버시 원칙을 준수하고, 책임성을 확보하는 것이 매우 중요하다는 것과 프라이버시 보호를 위한 합리적 규제를 마련하는 것이 필요하다는 데 공감했다.
삼성전자 김현종 개인정보 담당 상무는 “AI 개발에 필요한 학습 데이터의 수집과 이용에서 야기될 수 있는 프라이버시 위협요인을 최소화하기 위해 민관 협업으로 AI의 개인정보보호에 관한 합리적이고 균형 있는 제도적 장치가 마련되길 바란다”고 언급했다.
메타(Meta) 레이나 영(Raina Yeung) 개인정보 정책 이사는 “AI이 인류를 위해 엄청난 발전을 가능하게 했지만 이 기술을 책임 있게 개발해야 하고, 인공지능(AI) 기술의 영향력이 하나의 기업이나 국가에 국한되지 않는다”며 “정부와 업계는 혁신이 지속해서 이뤄지면서 잠재적 리스크를 완화시킬 수 있는 AI 거버넌스 프레임워크에 대해 협력해야 한다”고 말했다.
구글 안젤라 쉬(Angela Xu) 개인정보보호 법률팀 책임자는 “구글은 프라이버시와 보안을 최우선으로 생각하고 제품과 서비스를 생산하고 있다”며 “AI 기술의 개발과 사용에 있어 프라이버시 원칙 및 책임성 있는 AI 활용을 포함해 왔으며 앞으로도 그럴 것”이라고 말했다.
특히, 프랑스 개인정보 감독기구인 국가정보자유위원회는 이번 콘퍼런스에 대면으로 참석하지는 못했으나, AI로 인한 새로운 프라이버시 문제에 공동 대응하기 위한 후속 논의를 위해 힌국의 개인정보위와 함께, 각국의 개인정보 감독기구, 국제기구, AI 관련 기업 등 다양한 이해관계자가 참여하는 정기적인 교류체계를 만들겠다는 적극적인 입장을 표명했다.
고학수 위원장은 “이번 논의가 시작으로 앞으로의 후속 논의가 지속해서 이뤄지고 구체화 될 계기가 마련될 것”이라며 “AI 시대에 새롭게 대두되는 프라이버시 이슈를 효과적으로 해결하고, 신뢰할 수 있는 AI의 발전을 위한 국제 논의에 주도적으로 참여하겠다”는 의지를 밝혔다.
[김영명 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김영명기자 기사보기
[2024-04-24] 
.jpg)
.jpg)
.jpg)
