보안뉴스 창간 17주년을 축하합니다!!

Home > 전체기사

개인정보보호위원회 고학수 위원장, “다양한 AI 거버넌스 방안 마련 필요”

입력 : 2024-05-24 10:02
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
아만딥 유엔 기술 특사, “AI 급부상에 전 세계 미래 방향 논의와 AI 거버넌스 표준화 필요”
오는 9월 AI 뉴욕 서밋에서 ‘글로벌 디지털 컴팩트’ 채택되도록 노력할 것”
다양한 참여, 기술 격차 해소, 파편화된 정책 국제표준화, 상호운용성 높여야


[보안뉴스 김경애 기자] AI 기술의 급부상에 따른 국제적 논의가 뜨겁다. 기술의 혁신과 가보지 않은 불확실성으로 인해 이에 대응하기 위한 거버넌스 마련 요구 때문이다. 이와 관련해 개인정보보호위원회는 23일 ‘인공지능(AI)과 데이터 거버넌스 국제 컨퍼런스’를 개최했다. 이날 컨퍼런스에서는 유엔 기술특사를 비롯한 유엔 AI 자문위원들과 국제기구 및 국내외 AI 관련 전문가, 산·학·연 관계자 등 300여 명이 참석한 가운데, AI 시대 데이터 거버넌스의 미래에 대한 심도있는 논의로 뜨거운 관심을 받았다.

▲개인정보보호위원회 고학수 위원장[사진=보안뉴스]


개인정보보호위원회 고학수 위원장은 개회사에서 “AI가 급부상하며 이 영역이 매우 빠르게 변화하고 있다”며 “AI 거버넌스 방향을 잘 잡지 않으면 안 되는 상황이라 우리나라를 비롯해 미국, 싱가폴, 스위스 등 전세계 국가가 숨가쁜 일정을 진행하고 있다”고 밝혔다.

이어 고학수 위원장은 “안전한 정책과 제도를 만들고 있으나, 파편화된 정책은 효과적이지 못할 수 있어 소통, 협력, 논의, 유연한 사고 등 긴밀한 논의와 함께 인류 전체가 AI 기술을 잘 활용할 수 있도록 다양한 거버런스 방안 마련이 필요하다”고 강조했다.

아만딥 싱 길 유엔 사무총장 기술 특사(Amandeep Singh Gill-UN Secretary-General’s Envoy on Technology, 이하 아만딥 특사)는 키노트에서 ‘유엔 AI 고위급 자문기구의 AI 거버넌스 논의’에 대해 발표했다.

▲아만딥 싱 길 유엔 사무총장 기술 특사[사진=보안뉴스]


아만딥 기술 특사는 “유엔에서는 5가지 AI 거버넌스 원칙을 발표한 바 있는데, 그중 하나가 데이터 거버넌스 정책”이라며 “리스크 측면에서 데이터와 밀접한 관련이 있어 악용될 소지와 인권침해 위험성 등이 존재하기 때문”이라며 데이터 거버넌스 정책의 중요성을 강조했다.

이어 아만딥 기술 특사는 “AI 거버넌스가 잘 적용된다면 AI의 혁신은 물론 기술을 잘 활용할 수 있지만, 공공, 민간 등 데이터 집합 간의 상호운용성이 미흡한 게 현실”이라며 “원활한 데이터 흐름의 필요성과 AI 거버넌스를 통한 데이터 관리로 AI의 잠재력을 끌어낼 수 있도록 하는 게 중요하다”고 말했다.

국제사회에서 AI 위험과 기회를 확인하고, 기술 향방에 대한 불확실성을 해소할 수 있도록 기반 마련이 중요하다는 게 그의 설명이다. 이를 위해서는 국제공조와 상호운용성, 리스크 관리 차원에서 다양한 교류와 논의가 필요하다. 또한 AI 표준 마련, AI 역랑 구축 등의 기술 격차 해소를 통해 AI 혁신 생태계 구축 마련에 국제사회가 나서야 한다고 덧붙였다.

이와 함께 오픈소스 등 글로벌 자원 구축을 통해 여러 주체들이 활용할 수 있도록 기반을 마련해야 데이터의 가치를 높일 수 있다고 설명했다.

향후 계획에 대해 그는 “유엔에서는 다음주 싱가포르에서 개최되는 AI 거버넌스 회의와 오는 9월 개최되는 ‘AI 뉴욕 서밋’을 거쳐 올해 안으로 권고안을 발표할 예정”이라며 “뉴욕 회의에서는 글로벌 디지털 컴팩트가 채택되도록 노력할 것”이라며 국제적인 AI 거버넌스와 관련된 결정을 내릴 것이라고 밝혔다.

이날 컨퍼런스에서는 서울대학교 임용 교수가 좌장을 맡은 가운데, ‘글로벌 AI 거버넌스: 국제조화와 상호운용성 전망(Global AI Governance: Prospects for International Harmonization and Interoperability)’ 주제로 AI 거버넌스 정책 마련을 위한 다양한 논의가 이뤄졌다. 논의된 사항은 다음과 같다.

▲개인정보보호위원회와 유엔 인공지능 고위급 자문기구(UN AIAB), 국제 토론 참석자 및 관계자들이 기념촬영을 하고 있다[사진=보안뉴스]


Q. AI 기술 격차를 줄이는데 있어 글로벌 프레임워크 수립과 함께 글로벌 협력이 중요한 이유는 무엇인가?
데니스 웅(Denise Wong) 싱가포르 개인정보 감독기구(PDPC) 부위원장(이하 웅 부위원장): 싱가폴에서는 프레임워크를 생태계 측면에서 9가지 접근방식을 제시하고 있다. 궁극적으로는 서로 신뢰할 수 있도록 혁신을 최대화하고, 이해당사자, 정부, 국제사회가 고려해야 할 사항들을 제시해야 한다. 혁신 단계에서 각각의 대화를 통해 의견을 수렴해 나아가야 한다.

Q. AI 거버넌스와 관련해 놓치는 부분이 없도록 하기 위해 더 필요한 것은 무엇인가?
라티파 알 압둘카림(Latifa Al-Abdulkarim) 유엔 UN AIAB 자문위원(이하 카림 유엔 자문위원): 아직도 전체 AI 거버넌스 그림은 파편화돼 있다. 공공, 민간 부문에서 간극이 존재한다. 무엇보다 실천할 수 있는 게 중요한 만큼 포용, 유연, 개방을 키워드로 국제법, 인권법을 기초로 한 체제 마련이 필요하다.

각 국가별 특징과 대·중·소 기업 등을 고려한 공통의 이해가 필요하다. 또한 개도국, 시민사회 등 다양한 참여 기회가 제공돼야 하고, AI 설계시 바로 책임성이 도입될 수 있도록 글로벌 거버넌스 정책을 마련하고, 미래까지 예측할 수 있도록 상호운용성이 요구된다.

Q. AI 혁신 달성이라는 건 무엇을 의미하는가?
카림 유엔 자문위원: AI 상호운용성과 관련해서는 AI 거버넌스에 대해 상이한 접근방식과 기술, 정치 등 근본적인 복잡성이 있다. 하지만 ITU, ISO 등 국제표준의 공통부분 수렴과 EU AI 법 원칙을 위반하지 않는다면 상호운용성을 높일 수 있다. 맥락 기반의 솔루션 필요성에 대해 개도국, 시민사회 등 다양한 참여 기회가 제공돼야 한다.

고학수 위원장: 상호운용성은 무엇보다 중요하다. 양극화, 이분법적인 관점에서 볼 때 격차가 있다. AI를 통해 어떤 기술개발이 될지 모르는 미지의 리스크가 있는 만큼 지속적인 모니터링과 다양한 논의를 통해 상호운용성 솔루션을 찾는 게 중요하며, 이는 모두에게 큰 도전 과제라고 할 수 있다.

Q. 상호운용성 촉진을 위해 어떻게 해야 하나?
아만다 기술특사: 무엇보다 소통이 중요하다. 기본 출발선이 있어야 한다. AI 정의에 대해 명시한 OECD의 정의 등을 참고해 공통된 접근법을 마련하고, 각국마다 정치, 경제, 문화가 달라 맥락적인 측면에서 데이터 보호와 범용적인 거버넌스가 필요하다.

Q. 상호운용성을 위해 ITU 국제기구의 역할은 무엇인가?
토마스 바시콜로(Thomas Basikolo) 국제전기통신연합(ITU) 통신표준화 정책 프로그램 책임자: 국제표준이 있으면 각국의 맥락에 부합할 수 있다. ITU는 159년 동안 표준을 만들어왔는데, 이제는 통신에서 AI로 넘어왔다. 현재 20여개 AI 표준을 마련 중이다. 130여개 회원국과 업계 등이 ITU 표준 제정에 참여하고 있으며, 합의를 통해 승인되는 과정을 밟고 있다. 국제표준을 통한 근거 마련으로 좋은 체제를 이행할 수 있다. 어떻게 AI 거버넌스를 구축할 것인가에 대한 규제의 분절, 파편화에 대한 논의와 상호운용성이 있는 거버넌스 체제가 수립되면 표준을 만들 수 있을 것이다.

Q. OECD의 상호운용성을 위한 역할은 무엇인가?
카린 퍼셋(Karine Perset) 경제개발기구(OECD) AI 정책연구소장: OECD는 AI 현황에 대해 제대로 파악하고자 현재 71개국 정책 DB를 구축하고 있고 아프리카, 중동 관련 정책들을 해당 DB에 포함시킬 계획이 있다. 이 작업은 정책위반, 상호운용성에 대해 얘기할 때 뒷받침될 수 있다. 2019년 OECD는 AI 원칙을 발표한 바 있는데, 파운데이션 모델이 근간이 된다. 유럽이사회에서도 OECD의 AI 원칙을 근간으로 사용하고 있다. 공통의 정의, 공통의 규제가 필요하고, 밴치마킹도 중요하다. 같은 의미로 일을 하면 상호운용성에 대해 촉진할 수 있다고 생각한다.

Q. 전체 글로벌 AI 거버넌스에 참여하면서 실행하게 되는데, 한국의 개인정보위, 싱가포르 개발청은 어떤 일을 할 수 있나?
고학수 위원장: 개인정보위는 상호운용성을 위해 법 준수를 위한 구체적인 실천법을 포함해 글로벌 표준을 제정하고, 상호운용성을 만들어 가고 있다. AI 모델 구축시 학습모델 확보에 있어 인터넷 데이터를 크롤링해 적용하고 있는데, 과연 정당한가에 대한 논의를 진행하고 있다. EU와 영국 역시 비슷한 논의를 하고 있다. 개인정보위 역시 이익에 대해 EU의견을 참조하고 있으며, 정당한 이익을 어떻게 해석할 것인지에 대해 가이드라인을 준비 중이다. 이 과정을 통해 우리가 해석한 정당한 이익이 다른 국가와 일맥상통하다는 확신이 있다면 상호운용성을 달성할 수 있다.

웅 부위원장: 싱가포르는 동남아시아의 기술 수준이 다른 여러 국가와 함께 공통된 원칙을 도출하고자 AI 윤리와 거버넌스, AI 역량 구축사업을 진행하고 있다. 맥락에 맞는 원칙들을 찾아가고 있으며, 아세안이 AI 워킹그룹을 마련해 대응하고 있다. 미국 NIST의 AI 프레임워크를 근간으로 각 국가별로 프레임워크를 해석하고 있으며, G7 윤리규범을 준비 중이다. 또한 오픈소스 툴킷을 마련 중이며 상용화를 통해 맞춤형으로 데이터를 활용할 수 있도록 할 계획이다. 하지만 해당 국가의 아젠다를 발전시킬 수 있는 체계화된 연구가 필요하다.

이어진 주요 데이터 기업들의 두 번째 세션은, ‘글로벌 AI 맥락의 데이터 거버넌스’를 주제로 진행됐다. 진행자인 임용 교수는 AI와 관련해 기업들이 당면한 데이터 거버넌스의 과제와 그 대응방안에 대해 질의했다.

멜린다 클레이보(Melinda Claybaugh) 메타(Meta) 프라이버시 정책 디렉터는 “이번 컨퍼런스에 대해 기존의 법·제도가 AI 기술 발전에 어떻게 적용되는지와 관련한 UN AIAB, G7, OECD 등 국제 논의에 기여할 것”이라고 평가하면서, AI 및 데이터 거버넌스에 대한 다양한 국제적·국내적 이니셔티브 간 조율 방안에 대한 의견교환이 기대된다고 언급했다.

김성훈 업스테이지 대표는 “책임 있는 AI 개발과 윤리적인 AI 및 데이터 활용에 최선을 다하고 있다”고 강조하면서, 업스테이지가 그간 쌓아온 경험과 노하우를 공유해 AI의 거대한 잠재력을 적절히 활용할 수 있는 정책 환경 조성에 기여하고 싶다”고 밝혔다. 업스테이지는 데이터 오너십(ownership)의 중요성을 바탕으로, 기여한 데이터에 비례해 보상을 제공하고 이익 공유 파트너십을 창출하는 ‘1조 토큰 클럽’을 이끌어 나가고 있다고도 언급했다.

하정우 네이버 클라우드 센터장은 “데이터와 AI 거버넌스에 있어서 각 국가와 지역의 주권(Sovereignty)을 존중하는 것이 중요하다”고 강조했다. 프론티어(frontier) AI와 같은 강력한 생성형 AI의 오픈소스화를 위한 안전한 거버넌스 체계는 특정 기업만의 결정이 아닌 정부와 글로벌 커뮤니티를 포함한 다양한 이해관계자들과의 합의가 중요하다고 언급했다.

애슬리 판툴리아노(Ashley Pantuliano) 오픈 AI 법률고문은 “AI 관련 안전한 프라이버시 보호 수단을 지속적으로 혁신하기 위한 정부 및 업계 관계자와의 대화를 환영한다”면서, “오픈 AI가 널리 이용되는 AI 모델을 개발하므로 책임 있는 AI 활용과 데이터 거버넌스를 위한 논의에 참여하는 것이 중요하다”고 언급했다. 오픈 AI의 툴이 사람들에게 편익을 제공하고 있지만 한편으로는 AI 기술에 위험이 동반한다는 것을 알고 있으며, AI를 안전하고 이롭게 유지하기 위해 전념하고 있다고 강조했다.

유니스 훵(Eunice Huang) 구글(Google) 아태지역 인공지능 및 신흥기술 부서장은 “AI가 대다수 분야에서 우리가 살아가고, 일하고, 배우는 방식을 근본적으로 변화시킬 잠재력을 갖고 있으며, 데이터 개방성(Data Openness)은 지속적 혁신을 가능케 하는 환경 조성에 중요한 역할을 한다”고 강조했다. AI가 제공하는 기회를 모두가 온전히 활용하기 위해 데이터 거버넌스에 대한 사려 깊고 균형 잡힌 접근이 필요하다고 언급했다.

이번 컨퍼런스를 주최한 고학수 개인정보위 위원장은 “이번 컨퍼런스가 AI와 데이터 거버넌스에 관한 글로벌 논의에 또 하나의 디딤돌을 놓은 것”이라고 평가하면서, “AI 기술 발전이 더 많은 사람의 편익으로 연결될 수 있게 하는 포용적인 데이터 거버넌스 마련을 위해 앞으로도 국제 논의에 주도적으로 참여하겠다”는 의지를 밝혔다.
[김경애 기자(boan3@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
 하이젠 파워비즈 23년 11월 16일~2024년 11월 15일까지 아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지
설문조사
3월 15일부터 시행되고 있는 개정 개인정보보호법과 관련해 가장 까다롭고 이행하기 어려운 조항은 무엇인가요?
인공지능(AI) 등 자동화된 결정에 대한 정보주체 권리 구체화
접근권한 관리 등 개인정보 안전성 확보조치 강화 및 고유식별정보 관리실태 정기조사
영향평가 요약본 공개제도 도입 등 개인정보 영향평가제도
영상정보처리기기 및 안전조치 기준
개인정보 보호책임자의 전문성 강화 위한 전문CPO 지정
국외 수집·이전 개인정보 처리방침 공개 등 개인정보 처리방침 평가제도
손해배상책임 의무대상자 변경 및 확대
공공기관 개인정보 보호수준 평가 확대
기타(댓글로)