보안뉴스 창간 17주년을 축하합니다!!

Home > 전체기사

안전한 인공지능 활용의 시작은 데이터 프라이버시

입력 : 2023-10-27 14:05
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
미국의 정치인들은 업계 전문가들로부터 다양한 압박을 받는다. 최근에는 인공지능이 떠오르면서 IT 분야 전문가들로부터 이런 느낌을 받는다고 한다. 압박의 내용은 ‘얼른 규제를 만들어 달라’는 것이었다.

[보안뉴스 문정후 기자] 지난 주 수요일 IT 전문가들이 두 명의 미국 하원 의원들을 만나 인공지능의 활용에 대한 규정을 통과시켜달라고 촉구했다. 미국 의회에서는 얼마 전부터 인공지능 기술이 가진 잠재력과 위험성을 탐구하기 위해 여러 차례 공청회를 진행하기도 했었다. 그러면서 “인공지능이라는 강력한 기술에는 제어 장치가 필요하다”는 결론에 도달하는 중이다. 유럽연합과 중국의 정부 기관들은 이미 인공지능과 관련된 여러 규정들을 통과시키고 있다.

[이미지 = gettyimagesbank]


미국 정계에서는 인공지능 관련 규정의 도입을 매우 중요한 사업으로 보고 있다. 인공지능이라는 기술을 선도하는 국가가 되려면 안전장치들이 빠르게 마련되어야 하기 때문인데, 이미 이 부분에 있어서는 미국이 유럽과 중국보다 쳐진 모습을 보이고 있으니 발등에 불이 떨어진 것이나 다름 없다. 그러면서 제일 먼저 언급되는 것이 데이터 프라이버시와 보안에 관한 규정들이다.

연방 차원의 데이터 프라이버시 법 필요
현재 미국 정계에서 가장 많이 나오고 있는 법안의 이름은 ADPPA다. 미국데이터프라이버시보호법안(American Data Privacy and Protection Act)의 준말이다. 만약 통과가 된다면 데이터 프라이버시 관련 법으로서는 최초로 연방 차원에서 도입하는 것이 될 예정이다. 인공지능과 관련된 보안과 안전 대책은 무엇이 됐든 데이터 프라이버시로부터 시작한다는 게 전문가들 사이의 중론이기 때문에 연방 차원에서 이런 식으로 움직이는 것이라고 볼 수 있다.

ADPPA는 사실 하원에서 2022년 7월에 이미 통과됐다. 무려 53:2라는 압도적인 수로 말이다. 하지만 아직 상원에서 통과를 하지 못하고 있으며, 따라서 1년이 넘게 법이라는 형태를 갖지 못하고 있다. 일부 IT 전문가들이 의원들을 만나 요구한 것 중 가장 중요한 게 바로 이 ADPPA의 통과다. 하원의원들도 잘 이해하고 있으며, 아마 상원도 그러할 것으로 추정된다. 하지만 어떤 이유로 해당 법안이 계류되고 있는 것인지는 아직 공개되지 않고 있다.

비영리 단체 에머슨컬렉티브(Emerson Collective)의 CTO인 라피 크리코리안(Raffi Krikorian)도 “데이터 프라이버시와 관련된 규정만큼 중요한 게 없다”며 “인공지능은 방대한 데이터로 만들어진 기술이라고 해도 과언이 아니기 때문”이라고 설명한다. “이미 데이터를 가지고 각종 서비스를 얻는 등의 거래가 진행되는 건 상식적인 일이지만, 일반 소비자들이 이를 전부 이해하고 있는 건 아닙니다. 이해하고 있다고 해서 뭐가 달라지는 것도 아니고요. 그렇기 때문에 연방 차원의 데이터 프라이버시 법안을 통과시키고 도입해서 사용자들이 데이터 프라이버시라는 개념을 이해하도록 도와야 합니다. 그런 후에 인공지능의 시대로 접어들어야 우리는 보다 탄탄한 길을 달릴 수 있을 겁니다.””

AI나우인스티튜트(AI Now Institute)의 수석 총괄인 아마 칵(Ama Kak)도 “의회는 지금 그 무엇보다 ADPPA 통과시키는 걸 급선무로 삼아야 한다”는 입장이다. “데이터 프라이버시 법은 인공지능이 본격적으로 도입되는 미래를 안전하게 보호하기 위한 최소한의 방비책입니다. 이 데이터 프라이버시가 잘 지켜져야 인공지능 제어를 좀 더 효과적으로 할 수 있게 됩니다. 데이터 프라이버시라는 개념이나 기준이 정착되지 않은 지금 대형 언어 모델이 어떤 식으로 작동하는지 보세요. 각종 민감 정보가 그대로 출력되기도 하고, 부정확한 답이 나오기도 하지요. 이 부분을 개선하지 않는다면 인공지능의 효용성은 점차 떨어질 겁니다.”

그러면서 칵은 이탈리아 정부를 예로 든다. “이탈리아 정부는 챗GPT의 사용을 전면 금지시켰습니다. 그러다가 오픈AI(OpenAI)에서 안전 기능을 하나 추가해 사용자와 챗GPT 간 대화 내용을 인공지능 훈련에 도입하지 못하게 했지요. 그 기능을 확인한 후에야 이탈리아 정부는 챗GPT 금지 조치를 풀었습니다. 그러면서 이탈리아는 더 안전한 방향으로 챗GPT를 활용할 수 있게 됐습니다. 이런 식의 앞서간 조치가 우리에게도 필요한 겁니다.”

소프트웨어 업체 BSA의 CEO 빅토리아 에스피넬(Victoria Espinel)은 “데이터 프라이버시와 관련된 법규도 중요하지만 사실 인공지능 자체를 위한 법규도 필요하다”고 지적한다. “결국 위협이 되거나 강력한 힘이 되는 건 인공지능 그 자체이거든요. 이 인공지능의 행동 범주를 지정해주는 것도 무척이나 중요한 일일 겁니다. 다만 인공지능이 아직 초기 단계에 머물고 있기 때문에 행동 범주를 지정한다는 것이 불가능에 가깝긴 하지요.”

데이터와 인공지능 규제의 미래, 아직 불투명
카네기멜론대학의 아리 라이트먼(Ari Lightman) 교수는 “의회가 지금 완성된 형태의 규정을 마련하려 하는 것 같다”고 보고 있다. 그러면서 “세상의 그 어떤 법이나 규정이 수정 없이 있는 그대로 사용되지 않습니다. 처음부터 완벽한 법이라는 건 환상 속에나 존재하지요. 그러므로 의회는 그런 부담을 줄이고 뭐가 됐든 규정 하나를 얼른 발표해야 합니다. 그런 후에 계속해서 수정해 나가고 필요하면 더 많은 규정을 신설하는 등의 작업을 이어가야 합니다. 실체를 먼저 갖는 게 지금으로서는 급선무입니다.”

국제프라이버시전문가협회(International Association of Privacy Professionals, IAPP)의 프라이버시 법 전문가 무지 파즐리오글루(Müge Fazlioglu)는 “지금은 인터넷 시대”라며 “인공지능과 데이터 프라이버시와 관련된 프레임워크들을 쉽게 찾을 수 있다”고 말한다. “국제적으로는 어떤 기준이나 표준이 논의되는지, 어떤 수준의 법안이 프라이버시 강화나 데이터 보안을 위해 마련되고 있는지 살필 수 있고, 이게 큰 도움이 됩니다. 이를 적극적으로 탐구해 적용하는 노력이 필요합니다. 계속 앉아서 전문가 의견만 듣고 정치인들끼리 논의해서는 건강한 답이 나오지 않습니다.”

연방거래위원회(FTC)의 전 의장인 조나단 레이보비츠(Jonathan Leibowitz)는 “기존 규정이나 정부 기관들의 권한을 가지고도 어느 정도 인공지능이나 데이터 프라이버시 관련 행위들을 규제하는 게 가능하다”고 말한다. “하지만 그것은 ‘어느 정도’일 뿐이지, 인공지능이나 데이터 프라이버시를 전반적으로 아우르지는 못합니다. 그러니 의회가 보다 효과적인 규정 마련을 위해 발빠르게 움직여야 할 겁니다.”

글 : 셰인 스나이더(Shane Snider), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
 하이젠 파워비즈 23년 11월 16일~2024년 11월 15일까지 아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지
설문조사
3월 15일부터 시행되고 있는 개정 개인정보보호법과 관련해 가장 까다롭고 이행하기 어려운 조항은 무엇인가요?
인공지능(AI) 등 자동화된 결정에 대한 정보주체 권리 구체화
접근권한 관리 등 개인정보 안전성 확보조치 강화 및 고유식별정보 관리실태 정기조사
영향평가 요약본 공개제도 도입 등 개인정보 영향평가제도
영상정보처리기기 및 안전조치 기준
개인정보 보호책임자의 전문성 강화 위한 전문CPO 지정
국외 수집·이전 개인정보 처리방침 공개 등 개인정보 처리방침 평가제도
손해배상책임 의무대상자 변경 및 확대
공공기관 개인정보 보호수준 평가 확대
기타(댓글로)