인공지능 분야가 심상치 않게 움직이나 싶더니 백악관에서 행정명령까지 발표했다. 주로 사회적 안전을 도모하겠다는 관점의 내용들이 들어있다. 또한 인공지능이 생성하는 콘텐츠와 관련된 내용들도 적잖이 포함됐다.
[보안뉴스 문정후 기자] 조 바이든 미국 대통령이 인공지능의 안전한 개발과 혁신을 위한 행정명령을 발표했다. 이번 행정명령에는 인공지능에 관한 문제를 다루는 것을 넘어 미국 국민들의 프라이버시를 보호한다는 의지도 담겨 있어서 더 이목을 집중시킨다.
행정명령에 의해 고급 인공지능과 대형 언어 모델을 전문적으로 연구하는 개발자들의 경우 치명적으로 중요한 정보는 앞으로 반드시 미국 정부와 공유하도록 정해졌다. 여기서 말하는 중요한 정보란 안전 검사 결과 같은 것을 말한다. 또한 개발자들은 인공지능 시스템의 개발과 향상을 위한 표준과 도구를 먼저 마련해야 하며, 인공지능을 이용하여 위험한 생물학적 물질이나 재료를 만들 수 없고, 인공지능을 활용한 사기와 속임수를 예방하며, 인공지능 도구들을 개발할 때 적용되어야 할 사이버 보안 프로그램을 생성해야 한다고 행정명령은 명시하고 있다.
미국의 전 NSA 출신 해커인 제이크 윌리엄즈(Jake Williams)는 “꽤나 야심찬 계획들이 가득 들어 있다”고 말하며 “우선은 인공지능으로부터 사회를 보호하겠다는 의지가 보이지, 인공지능을 개발하고 연구하는 조직들을 견제하겠다는 의도는 없어 보인다”고 평가한다.
“이번 행정명령은 인공지능으로 만들어진 콘텐츠를 탐지하는 것에 집중하고 있습니다. 어떻게 해야 이 콘텐츠가 사람이 만든 것인지, 인공지능이 제작한 것인지를 파악하는 것이 시급한 현안이라고 보고 있는 듯합니다. 정계가 딥페이크 콘텐츠에 꽤나 날카롭게 반응하고 있는데, 그것과 맥락을 같이 하고 있죠. 다만 문제는 콘텐츠를 생성하는 기술이 항상 뭔가를 탐지하는 기술보다 앞서가기 때문에 지금 시점에서 행정명령으로 다룰 수 있는 부분은 한정되어 있다는 겁니다.”
뿐만 아니라 바이든은 미국 의회를 향해 데이터 관련 법안의 통과를 요청하기도 했다. 데이터 수집 과정 및 기술과 관련된 것으로, 프라이버시를 침해하지 않으면서도 데이터와 관련된 연구를 강력하게 지속시킬 수 있는 방안을 마련하는 게 시급한 문제라고 강조했다. 의회에서 가이드라인을 만들어 연방 정부 기관들에 적용함으로써 이러한 방법들을 정착시켜야 한다고도 강력하게 촉구했다.
인공지능의 편향성 문제도 이번 행정명령을 통해 살짝 다뤄졌다. “인공지능을 무책임하게 다루면 사회 내 존재하는 차별과 편향성 등 정의를 훼손하는 문제를 심화시킬 수 있게 된다”는 문구에서 바이든 행정부의 방향성을 짚을 수 있다. “역시나 인공지능을 사회 문제로 보고 있다는 걸 알 수 있습니다. 인공지능 기술을 활기차게 개발하고 활용하기 이전에 사회적 안전 장치들을 마련하는 게 먼저라고 결정을 내린 것으로 보입니다.”
그러면서도 바이든 행정부는 인공지능 기술의 향상과 혁신 또한 놓치지 않으려 하고 있다. 기술 개발의 촉진과 더불어 다른 국가들과의 파트너십을 통한 안전하게 기술을 활용하고 정착시킨다는 내용을 강조하고 있기도 하다. 실제로 이번 행정명령을 준비하면서 바이든 행정부는 다른 나라 정부들과도 많은 이야기를 나눈 것으로 알려져 있다.
지난 7월 백악관에서는 인공지능과 관련하여 격렬한 회의가 진행됐다. 7개 기업 대표들이 초대됐으며, 이를 통해 안전한 인공지능 개발과 활용에 관한 의견을 모아 기조를 수립한 것으로 알려져 있다. 인공지능 분야 전문가들은 인공지능 기술이 너무나 강력하기 때문에 규제가 먼저 도입되어야 한다고 촉구해 왔다.
글 : 크리스티나 비크(Kristina Beek), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 조 바이든 미국 대통령이 인공지능의 안전한 개발과 혁신을 위한 행정명령을 발표했다. 이번 행정명령에는 인공지능에 관한 문제를 다루는 것을 넘어 미국 국민들의 프라이버시를 보호한다는 의지도 담겨 있어서 더 이목을 집중시킨다.
[이미지 = gettyimagesbank]
행정명령에 의해 고급 인공지능과 대형 언어 모델을 전문적으로 연구하는 개발자들의 경우 치명적으로 중요한 정보는 앞으로 반드시 미국 정부와 공유하도록 정해졌다. 여기서 말하는 중요한 정보란 안전 검사 결과 같은 것을 말한다. 또한 개발자들은 인공지능 시스템의 개발과 향상을 위한 표준과 도구를 먼저 마련해야 하며, 인공지능을 이용하여 위험한 생물학적 물질이나 재료를 만들 수 없고, 인공지능을 활용한 사기와 속임수를 예방하며, 인공지능 도구들을 개발할 때 적용되어야 할 사이버 보안 프로그램을 생성해야 한다고 행정명령은 명시하고 있다.
미국의 전 NSA 출신 해커인 제이크 윌리엄즈(Jake Williams)는 “꽤나 야심찬 계획들이 가득 들어 있다”고 말하며 “우선은 인공지능으로부터 사회를 보호하겠다는 의지가 보이지, 인공지능을 개발하고 연구하는 조직들을 견제하겠다는 의도는 없어 보인다”고 평가한다.
“이번 행정명령은 인공지능으로 만들어진 콘텐츠를 탐지하는 것에 집중하고 있습니다. 어떻게 해야 이 콘텐츠가 사람이 만든 것인지, 인공지능이 제작한 것인지를 파악하는 것이 시급한 현안이라고 보고 있는 듯합니다. 정계가 딥페이크 콘텐츠에 꽤나 날카롭게 반응하고 있는데, 그것과 맥락을 같이 하고 있죠. 다만 문제는 콘텐츠를 생성하는 기술이 항상 뭔가를 탐지하는 기술보다 앞서가기 때문에 지금 시점에서 행정명령으로 다룰 수 있는 부분은 한정되어 있다는 겁니다.”
뿐만 아니라 바이든은 미국 의회를 향해 데이터 관련 법안의 통과를 요청하기도 했다. 데이터 수집 과정 및 기술과 관련된 것으로, 프라이버시를 침해하지 않으면서도 데이터와 관련된 연구를 강력하게 지속시킬 수 있는 방안을 마련하는 게 시급한 문제라고 강조했다. 의회에서 가이드라인을 만들어 연방 정부 기관들에 적용함으로써 이러한 방법들을 정착시켜야 한다고도 강력하게 촉구했다.
인공지능의 편향성 문제도 이번 행정명령을 통해 살짝 다뤄졌다. “인공지능을 무책임하게 다루면 사회 내 존재하는 차별과 편향성 등 정의를 훼손하는 문제를 심화시킬 수 있게 된다”는 문구에서 바이든 행정부의 방향성을 짚을 수 있다. “역시나 인공지능을 사회 문제로 보고 있다는 걸 알 수 있습니다. 인공지능 기술을 활기차게 개발하고 활용하기 이전에 사회적 안전 장치들을 마련하는 게 먼저라고 결정을 내린 것으로 보입니다.”
그러면서도 바이든 행정부는 인공지능 기술의 향상과 혁신 또한 놓치지 않으려 하고 있다. 기술 개발의 촉진과 더불어 다른 국가들과의 파트너십을 통한 안전하게 기술을 활용하고 정착시킨다는 내용을 강조하고 있기도 하다. 실제로 이번 행정명령을 준비하면서 바이든 행정부는 다른 나라 정부들과도 많은 이야기를 나눈 것으로 알려져 있다.
지난 7월 백악관에서는 인공지능과 관련하여 격렬한 회의가 진행됐다. 7개 기업 대표들이 초대됐으며, 이를 통해 안전한 인공지능 개발과 활용에 관한 의견을 모아 기조를 수립한 것으로 알려져 있다. 인공지능 분야 전문가들은 인공지능 기술이 너무나 강력하기 때문에 규제가 먼저 도입되어야 한다고 촉구해 왔다.
글 : 크리스티나 비크(Kristina Beek), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-29] 
.jpg)
