인공지능은 너무나 강력한 기술이라 사회 전반적으로 변화를 줄 것이 분명하다. 그 변화에는 좋은 것들도 있고 아닌 것들 도 있을 것이다. 민주주의 사회의 구성원으로서 예상할 수 있는 변화들을 보안 전문가 슈나이어가 짚었다.
[보안뉴스=셰인 스나이더 IT 칼럼니스트] 얼마 전 미국에서 열린 보안 컨퍼런스인 RSA에서 보안 업계의 유명 강사이자 저자인 브루스 슈나이어(Bruce Schneier)가 인공지능의 위험성에 대하여 강연했다. ‘인공지능의 위험성’이라는 것은 이제 너무나 흔한 주제가 되었는데, 슈나이어는 이를 민주주의와 엮어서 풀어내 눈길을 끌었다.
생성형 인공지능이라는 기술은 불과 2년 만에 ‘대세 중 대세’로 자리를 잡았다. 이 2년밖에 되지 않은 기술을 너도 나도 도입하느라 경쟁을 벌이고 있으며, 세계 유수의 기업들은 물론 열강들까지도 이 기술 때문에 고민하고 모이고 회의한다. 이제는 모두가 이 인공지능으로 인한 큰 변혁이 진짜로 다가올 것이라는 것을 믿는 것은 물론, 그 변혁이라는 게 이미 시작되었다고 보는 게 중론이다.
슈나이어 역시 “거대한 변혁이 다가온다”는 점에서는 이견이 없다. 정치, 법, 행정, 시민의 일상 등 사회 전반에 걸쳐 근본적인 변화가 올 것이라고 그는 예측했다. “인공지능이 우리의 삶을 송두리째 바꿀 거라는 예측이 과장된 것이라고 보지 않습니다. 다만 인공지능이 그 동안 인류가 경험하지 못했던 것을 완전히 새롭게 만들어낼 것이라 사회가 변할 거라고 보지는 않습니다. 그 동안 우리가 해왔던 것을 훨씬 더 빠르고 효율적으로 해낼 것이라서 변화가 오겠지요. 그러니 일정 부분 인력을 대체하는 게 불가피할 겁니다.”
인공지능과 정치
인공지능으로 인해 가장 직접적인 영향을 받는 분야는 누가 뭐래도 정치다. 딥페이크 기술로 정적들에 대한 공략이 들어가고 있기 때문이다. 이미 딥페이크로 여러 영상을 제작해 상대편 후보자들을 공격하는 사례들은 수년 전부터 있어 왔다. 미국 대선이 다가오고, 또 딥페이크 기술 자체가 발전하면서 이러한 시도는 급증할 것으로 예상되고 있다.
“인공지능은 매우 설득력이 강한 기술입니다. 정치인들은 이 점을 적극 활용할 것입니다. 사실 이미 모두가 인공지능을 활용한 프로파간다를 염려하고 있기도 하지요. 조만간 인공지능이 기반이 된 프로파간다가 넘쳐나지 않을까 합니다. 그런데 이게 무조건 나쁜 일이기만 할까요? 과거에는 선거가 있을 때 후보들이 유권자들과 만날 수 있는 방법이 별로 없었습니다. 거리에서 연설을 하거나, 책을 출판하거나, 방송에 나와 인터뷰를 하는 것 뿐이었죠. 하지만 앞으로는 인공지능 챗봇 기술을 가지고 마치 후보자와 유권자가 1:1 대화를 하는 것과 같은 만남도 가질 수 있을 겁니다. 그러면서 여러 분야에서의 대화를 이뤄갈 수 있겠죠.”
설득력의 인공지능이므로 설문조사, 모금 등의 목적으로도 활용된다면 높은 효과를 발휘할 수 있을 것으로 예상되기도 한다. “인공지능은 24시간 지치지도 않고 주어진 임무를 수행할 수 있고, 수십만 건의 질문들에도 변함없는 수준의 답변을 제공하기도 합니다. 이런 특성은 잘 활용할 여지가 충분히 있고, 정치인들이 이런 면에서 조만간 경쟁을 시작할 거라고 봅니다. 악의적인 활용도 분명 존재하겠지만 기존에 하던 일을 더 잘 하기 위한 경쟁도 있을 거라는 것이죠.”
그런 상황에 이르면 인간 정치인과 인공지능이 대행하는 정치인 사이의 경계선이 흐려질 전망이다. “인공지능이 인간처럼 보이고 느껴지기 시작하거나, 인간 정치인들이 점점 인공지능처럼 느껴지거나 할 겁니다. 아니, 양쪽이 서로를 향해 그런 식으로 다가가겠죠. 그러면서 경계가 흐려지기 시작하면서 적어도 온라인 공간에서는 양측을 구분하는 게 큰 의미가 없어지는 때가 올 거라고 봅니다.”
하지만 그것이 대단히 급진적인 예측인 것은 아니라고 슈나이어는 설명을 이어갔다. “지금 정치인들이 정치 활동을 위해 하는 일들과 크게 다르지 않습니다. 결국 정치인은 복잡한 사회기술학적 체계를 대변하는 공적 얼굴일 뿐이거든요. 대통령 연설을 들을 때 누가 ‘우리 대통령, 글 잘 쓰네’라고 생각합니까. 결국 대변인이나 보좌관이나 정당 등 누군가 대신 써주는 것이고, 우리는 그걸 알고도 대통령의 입장으로 받아들이는 겁니다. 인간 정치인이 직접 작성하지 않아도 거리낌 없이 서명을 하고, 서명된 콘텐츠는 대중들에게 그 정치인의 것으로서 소개됩니다. 인공지능이 이러한 공식에 개입한다고 해도 크게 달라질 것이 없습니다.”
인공지능과 입법자들
인공지능 때문에 그 다음으로 많은 영향을 받는 건 단연 법 체계다. 인공지능은 물론 그 전에 등장했던 온갖 신기술이 유행할 때에도 법 체계는 지탄의 대상이 되었다. 기술의 발전을 도무지 속도로 쫓아가지 못한다는 것이었다. 물론 입법자들도 여러 가지 노력을 하고 있지만 ‘신기술을 현존하는 법 체계 안으로 자연스럽고 신속하게 스며들게 하는 방법’이 갖춰지지는 않고 있다. 하지만 슈나이어는 “인공지능 덕분에 꽤나 큰 변화가 있을 것”이라고 예측한다.
“입법자들은 어마어마한 분량의 텍스트를 다루는 사람들입니다. 많은 텍스트를 읽고 이해하며, 또 많은 텍스트를 작성하고 검토하죠. 생성형 인공지능이 도움을 줄 수 있는 분야라는 뜻입니다. 이미 인공지능은 인간이 작성한 법문을 빠르게 읽고 무슨 뜻인지 해석할 수 있습니다. 입법자들이 법안을 만들고 검토할 때 긴 시간이 필요한 건 해당 법안에 어떤 구멍이 있는지 꼼꼼하게 살펴 찾아내기 때문입니다. 이 작업을 인공지능에 맡기면 어떻게 될까요? 완벽한 법안이 나오지는 않더라도 시간이 훨씬 단축되겠죠. 기존 입법자들이 하던 일들을 그대로 하되 시간만 단축시킬 수 있는 겁니다.”
알고리즘이 계속해서 발전하다보면 법문을 읽고 읽고 또 읽으며 구멍을 찾던 인공지능 기술이 오히려 복잡한 법문을 직접 작성하는 데에까지 도달할 수도 있다고 슈나이어는 예측했다. “이것이 반드시 좋은 결과를 낳을 거라고만은 보기 힘듭니다. 지금 우리가 알고 있는 법들은 대다수가 보편적인 가치를 담고 있습니다. 또한 큰 그림의 틀을 규정하고 있지요. 그걸 가지고 세부적인 규제 사항들을 정부 기관들이 필요에 따라 만듭니다. 거기서 우리가 아는 체계 내 힘의 균형이 맞춰집니다. 그런데 그 작성과 검토, 세부 내용 추가 작업을 인공지능이 한다면 힘의 균형이 흔들리게 됩니다. 매우 커다란 문제가 될 수 있습니다. 체계부터 뒤흔들리게 될 겁니다.”
행정과 시민들의 삶
단순하고 반복적인 업무를 빠르고 정확하게 해내는 것 역시 인공지능이 가지고 있는 장점이다. 이는 행정 체계에 큰 발전을 가져다 줄 전망이라고 슈나이어는 짚었다. “이미 생성형 인공지능은 행정 업무 처리에 있어 어마어마한 능력을 가지고 있음을 증명했습니다. 그리고 더 좋아지고 있지요. 행정 처리가 빠르고 정확해지는 것만으로 시민들의 삶은 훨씬 편리해집니다. 이미 우리는 행정 기관들의 처리 속도와 그 불편함에 학을 떼고 있지 않나요? 이 부분을 인공지능이 상당 부분 해결해줄 수 있습니다. 그것도 훨씬 저렴한 비용으로요. 국고를 아끼면서도 국민들의 삶의 질을 실질적으로 높일 수 있다는 겁니다.”
게다가 행정 처리라는 게 단순 반복 업무만으로 구성된 것도 아니다. 여러 규정들의 사각 지대에 놓인 문제가 새롭게 발굴되거나, 꼭 처리 되어야 하는데 여러 규정들이 상호 충돌하는 바람에 협의점을 찾는 게 어려워 시간이 질질 끌리기도 한다. “그럴 때도 인공지능이 도움이 될 수 있습니다. 인공지능은 여러 변수를 가지고 각종 경우의 수를 동시에 계산할 수 있거든요. 그렇기 때문에 협의점을 찾거나 사각 지대를 미리 파악하는 게 가능하게 됩니다.”
그렇다고 인공지능이 국가 행정의 모든 중요한 사안들을 단독으로 처리하게 될 거라는 말은 아니다. 마지막에는 인간이 직접 결정을 내려야 한다. 인공지능이 결정만 빼놓고 모든 일을 빠르게 처리한다고 했을 때, 그 결정에 걸리는 시간 때문에 인공지능의 장점이 흐려질 수 있는데, 이건 인공지능이 어느 정도 자리를 잡은 후에 있을 논의가 될 거라고 슈나이어는 예측했다. “결국 우리는 인공지능에 어느 정도의 결정 권한을 부여할 것인지를 놓고 고민하게 될 겁니다. 그 고민은 지금의 고민보다 더 어려울 가능성이 높습니다.”
인공지능에 의해 의외로 가장 많은 변화를 겪을 수 있는 건 법률 분야일 수 있다고 슈나이어는 지적했다. “앞서 밝혔듯 생성형 인공지능은 텍스트를 이해하고 생성하는 데 특화되어 있는 기술입니다. 방대한 분량의 텍스트를 다루는 법조계가 영향을 받지 않을 수 없습니다. 인공지능이 변호사가 되는 시대가 꿈으로만 남지 않을 거라고 보는 이유입니다. 인공지능이 법문서를 대신 작성해준다면 법률 전문가 선임 비용도 확 줄어들겠고, 이는 그 동안 비용 때문에 제대로 된 법률 서비스를 제공받을 수 없었던 사람들의 삶에 적잖은 변화를 가져다줄 겁니다.”
그렇다고 부의 논리가 완전히 부정당하게 되지는 않을 거라고 그는 설명을 추가했다. “인공지능이 단독으로 법정에서 싸운다고 했을 때 인공지능과 인간 변호사가 힘을 합친 경우보다 더 좋은 효과를 갖지는 못할 거라고 봅니다. 그렇기 때문에 형편이 넉넉한 사람들은 인간과 인공지능을 함께 고용하는 편을 택하겠죠. 그렇지 못하면 인공지능에만 사건을 맡기겠고요.”
글 : 셰인 스나이더(Shane Snider), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스=셰인 스나이더 IT 칼럼니스트] 얼마 전 미국에서 열린 보안 컨퍼런스인 RSA에서 보안 업계의 유명 강사이자 저자인 브루스 슈나이어(Bruce Schneier)가 인공지능의 위험성에 대하여 강연했다. ‘인공지능의 위험성’이라는 것은 이제 너무나 흔한 주제가 되었는데, 슈나이어는 이를 민주주의와 엮어서 풀어내 눈길을 끌었다.
[이미지 = gettyimagesbank]
생성형 인공지능이라는 기술은 불과 2년 만에 ‘대세 중 대세’로 자리를 잡았다. 이 2년밖에 되지 않은 기술을 너도 나도 도입하느라 경쟁을 벌이고 있으며, 세계 유수의 기업들은 물론 열강들까지도 이 기술 때문에 고민하고 모이고 회의한다. 이제는 모두가 이 인공지능으로 인한 큰 변혁이 진짜로 다가올 것이라는 것을 믿는 것은 물론, 그 변혁이라는 게 이미 시작되었다고 보는 게 중론이다.
슈나이어 역시 “거대한 변혁이 다가온다”는 점에서는 이견이 없다. 정치, 법, 행정, 시민의 일상 등 사회 전반에 걸쳐 근본적인 변화가 올 것이라고 그는 예측했다. “인공지능이 우리의 삶을 송두리째 바꿀 거라는 예측이 과장된 것이라고 보지 않습니다. 다만 인공지능이 그 동안 인류가 경험하지 못했던 것을 완전히 새롭게 만들어낼 것이라 사회가 변할 거라고 보지는 않습니다. 그 동안 우리가 해왔던 것을 훨씬 더 빠르고 효율적으로 해낼 것이라서 변화가 오겠지요. 그러니 일정 부분 인력을 대체하는 게 불가피할 겁니다.”
인공지능과 정치
인공지능으로 인해 가장 직접적인 영향을 받는 분야는 누가 뭐래도 정치다. 딥페이크 기술로 정적들에 대한 공략이 들어가고 있기 때문이다. 이미 딥페이크로 여러 영상을 제작해 상대편 후보자들을 공격하는 사례들은 수년 전부터 있어 왔다. 미국 대선이 다가오고, 또 딥페이크 기술 자체가 발전하면서 이러한 시도는 급증할 것으로 예상되고 있다.
“인공지능은 매우 설득력이 강한 기술입니다. 정치인들은 이 점을 적극 활용할 것입니다. 사실 이미 모두가 인공지능을 활용한 프로파간다를 염려하고 있기도 하지요. 조만간 인공지능이 기반이 된 프로파간다가 넘쳐나지 않을까 합니다. 그런데 이게 무조건 나쁜 일이기만 할까요? 과거에는 선거가 있을 때 후보들이 유권자들과 만날 수 있는 방법이 별로 없었습니다. 거리에서 연설을 하거나, 책을 출판하거나, 방송에 나와 인터뷰를 하는 것 뿐이었죠. 하지만 앞으로는 인공지능 챗봇 기술을 가지고 마치 후보자와 유권자가 1:1 대화를 하는 것과 같은 만남도 가질 수 있을 겁니다. 그러면서 여러 분야에서의 대화를 이뤄갈 수 있겠죠.”
설득력의 인공지능이므로 설문조사, 모금 등의 목적으로도 활용된다면 높은 효과를 발휘할 수 있을 것으로 예상되기도 한다. “인공지능은 24시간 지치지도 않고 주어진 임무를 수행할 수 있고, 수십만 건의 질문들에도 변함없는 수준의 답변을 제공하기도 합니다. 이런 특성은 잘 활용할 여지가 충분히 있고, 정치인들이 이런 면에서 조만간 경쟁을 시작할 거라고 봅니다. 악의적인 활용도 분명 존재하겠지만 기존에 하던 일을 더 잘 하기 위한 경쟁도 있을 거라는 것이죠.”
그런 상황에 이르면 인간 정치인과 인공지능이 대행하는 정치인 사이의 경계선이 흐려질 전망이다. “인공지능이 인간처럼 보이고 느껴지기 시작하거나, 인간 정치인들이 점점 인공지능처럼 느껴지거나 할 겁니다. 아니, 양쪽이 서로를 향해 그런 식으로 다가가겠죠. 그러면서 경계가 흐려지기 시작하면서 적어도 온라인 공간에서는 양측을 구분하는 게 큰 의미가 없어지는 때가 올 거라고 봅니다.”
하지만 그것이 대단히 급진적인 예측인 것은 아니라고 슈나이어는 설명을 이어갔다. “지금 정치인들이 정치 활동을 위해 하는 일들과 크게 다르지 않습니다. 결국 정치인은 복잡한 사회기술학적 체계를 대변하는 공적 얼굴일 뿐이거든요. 대통령 연설을 들을 때 누가 ‘우리 대통령, 글 잘 쓰네’라고 생각합니까. 결국 대변인이나 보좌관이나 정당 등 누군가 대신 써주는 것이고, 우리는 그걸 알고도 대통령의 입장으로 받아들이는 겁니다. 인간 정치인이 직접 작성하지 않아도 거리낌 없이 서명을 하고, 서명된 콘텐츠는 대중들에게 그 정치인의 것으로서 소개됩니다. 인공지능이 이러한 공식에 개입한다고 해도 크게 달라질 것이 없습니다.”
인공지능과 입법자들
인공지능 때문에 그 다음으로 많은 영향을 받는 건 단연 법 체계다. 인공지능은 물론 그 전에 등장했던 온갖 신기술이 유행할 때에도 법 체계는 지탄의 대상이 되었다. 기술의 발전을 도무지 속도로 쫓아가지 못한다는 것이었다. 물론 입법자들도 여러 가지 노력을 하고 있지만 ‘신기술을 현존하는 법 체계 안으로 자연스럽고 신속하게 스며들게 하는 방법’이 갖춰지지는 않고 있다. 하지만 슈나이어는 “인공지능 덕분에 꽤나 큰 변화가 있을 것”이라고 예측한다.
“입법자들은 어마어마한 분량의 텍스트를 다루는 사람들입니다. 많은 텍스트를 읽고 이해하며, 또 많은 텍스트를 작성하고 검토하죠. 생성형 인공지능이 도움을 줄 수 있는 분야라는 뜻입니다. 이미 인공지능은 인간이 작성한 법문을 빠르게 읽고 무슨 뜻인지 해석할 수 있습니다. 입법자들이 법안을 만들고 검토할 때 긴 시간이 필요한 건 해당 법안에 어떤 구멍이 있는지 꼼꼼하게 살펴 찾아내기 때문입니다. 이 작업을 인공지능에 맡기면 어떻게 될까요? 완벽한 법안이 나오지는 않더라도 시간이 훨씬 단축되겠죠. 기존 입법자들이 하던 일들을 그대로 하되 시간만 단축시킬 수 있는 겁니다.”
알고리즘이 계속해서 발전하다보면 법문을 읽고 읽고 또 읽으며 구멍을 찾던 인공지능 기술이 오히려 복잡한 법문을 직접 작성하는 데에까지 도달할 수도 있다고 슈나이어는 예측했다. “이것이 반드시 좋은 결과를 낳을 거라고만은 보기 힘듭니다. 지금 우리가 알고 있는 법들은 대다수가 보편적인 가치를 담고 있습니다. 또한 큰 그림의 틀을 규정하고 있지요. 그걸 가지고 세부적인 규제 사항들을 정부 기관들이 필요에 따라 만듭니다. 거기서 우리가 아는 체계 내 힘의 균형이 맞춰집니다. 그런데 그 작성과 검토, 세부 내용 추가 작업을 인공지능이 한다면 힘의 균형이 흔들리게 됩니다. 매우 커다란 문제가 될 수 있습니다. 체계부터 뒤흔들리게 될 겁니다.”
행정과 시민들의 삶
단순하고 반복적인 업무를 빠르고 정확하게 해내는 것 역시 인공지능이 가지고 있는 장점이다. 이는 행정 체계에 큰 발전을 가져다 줄 전망이라고 슈나이어는 짚었다. “이미 생성형 인공지능은 행정 업무 처리에 있어 어마어마한 능력을 가지고 있음을 증명했습니다. 그리고 더 좋아지고 있지요. 행정 처리가 빠르고 정확해지는 것만으로 시민들의 삶은 훨씬 편리해집니다. 이미 우리는 행정 기관들의 처리 속도와 그 불편함에 학을 떼고 있지 않나요? 이 부분을 인공지능이 상당 부분 해결해줄 수 있습니다. 그것도 훨씬 저렴한 비용으로요. 국고를 아끼면서도 국민들의 삶의 질을 실질적으로 높일 수 있다는 겁니다.”
게다가 행정 처리라는 게 단순 반복 업무만으로 구성된 것도 아니다. 여러 규정들의 사각 지대에 놓인 문제가 새롭게 발굴되거나, 꼭 처리 되어야 하는데 여러 규정들이 상호 충돌하는 바람에 협의점을 찾는 게 어려워 시간이 질질 끌리기도 한다. “그럴 때도 인공지능이 도움이 될 수 있습니다. 인공지능은 여러 변수를 가지고 각종 경우의 수를 동시에 계산할 수 있거든요. 그렇기 때문에 협의점을 찾거나 사각 지대를 미리 파악하는 게 가능하게 됩니다.”
그렇다고 인공지능이 국가 행정의 모든 중요한 사안들을 단독으로 처리하게 될 거라는 말은 아니다. 마지막에는 인간이 직접 결정을 내려야 한다. 인공지능이 결정만 빼놓고 모든 일을 빠르게 처리한다고 했을 때, 그 결정에 걸리는 시간 때문에 인공지능의 장점이 흐려질 수 있는데, 이건 인공지능이 어느 정도 자리를 잡은 후에 있을 논의가 될 거라고 슈나이어는 예측했다. “결국 우리는 인공지능에 어느 정도의 결정 권한을 부여할 것인지를 놓고 고민하게 될 겁니다. 그 고민은 지금의 고민보다 더 어려울 가능성이 높습니다.”
인공지능에 의해 의외로 가장 많은 변화를 겪을 수 있는 건 법률 분야일 수 있다고 슈나이어는 지적했다. “앞서 밝혔듯 생성형 인공지능은 텍스트를 이해하고 생성하는 데 특화되어 있는 기술입니다. 방대한 분량의 텍스트를 다루는 법조계가 영향을 받지 않을 수 없습니다. 인공지능이 변호사가 되는 시대가 꿈으로만 남지 않을 거라고 보는 이유입니다. 인공지능이 법문서를 대신 작성해준다면 법률 전문가 선임 비용도 확 줄어들겠고, 이는 그 동안 비용 때문에 제대로 된 법률 서비스를 제공받을 수 없었던 사람들의 삶에 적잖은 변화를 가져다줄 겁니다.”
그렇다고 부의 논리가 완전히 부정당하게 되지는 않을 거라고 그는 설명을 추가했다. “인공지능이 단독으로 법정에서 싸운다고 했을 때 인공지능과 인간 변호사가 힘을 합친 경우보다 더 좋은 효과를 갖지는 못할 거라고 봅니다. 그렇기 때문에 형편이 넉넉한 사람들은 인간과 인공지능을 함께 고용하는 편을 택하겠죠. 그렇지 못하면 인공지능에만 사건을 맡기겠고요.”
글 : 셰인 스나이더(Shane Snider), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-06-17] 
.jpg)
.jpg)
