인공지능이 올해 블랙햇 첫 서두를 장식했다. 인공지능이 우리의 미래인 것이 거의 확정적인 상황에서, 인공지능을 씹고 뜯고 맛봐야 할 사람들이 보안 전문가들이라는 것이다. 그렇기에 인공지능 기술이 수준 이하라는 점이 아니라, 보안 업계 사람이 부족한 게 훨씬 뼈아픈 문제라는 점도 지적됐다.
[미국 라스베이거스=보안뉴스 문가용 기자] 2023 블랙햇의 서막이 열렸다. 매년 블랙햇 행사의 주제는 첫 번째 키노트를 통해 선포되는데, 올해는 ‘인공지능’이었다. 아제리아랩스(Azeria Labs)의 창립자이자 해킹 커뮤니티에서는 리버싱 엔지니어 및 익스플로잇 전문가로 잘 알려진 마리아 마크스테터(Maria Markstedter)가 “인공지능 시대의 수호자들”이라는 주제로 무대에 섰다.
진짜 문제는 유스케이스
마크스테터는 “인공지능이 어제 오늘 발명된 기술이라 요즘 화제가 되고 있는 게 아니라, 활용 방법이 대담하게 개발되고 있어서 계속해서 논의가 되고 있는 것”이라고 짚었다. 인공지능 논의에 있어 지금 당장 집중해야 할 것이 기술 그 자체가 아니라, 그 기술이 활용되는 방법, 즉 인공지능 때문에 야기되는 사회적이면서 현실적인 문제들이라는 것이다.
“90년대에는 인공지능이 자료를 검색하는 목적으로 활용됐습니다. 그게 작년에는 답을 만들어내는 데에 활용되는 것으로 변했죠. 그리고 올해에는 목표를 성취하는 도구로서 인공지능이 모색되기 시작했습니다. 활용처가 광범위해지고 있는 것입니다.”
하지만 2022년과 2023년 사이에 일어난 인공지능 관련 사건들은 기술이 자연스럽게 보편화 되는 것과는 거리가 멀다고 그는 강조했다. “우리 모두가 알다시피 챗GPT가 등장했지요. 그러면서 모든 기업들이 인공지능 경주에 뛰어들었어요. 구글 같은 경우 챗GPT와 같은 기술을 이미 오래 전부터 보유하고 있었지만 대중적으로 공개하는 데에 있어 조심스러운 자세를 취해왔었습니다. 하지만 MS의 공격적인 투자로 챗GPT가 화제가 되면서 구글마저 조심성보다 속도를 택했습니다. 그러면서 인공지능 시장을 차지하기 위한 기업들의 속도전이 시작됐고 지금까지 이어지고 있습니다.”
신기술이 등장할 때마다 늘 보던 광경이다. 누군가 먼저 치고 나오지만 시장을 장악하지는 못하고, 그래서 그것에 영감을 받은 후발주자들이 강자가 없는 시장에서 군림하기 위해 큰 투자를 감행하는 것 말이다. “그러면서 보안은 자연스럽게 무시되어 왔죠. 보안이 이런 저런 태클을 걸기 시작하면 속도를 낼 수 없거든요. 인공지능도 지금 그런 똑같은 단계를 밟고 있다고 볼 수 있습니다. 챗GPT가 하나의 시장이 되면서 기업들의 경쟁이 이어지고 있는 겁니다.”
사용자 기업들은 금지시키고 있는데...
하지만 안전 장치에 대한 고민 없이 인공지능 개발에만 열을 올리다 보니 여러 가지 인공지능 관련 사고들이 발생하기 시작했다. 게다가 지금 인공지능은 만족할 만한 수준이 아니다. 인간과 인공지능의 대화 랠리는 그리 길게 이어지지 않고, 오류 섞인 대답이 인공지능으로부터 나오는 경우가 허다하다. 챗GPT의 가능성에 놀라 업무 효율을 높이고자 했던 기업들이 이제는 오히려 챗GPT를 금지시키고 있다. 활용법이 광범위해지기는 하는 걸까?
“기업들이 원하는 건 인공지능이 아니에요. 자동화 된 스마트 워크플로우죠. 업무를 최대한 빠르게, 노동력의 투입을 최소화 해서, 오류 없이 처리하는 것을 원하는 겁니다. 그래야 비용도 절감하고 물건과 서비스를 빠르게 출시할 수도 있게 되니까요. 그런 목적을 달성하는 도구로서 인공지능이 검토되고 있는 것이지, 인공지능 도입 그 자체가 기업들의 목적이 아닙니다. 지금 인공지능은 그걸 충족시켜주지 못해요. 그러니 금지되는 것이죠.”
기업들이 원하는 그런 기술이 되려면 인공지능은 좀 더 자율화 되고, 좀 더 ‘멀티모달(multi-modal)’이 되어야 한다고 마크스테터는 강조한다. “지금의 인공지능은 사용자가 문제를 하나하나 집어넣어야 답변이 나오는 방식입니다. 한 번에 하나의 문제만 처리할 수 있는 게 지금의 인공지능이기도 하지요. 텍스트만 처리하는 인공지능, 그림만 처리하는 인공지능이라는 것이지, 그림과 텍스트와 음성과 표정을 동시에 모두 처리하는 인공지능은 이제야 막 개발되는 중입니다. 그런 인공지능이 자율성까지 얻으면 그제야 기업은 ‘이런 저런 앱을 개발해줘’라고 프로젝트 자체를 맡길 수 있게 됩니다. 기업이 원하는 건 그런 수준의 도구입니다.”
결국 다시 한 번 드러날 수밖에 없는 데이터 문제
결국 프로젝트 관리자(PM)의 역할을 대신해줄 수 있는 기술을 찾는 게 지금 사용자 기업들의 입장이라는 게 마크스테터의 지적이다. “언젠가는 그런 기술들이 나오겠죠. 자율적으로 결정을 내리고, 다양한 분석을 한꺼번에 할 수 있는 그런 인공지능이요. 그런데, 그 때가 되면 기업은 드디어 인공지능을 PM으로서 부릴 수 있게 될까요? 아니요, 하나가 더 필요합니다. 그건 바로 데이터입니다. 기업이 실제로 사업 활동을 하면서 축적해 온 비즈니스 인텔리전스가 다량으로 있어야 해요. 그래야 그것을 학습하여 인공지능이 올바른 분석을 하게 됩니다.”
신뢰할 만한 데이터를 충분히 확보해 공급해야만 기업이 진지하게 사용할 만한 인공지능 기반 도구가 만들어진다는 건, 데이터의 신뢰도가 인공지능 기술의 궁극적인 신뢰도를 좌지우지하게 된다는 뜻이 된다. 데이터의 신뢰도를 높이는 건 정보 보안의 할 일 중 하나다. “즉, 인공지능이 접목되는 모든 사회적 현상에 대하여 보안 업계가 책임져야 할 바가 있다는 것입니다. 그러려면 인공지능 기술을 좀 더 면밀히 학습하고, 우리가 늘 해왔듯 깨부수고, 문제를 찾아 해결하는 과정을 거쳐야 합니다.”
인공지능이 자리잡고 있는 것이 분명한 미래이기 때문에 정보 보안 업계가 수호자로서의 역할을 담당해야 한다는 게 마크스테터의 설명이다. “비즈니스 내부에서의 정보를 신뢰할 만한 것으로 만드는 것도 중요하지만, 인공지능이 자율적으로 결정을 내리려면 외부의 정보까지도 흡수해야 한다는 것도 고려해야 합니다. 즉, 인터넷에 돌아다니는 모든 정보가 어떤 식으로 확인되어 인공지능에 주입되는지도 보안 업계가 고민해야 한다는 겁니다. 공공의 정보의 신뢰성 확보가 보안 업계의 다음 전장이 될 가능성이 높다고 봅니다.”
대체되는 건 직무가 아니라 스킬셋
하지만 인공지능이 우리의 직업을 위협할 수 있다는 가능성이 논란이 되는 상황에서, 인공지능의 신뢰도를 높이기 위해 보안 업계가 자발적으로 노력해야 할 이유를 찾기가 힘들다. “과연 우리는 인공지능에 의해 사라지게 될까요? 글쎄요. 전 아니라고 봅니다. 적어도 ‘당분간은’ 아닙니다. 왜냐하면 신기술은 반드시 새로운 문제를 동반하기 때문이죠. 새로운 문제들을 해결할 도구는 첫 단계에서 사람이 만들 수밖에 없습니다. 새로운 문제가 계속해서 생겨나는 한 사람은 대체되지 않을 겁니다.”
대신 새로운 임무가 보안 담당자들에게 부여되고 있기는 하다고 그는 짚었다. “인공지능이 우리의 직업을 대체하지는 않을 겁니다. 대신 우리의 스킬셋을 대체하기는 할 겁니다. 즉, 인공지능이 보다 활성화되고, 보다 높은 수준으로 발전하게 되면, 보안 전문가들은 지금과 다른 기술과 방법론을 동원해 보안 업무를 처리해야 할 거라는 뜻입니다. 지금의 기술을 고수한다면 인공지능에 얼마든지 대체될 수 있습니다.”
그래서 마크스테터는 “인공지능 시대의 수호자가 되기 위해서는 그 무엇보다 독학의 능력이 중요하다”고 강조한다. “사실 해커들은 늘 스스로 학습하는 사람들이었죠. 아무도 가르쳐주지 않은 방법으로 시스템들을 깨왔으니까요. 이 능력이 앞으로 더 강화되어야 할 겁니다. 독학을 함으로써 기술의 발전에 따라 스스로를 재창조할 수 있는 능력 또한 보안 전문가에게 요구되고 있습니다. 인공지능 시대가 다가올수록 적응력이 높고 유연한 인간 보안 전문가가 필요합니다.”
[미국 라스베이거스=문가용 기자(globoan@boannews.com)]
[미국 라스베이거스=보안뉴스 문가용 기자] 2023 블랙햇의 서막이 열렸다. 매년 블랙햇 행사의 주제는 첫 번째 키노트를 통해 선포되는데, 올해는 ‘인공지능’이었다. 아제리아랩스(Azeria Labs)의 창립자이자 해킹 커뮤니티에서는 리버싱 엔지니어 및 익스플로잇 전문가로 잘 알려진 마리아 마크스테터(Maria Markstedter)가 “인공지능 시대의 수호자들”이라는 주제로 무대에 섰다.
▲블랙햇 2023의 서막을 연 첫 번째 키노트 발표자 아제리아랩스(Azeria Labs)의 창립자 마리아 마크스테터 CEO[사진=보안뉴스]
진짜 문제는 유스케이스
마크스테터는 “인공지능이 어제 오늘 발명된 기술이라 요즘 화제가 되고 있는 게 아니라, 활용 방법이 대담하게 개발되고 있어서 계속해서 논의가 되고 있는 것”이라고 짚었다. 인공지능 논의에 있어 지금 당장 집중해야 할 것이 기술 그 자체가 아니라, 그 기술이 활용되는 방법, 즉 인공지능 때문에 야기되는 사회적이면서 현실적인 문제들이라는 것이다.
“90년대에는 인공지능이 자료를 검색하는 목적으로 활용됐습니다. 그게 작년에는 답을 만들어내는 데에 활용되는 것으로 변했죠. 그리고 올해에는 목표를 성취하는 도구로서 인공지능이 모색되기 시작했습니다. 활용처가 광범위해지고 있는 것입니다.”
하지만 2022년과 2023년 사이에 일어난 인공지능 관련 사건들은 기술이 자연스럽게 보편화 되는 것과는 거리가 멀다고 그는 강조했다. “우리 모두가 알다시피 챗GPT가 등장했지요. 그러면서 모든 기업들이 인공지능 경주에 뛰어들었어요. 구글 같은 경우 챗GPT와 같은 기술을 이미 오래 전부터 보유하고 있었지만 대중적으로 공개하는 데에 있어 조심스러운 자세를 취해왔었습니다. 하지만 MS의 공격적인 투자로 챗GPT가 화제가 되면서 구글마저 조심성보다 속도를 택했습니다. 그러면서 인공지능 시장을 차지하기 위한 기업들의 속도전이 시작됐고 지금까지 이어지고 있습니다.”
신기술이 등장할 때마다 늘 보던 광경이다. 누군가 먼저 치고 나오지만 시장을 장악하지는 못하고, 그래서 그것에 영감을 받은 후발주자들이 강자가 없는 시장에서 군림하기 위해 큰 투자를 감행하는 것 말이다. “그러면서 보안은 자연스럽게 무시되어 왔죠. 보안이 이런 저런 태클을 걸기 시작하면 속도를 낼 수 없거든요. 인공지능도 지금 그런 똑같은 단계를 밟고 있다고 볼 수 있습니다. 챗GPT가 하나의 시장이 되면서 기업들의 경쟁이 이어지고 있는 겁니다.”
사용자 기업들은 금지시키고 있는데...
하지만 안전 장치에 대한 고민 없이 인공지능 개발에만 열을 올리다 보니 여러 가지 인공지능 관련 사고들이 발생하기 시작했다. 게다가 지금 인공지능은 만족할 만한 수준이 아니다. 인간과 인공지능의 대화 랠리는 그리 길게 이어지지 않고, 오류 섞인 대답이 인공지능으로부터 나오는 경우가 허다하다. 챗GPT의 가능성에 놀라 업무 효율을 높이고자 했던 기업들이 이제는 오히려 챗GPT를 금지시키고 있다. 활용법이 광범위해지기는 하는 걸까?
“기업들이 원하는 건 인공지능이 아니에요. 자동화 된 스마트 워크플로우죠. 업무를 최대한 빠르게, 노동력의 투입을 최소화 해서, 오류 없이 처리하는 것을 원하는 겁니다. 그래야 비용도 절감하고 물건과 서비스를 빠르게 출시할 수도 있게 되니까요. 그런 목적을 달성하는 도구로서 인공지능이 검토되고 있는 것이지, 인공지능 도입 그 자체가 기업들의 목적이 아닙니다. 지금 인공지능은 그걸 충족시켜주지 못해요. 그러니 금지되는 것이죠.”
기업들이 원하는 그런 기술이 되려면 인공지능은 좀 더 자율화 되고, 좀 더 ‘멀티모달(multi-modal)’이 되어야 한다고 마크스테터는 강조한다. “지금의 인공지능은 사용자가 문제를 하나하나 집어넣어야 답변이 나오는 방식입니다. 한 번에 하나의 문제만 처리할 수 있는 게 지금의 인공지능이기도 하지요. 텍스트만 처리하는 인공지능, 그림만 처리하는 인공지능이라는 것이지, 그림과 텍스트와 음성과 표정을 동시에 모두 처리하는 인공지능은 이제야 막 개발되는 중입니다. 그런 인공지능이 자율성까지 얻으면 그제야 기업은 ‘이런 저런 앱을 개발해줘’라고 프로젝트 자체를 맡길 수 있게 됩니다. 기업이 원하는 건 그런 수준의 도구입니다.”
결국 다시 한 번 드러날 수밖에 없는 데이터 문제
결국 프로젝트 관리자(PM)의 역할을 대신해줄 수 있는 기술을 찾는 게 지금 사용자 기업들의 입장이라는 게 마크스테터의 지적이다. “언젠가는 그런 기술들이 나오겠죠. 자율적으로 결정을 내리고, 다양한 분석을 한꺼번에 할 수 있는 그런 인공지능이요. 그런데, 그 때가 되면 기업은 드디어 인공지능을 PM으로서 부릴 수 있게 될까요? 아니요, 하나가 더 필요합니다. 그건 바로 데이터입니다. 기업이 실제로 사업 활동을 하면서 축적해 온 비즈니스 인텔리전스가 다량으로 있어야 해요. 그래야 그것을 학습하여 인공지능이 올바른 분석을 하게 됩니다.”
신뢰할 만한 데이터를 충분히 확보해 공급해야만 기업이 진지하게 사용할 만한 인공지능 기반 도구가 만들어진다는 건, 데이터의 신뢰도가 인공지능 기술의 궁극적인 신뢰도를 좌지우지하게 된다는 뜻이 된다. 데이터의 신뢰도를 높이는 건 정보 보안의 할 일 중 하나다. “즉, 인공지능이 접목되는 모든 사회적 현상에 대하여 보안 업계가 책임져야 할 바가 있다는 것입니다. 그러려면 인공지능 기술을 좀 더 면밀히 학습하고, 우리가 늘 해왔듯 깨부수고, 문제를 찾아 해결하는 과정을 거쳐야 합니다.”
인공지능이 자리잡고 있는 것이 분명한 미래이기 때문에 정보 보안 업계가 수호자로서의 역할을 담당해야 한다는 게 마크스테터의 설명이다. “비즈니스 내부에서의 정보를 신뢰할 만한 것으로 만드는 것도 중요하지만, 인공지능이 자율적으로 결정을 내리려면 외부의 정보까지도 흡수해야 한다는 것도 고려해야 합니다. 즉, 인터넷에 돌아다니는 모든 정보가 어떤 식으로 확인되어 인공지능에 주입되는지도 보안 업계가 고민해야 한다는 겁니다. 공공의 정보의 신뢰성 확보가 보안 업계의 다음 전장이 될 가능성이 높다고 봅니다.”
대체되는 건 직무가 아니라 스킬셋
하지만 인공지능이 우리의 직업을 위협할 수 있다는 가능성이 논란이 되는 상황에서, 인공지능의 신뢰도를 높이기 위해 보안 업계가 자발적으로 노력해야 할 이유를 찾기가 힘들다. “과연 우리는 인공지능에 의해 사라지게 될까요? 글쎄요. 전 아니라고 봅니다. 적어도 ‘당분간은’ 아닙니다. 왜냐하면 신기술은 반드시 새로운 문제를 동반하기 때문이죠. 새로운 문제들을 해결할 도구는 첫 단계에서 사람이 만들 수밖에 없습니다. 새로운 문제가 계속해서 생겨나는 한 사람은 대체되지 않을 겁니다.”
대신 새로운 임무가 보안 담당자들에게 부여되고 있기는 하다고 그는 짚었다. “인공지능이 우리의 직업을 대체하지는 않을 겁니다. 대신 우리의 스킬셋을 대체하기는 할 겁니다. 즉, 인공지능이 보다 활성화되고, 보다 높은 수준으로 발전하게 되면, 보안 전문가들은 지금과 다른 기술과 방법론을 동원해 보안 업무를 처리해야 할 거라는 뜻입니다. 지금의 기술을 고수한다면 인공지능에 얼마든지 대체될 수 있습니다.”
그래서 마크스테터는 “인공지능 시대의 수호자가 되기 위해서는 그 무엇보다 독학의 능력이 중요하다”고 강조한다. “사실 해커들은 늘 스스로 학습하는 사람들이었죠. 아무도 가르쳐주지 않은 방법으로 시스템들을 깨왔으니까요. 이 능력이 앞으로 더 강화되어야 할 겁니다. 독학을 함으로써 기술의 발전에 따라 스스로를 재창조할 수 있는 능력 또한 보안 전문가에게 요구되고 있습니다. 인공지능 시대가 다가올수록 적응력이 높고 유연한 인간 보안 전문가가 필요합니다.”
[미국 라스베이거스=문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-05-02] 
