.jpg)
인공지능 분야를 오랜 시간 다뤄왔거나 연구해 온 전문가들이 모여 최근 유행하고 있는 챗GPT를 비롯해 생성형 인공지능, 더 나아가 인공지능 그 자체에 대해 진지하게 토론했다.
[보안뉴스 문정후 기자] 발명가로 유명한 에스터 다이슨(Esther Dyson)이 지난 주 뉴욕에서 열린 ‘디스럽티브 테크놀로지스트(Disruptive Technologists)’ 행사에서 여러 명의 기술 분야 전문가들과 현재 떠오르고 있는 인공지능에 관한 시각을 공유했다. 웰빌(Wellville)의 창립자 다이슨과 함께 버닉(Verneek)과 시스템(System)의 창립자, MS 제품 관리자, 아이비코헨코퍼릿커뮤니케이션즈(Ivy Cohen Corporate Communications)의 CEO 아이비 코헨(Ivy Cohen)이 이야기를 나눴다.
먼저 다이슨은 “인공지능이 지금의 모습을 갖추기 전인 80년대에 IT 업계 전체가 인공지능이라는 것을 만들기 위해 여러 가지를 시도하던 것이 떠오른다”며 “이제 그 때의 결실이 조금씩 나타나고 있으며, 대형 언어 모델들 덕분에 인공지능으로 인한 결실이 더 빠르게 우리게에 다가올 것이라고 기대하고 있다”고 말한다. 그러면서도 다이슨은 “챗GPT는 양날의 검과 같다”며 “누군가에게 피해를 끼치는 것 역시 훨씬 쉬워지게 만들어주기 때문”이라고 말한다.
“러시아와 우크라이나 상황을 보세요. 파괴하는 게 지어 올리는 것보다 얼마나 쉬운 지가 드러나죠. 인공지능이 파괴하는 데에도 좋고 구축하는 데에도 좋다면 쉬운 쪽으로 기울겠죠.” 그러면서 다이슨은 “인공지능 자체가 위험하다기보다 나쁜 비즈니스 모델과 나쁜 행위자들, 정치인들이 인공지능을 자신들의 이익에 맞춰 악용하게 될 것이 진짜 위험한 것”이라고 강조한다. “인공지능 때문에 나쁜 사용 사례들이 늘어나게 될 것이라는 걸 익히 짐작할 수 있는 건 세상 모든 신기술들이 악한 도구로 활용되기 때문입니다.”
그러니 인공지능이 가진 잠재적 위험을 제거할 솔루션이라는 건 없다고 다이슨은 보고 있다. “규정이나 윤리로 악용 시도를 원천적으로 차단할 수는 없습니다. 언제나 악한 목적으로 도구들을 이용할 사람들은 존재하거든요. 그래서 저는 인공지능보다 우리의 아이들을 교육하고 훈련시키는 데에 훨씬 많은 자원을 부어야 한다고 생각합니다. 어떤 게 ‘좋은 사용법’이고 어떤 게 ‘나쁜 사용법’인지 구분할 줄 알도록 사람을 키우는 게 먼저라고 봅니다.”
인공지능에 대한 막연한 기대감과 공포심
버닉의 공동 창립자인 나스린 모스타파자데(Nasrin Mostafazadeh)는 인공지능 과학자이기도 하다. 그리고 모스타파자데의 버닉은 스타트업으로서 출발해 최근 퀸AI(Quin AI)라는 인공지능 플랫폼을 개발했다. 퀸AI를 통해 소비자들은 개인화 된 질문을 하고 답을 받을 수 있다. 최근 인공지능의 위험성에 대한 지적이 자꾸만 나오는 분위기에 대하여 모스타파자데는 “가짜 정보가 그럴 듯하게 만들어지고 효율적으로 퍼지고, 누군가를 해고 당하게 만드는 것들이 너무나 실제적이고 실존적인 위협이라서 그렇다”고 말한다.
“인공지능이라는 기술이 하루아침에 나타난 게 아닙니다. 수십 년 동안 조금씩 개발되어 나타난 것이죠. 하지만 그 수십 년 동안 일부 IT 전문가들 사이에서만 인공지능 기술이 알려졌습니다. 일반 대중들이 접한 것이라고는 공상과학 콘텐츠에 나온 재앙과 같은 인공지능들 뿐이었습니다. 그런데 갑자기 챗GPT가 나왔어요. 대중들이 보기에는 정말 ‘갑자기’ 어디선가 툭 튀어나온 기술인 것이죠. 인공지능에 대해 잘 알지 못한 채 상상 이상의 기술이 구현되는 것을 보니 경악스러울 수밖에 없겠죠. 인공지능이라는 기술에 대해 우리가 좀 더 정확하게 알려야 할 필요가 있습니다.”
또한 모스타파자데는 “인공지능이 아무리 놀라워도 대체할 수 없는 것들이 있다”는 것을 강조한다. “질문들에 친절히 답 해 주는 챗GPT가 있더라도, 그것이 인간 친구를 대신할 수 없습니다. 다른 사람과의 대화 시간을 챗GPT가 대신 가져갈 수도 없지요. 특히 감정적인 공감대를 형성하거나, 상황에 맞는 충고를 해 주는 건 인공지능이 범접할 수 없는 영역입니다. 그 점을 일반 대중들에게 명확히 짚어주어야 합니다.”
시스템의 CEO인 아담 블라이(Adam Bly)는 “현재 우리는 인공지능을 사용해 복잡한 시스템들을 정돈하고 간소화 하는 작업을 하고 있다”며 “인공지능이 각 요소들이 어떤 식으로 작동하는지를 알아서 추출하기 때문”이라고 설명했다. “의료 분야에서부터 기후 변화에 이르기까지 세상에는 정말 복잡한 시스템들이 많아요. 그리고 복잡한 것을 조금만 해소시켜도 기능성과 효율이 크게 늘어나게 됩니다. 또한 최근 저희 시스템에서는 학술 자료를 검색하는 데 도움이 되는 인공지능 기반 검색엔진을 개발하기도 했습니다.”
블라이는 “디지털 기술로 생성되거나 추출되거나 유통되는 정보들에 대하여 여러 가지 의문이 생기는 시점에 인공지능이 사람들의 관심을 끌기 시작했다”고 말한다. “요 몇 년 하도 허위 정보와 가짜뉴스가 판을 치는 바람에 사람들이 정보의 진위 여부에 민감하게 반응하기 시작했죠. 진실과 사실에 대한 목마름이 심해지고 있는 와중에 이 인공지능이라는 것이 나온 것입니다. 그것도 생성형 인공지능이라는, 콘텐츠 제작에 특화되어 있는 인공지능이요. 그러니 인공지능의 기능성이라는 것과 윤리성에 자꾸만 회의적인 말들을 내뱉는 겁니다.”
마이크로소프트의 제품 관리자인 러실 보라(Rushil Vora)의 경우 인공지능이 너무나 빠르게 사람들 사이에서 받아들여지고 있어 지금은 기술 분야의 주류가 된 상태라고 말한다. “일부 전문가들 사이에서만 연구되고 사용되던 것인데, 챗GPT 때문에 사용자가 확 늘어났습니다. 그렇기 때문에 인공지능 전문가들이 해야 하는 일이 더 생겼죠. 빠른 시간 안에 수많은 인공지능 사용자들을 교육하는 것이 바로 그겁니다. 그렇지 않으면 인공지능 사용에 있어 실수나 악용 사례가 나올 수 있고, 그러면서 부정적인 사회적 파급력이 커질 것이니까요.”
인공지능을 위한 안전선, 어떻게 정해야 할까
인공지능에 관한 우려들 중 일부는 정책 입안자들이 인공지능이라는 기술에 대한 이해도가 높았다면 규정이나 정책을 통해 어느 정도 불식됐을 것이라고 전문가들은 주장한다. 블라이는 “인공지능처럼 이제 막 관심을 끌거나 사용되기 시작한 기술들과 관련해서는 정부가 시민들의 필요를 충족시키지 못할 때가 훨씬 많다”며 “어느 정권이나 마찬가지”라고 지적했다. “그래도 미국에서는 신규 기술을 좀 더 정확하게 다루기 위한 부서가 있었는데 90년대에 이미 사라졌습니다. 그러면서 여러 기술 업체들의 로비 활동에 따라 국가의 정책이 정해졌죠. 정부가 기술에 대한 주도권을 가져갈 필요가 있습니다.”
모스타파자데 역시 “좀 더 명확한 규정이 있어야 인공지능 분야의 모든 참가자들이 가야할 길을 분명하게 알고 더 활기차게 경쟁할 수 있을 것”이라고 주장한다. 그러면서 “인공지능과 챗GPT를 하나로 보고 규정을 신설하지는 않기를 바란다”고 덧붙였다. “인공지능이 곧 챗GPT인 것도 아니고, 반대로 챗GPT가 곧 인공지능인 것도 아니죠. 인공지능이 오로지 생성형 인공지능만 말하는 것도 아니고요. 이런 세부 분야를 규정에서부터 명확히 구분하는 게 필요합니다.”
인공지능, 오히려 업무 수행에 도움이 된다
인공지능이 활성화 되면 트럭 운전사 등 이른 바 블루칼라 노동자들부터 대체될 거라는 소문이 돌았었지만 이것이 현실화 되기 시작했다는 느낌을 주는 사건은 하나도 일어나지 않고 있다고 모스타파자데는 짚었다. “오히려 다른 직군들이 인공지능에 의해 대체될 위기에 처하게 됐죠. 저희의 예측이라는 게 얼마나 틀릴 수 있는지를 보여주는 사례입니다.”
블라이는 “일을 자동으로 처리해줌으로써 도움을 주는 것과, 일을 자동으로 처리해줌으로써 아예 그 일을 사람이 할 필요가 없게 되는 것은 완전히 다른 것”이라며 “인공지능이 아무리 뛰어나도 사람이 점검을 하지 않는다면 그 결과물을 쉽게 신뢰할 수 없을 것”이라고 주장한다. “지금은 인공지능이 일을 도와주는 선에서 작동하고 있습니다. 예를 들어 수많은 연구 자료에서 정말 필요한 통찰이나 데이터를 추출해야 할 때, 사람이 물리적으로 모든 정보를 다 열람할 수 없을 때 인공지능이 크게 도움이 됩니다. 하지만 그런 자료를 모아서 연구 및 분석하는 실제 사람을 대체할 수는 없습니다.”
그러면서 블라이는 “결국 그런 기능들을 인공지능이 담당해 내면 사람은 훨씬 많은 시간을 다른 일에 쓸 수 있게 된다”고 짚는다. “의사라면 문서 작성을 인공지능에 맡기고 환자와의 친밀도를 쌓는다거나, 변호사라면 각종 변론 작성을 인공지능에게 1차적으로 맡기고 의뢰인의 이야기에 더 집중할 수도 있을 겁니다. 그런 과정에서 인공지능이 문서 상으로만 얻을 수 없었던 정보를 얻고 새로운 결과를 낼 수도 있겠지요.”
다이슨은 인공지능에 투자하려면 지금해야 한다고 조언했다. “왜냐하면 우리가 사는 세상은 잠시의 유행들이 연쇄적으로 퍼지는 곳이기 때문입니다. 지금 인공지능이 어마어마한 유행어가 되고 있지만 아주 획기적인 발전이 있지 않은 이상 시들해질 겁니다. 분야가 사라지지야 않겠지만 시장에서 수요는 떨어지겠죠. 지금 다들 인공지능이 아니면 죽을 것처럼 얘기하지만 수개월 안에 언제 그랬냐는 듯 새로운 것에 매달리고 있을 겁니다. 그러니 정 하고 싶으며 ㄴ지금 잠깐 인공지능에 투자했다가 얼른 발을 빼세요.”
글 : 조아오 피에르 루스(Joao-Pierre S. Ruth), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 발명가로 유명한 에스터 다이슨(Esther Dyson)이 지난 주 뉴욕에서 열린 ‘디스럽티브 테크놀로지스트(Disruptive Technologists)’ 행사에서 여러 명의 기술 분야 전문가들과 현재 떠오르고 있는 인공지능에 관한 시각을 공유했다. 웰빌(Wellville)의 창립자 다이슨과 함께 버닉(Verneek)과 시스템(System)의 창립자, MS 제품 관리자, 아이비코헨코퍼릿커뮤니케이션즈(Ivy Cohen Corporate Communications)의 CEO 아이비 코헨(Ivy Cohen)이 이야기를 나눴다.
[이미지 = gettyimagesbank]
먼저 다이슨은 “인공지능이 지금의 모습을 갖추기 전인 80년대에 IT 업계 전체가 인공지능이라는 것을 만들기 위해 여러 가지를 시도하던 것이 떠오른다”며 “이제 그 때의 결실이 조금씩 나타나고 있으며, 대형 언어 모델들 덕분에 인공지능으로 인한 결실이 더 빠르게 우리게에 다가올 것이라고 기대하고 있다”고 말한다. 그러면서도 다이슨은 “챗GPT는 양날의 검과 같다”며 “누군가에게 피해를 끼치는 것 역시 훨씬 쉬워지게 만들어주기 때문”이라고 말한다.
“러시아와 우크라이나 상황을 보세요. 파괴하는 게 지어 올리는 것보다 얼마나 쉬운 지가 드러나죠. 인공지능이 파괴하는 데에도 좋고 구축하는 데에도 좋다면 쉬운 쪽으로 기울겠죠.” 그러면서 다이슨은 “인공지능 자체가 위험하다기보다 나쁜 비즈니스 모델과 나쁜 행위자들, 정치인들이 인공지능을 자신들의 이익에 맞춰 악용하게 될 것이 진짜 위험한 것”이라고 강조한다. “인공지능 때문에 나쁜 사용 사례들이 늘어나게 될 것이라는 걸 익히 짐작할 수 있는 건 세상 모든 신기술들이 악한 도구로 활용되기 때문입니다.”
그러니 인공지능이 가진 잠재적 위험을 제거할 솔루션이라는 건 없다고 다이슨은 보고 있다. “규정이나 윤리로 악용 시도를 원천적으로 차단할 수는 없습니다. 언제나 악한 목적으로 도구들을 이용할 사람들은 존재하거든요. 그래서 저는 인공지능보다 우리의 아이들을 교육하고 훈련시키는 데에 훨씬 많은 자원을 부어야 한다고 생각합니다. 어떤 게 ‘좋은 사용법’이고 어떤 게 ‘나쁜 사용법’인지 구분할 줄 알도록 사람을 키우는 게 먼저라고 봅니다.”
인공지능에 대한 막연한 기대감과 공포심
버닉의 공동 창립자인 나스린 모스타파자데(Nasrin Mostafazadeh)는 인공지능 과학자이기도 하다. 그리고 모스타파자데의 버닉은 스타트업으로서 출발해 최근 퀸AI(Quin AI)라는 인공지능 플랫폼을 개발했다. 퀸AI를 통해 소비자들은 개인화 된 질문을 하고 답을 받을 수 있다. 최근 인공지능의 위험성에 대한 지적이 자꾸만 나오는 분위기에 대하여 모스타파자데는 “가짜 정보가 그럴 듯하게 만들어지고 효율적으로 퍼지고, 누군가를 해고 당하게 만드는 것들이 너무나 실제적이고 실존적인 위협이라서 그렇다”고 말한다.
“인공지능이라는 기술이 하루아침에 나타난 게 아닙니다. 수십 년 동안 조금씩 개발되어 나타난 것이죠. 하지만 그 수십 년 동안 일부 IT 전문가들 사이에서만 인공지능 기술이 알려졌습니다. 일반 대중들이 접한 것이라고는 공상과학 콘텐츠에 나온 재앙과 같은 인공지능들 뿐이었습니다. 그런데 갑자기 챗GPT가 나왔어요. 대중들이 보기에는 정말 ‘갑자기’ 어디선가 툭 튀어나온 기술인 것이죠. 인공지능에 대해 잘 알지 못한 채 상상 이상의 기술이 구현되는 것을 보니 경악스러울 수밖에 없겠죠. 인공지능이라는 기술에 대해 우리가 좀 더 정확하게 알려야 할 필요가 있습니다.”
또한 모스타파자데는 “인공지능이 아무리 놀라워도 대체할 수 없는 것들이 있다”는 것을 강조한다. “질문들에 친절히 답 해 주는 챗GPT가 있더라도, 그것이 인간 친구를 대신할 수 없습니다. 다른 사람과의 대화 시간을 챗GPT가 대신 가져갈 수도 없지요. 특히 감정적인 공감대를 형성하거나, 상황에 맞는 충고를 해 주는 건 인공지능이 범접할 수 없는 영역입니다. 그 점을 일반 대중들에게 명확히 짚어주어야 합니다.”
시스템의 CEO인 아담 블라이(Adam Bly)는 “현재 우리는 인공지능을 사용해 복잡한 시스템들을 정돈하고 간소화 하는 작업을 하고 있다”며 “인공지능이 각 요소들이 어떤 식으로 작동하는지를 알아서 추출하기 때문”이라고 설명했다. “의료 분야에서부터 기후 변화에 이르기까지 세상에는 정말 복잡한 시스템들이 많아요. 그리고 복잡한 것을 조금만 해소시켜도 기능성과 효율이 크게 늘어나게 됩니다. 또한 최근 저희 시스템에서는 학술 자료를 검색하는 데 도움이 되는 인공지능 기반 검색엔진을 개발하기도 했습니다.”
블라이는 “디지털 기술로 생성되거나 추출되거나 유통되는 정보들에 대하여 여러 가지 의문이 생기는 시점에 인공지능이 사람들의 관심을 끌기 시작했다”고 말한다. “요 몇 년 하도 허위 정보와 가짜뉴스가 판을 치는 바람에 사람들이 정보의 진위 여부에 민감하게 반응하기 시작했죠. 진실과 사실에 대한 목마름이 심해지고 있는 와중에 이 인공지능이라는 것이 나온 것입니다. 그것도 생성형 인공지능이라는, 콘텐츠 제작에 특화되어 있는 인공지능이요. 그러니 인공지능의 기능성이라는 것과 윤리성에 자꾸만 회의적인 말들을 내뱉는 겁니다.”
마이크로소프트의 제품 관리자인 러실 보라(Rushil Vora)의 경우 인공지능이 너무나 빠르게 사람들 사이에서 받아들여지고 있어 지금은 기술 분야의 주류가 된 상태라고 말한다. “일부 전문가들 사이에서만 연구되고 사용되던 것인데, 챗GPT 때문에 사용자가 확 늘어났습니다. 그렇기 때문에 인공지능 전문가들이 해야 하는 일이 더 생겼죠. 빠른 시간 안에 수많은 인공지능 사용자들을 교육하는 것이 바로 그겁니다. 그렇지 않으면 인공지능 사용에 있어 실수나 악용 사례가 나올 수 있고, 그러면서 부정적인 사회적 파급력이 커질 것이니까요.”
인공지능을 위한 안전선, 어떻게 정해야 할까
인공지능에 관한 우려들 중 일부는 정책 입안자들이 인공지능이라는 기술에 대한 이해도가 높았다면 규정이나 정책을 통해 어느 정도 불식됐을 것이라고 전문가들은 주장한다. 블라이는 “인공지능처럼 이제 막 관심을 끌거나 사용되기 시작한 기술들과 관련해서는 정부가 시민들의 필요를 충족시키지 못할 때가 훨씬 많다”며 “어느 정권이나 마찬가지”라고 지적했다. “그래도 미국에서는 신규 기술을 좀 더 정확하게 다루기 위한 부서가 있었는데 90년대에 이미 사라졌습니다. 그러면서 여러 기술 업체들의 로비 활동에 따라 국가의 정책이 정해졌죠. 정부가 기술에 대한 주도권을 가져갈 필요가 있습니다.”
모스타파자데 역시 “좀 더 명확한 규정이 있어야 인공지능 분야의 모든 참가자들이 가야할 길을 분명하게 알고 더 활기차게 경쟁할 수 있을 것”이라고 주장한다. 그러면서 “인공지능과 챗GPT를 하나로 보고 규정을 신설하지는 않기를 바란다”고 덧붙였다. “인공지능이 곧 챗GPT인 것도 아니고, 반대로 챗GPT가 곧 인공지능인 것도 아니죠. 인공지능이 오로지 생성형 인공지능만 말하는 것도 아니고요. 이런 세부 분야를 규정에서부터 명확히 구분하는 게 필요합니다.”
인공지능, 오히려 업무 수행에 도움이 된다
인공지능이 활성화 되면 트럭 운전사 등 이른 바 블루칼라 노동자들부터 대체될 거라는 소문이 돌았었지만 이것이 현실화 되기 시작했다는 느낌을 주는 사건은 하나도 일어나지 않고 있다고 모스타파자데는 짚었다. “오히려 다른 직군들이 인공지능에 의해 대체될 위기에 처하게 됐죠. 저희의 예측이라는 게 얼마나 틀릴 수 있는지를 보여주는 사례입니다.”
블라이는 “일을 자동으로 처리해줌으로써 도움을 주는 것과, 일을 자동으로 처리해줌으로써 아예 그 일을 사람이 할 필요가 없게 되는 것은 완전히 다른 것”이라며 “인공지능이 아무리 뛰어나도 사람이 점검을 하지 않는다면 그 결과물을 쉽게 신뢰할 수 없을 것”이라고 주장한다. “지금은 인공지능이 일을 도와주는 선에서 작동하고 있습니다. 예를 들어 수많은 연구 자료에서 정말 필요한 통찰이나 데이터를 추출해야 할 때, 사람이 물리적으로 모든 정보를 다 열람할 수 없을 때 인공지능이 크게 도움이 됩니다. 하지만 그런 자료를 모아서 연구 및 분석하는 실제 사람을 대체할 수는 없습니다.”
그러면서 블라이는 “결국 그런 기능들을 인공지능이 담당해 내면 사람은 훨씬 많은 시간을 다른 일에 쓸 수 있게 된다”고 짚는다. “의사라면 문서 작성을 인공지능에 맡기고 환자와의 친밀도를 쌓는다거나, 변호사라면 각종 변론 작성을 인공지능에게 1차적으로 맡기고 의뢰인의 이야기에 더 집중할 수도 있을 겁니다. 그런 과정에서 인공지능이 문서 상으로만 얻을 수 없었던 정보를 얻고 새로운 결과를 낼 수도 있겠지요.”
다이슨은 인공지능에 투자하려면 지금해야 한다고 조언했다. “왜냐하면 우리가 사는 세상은 잠시의 유행들이 연쇄적으로 퍼지는 곳이기 때문입니다. 지금 인공지능이 어마어마한 유행어가 되고 있지만 아주 획기적인 발전이 있지 않은 이상 시들해질 겁니다. 분야가 사라지지야 않겠지만 시장에서 수요는 떨어지겠죠. 지금 다들 인공지능이 아니면 죽을 것처럼 얘기하지만 수개월 안에 언제 그랬냐는 듯 새로운 것에 매달리고 있을 겁니다. 그러니 정 하고 싶으며 ㄴ지금 잠깐 인공지능에 투자했다가 얼른 발을 빼세요.”
글 : 조아오 피에르 루스(Joao-Pierre S. Ruth), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-24] _m.jpg)
.jpg)
.jpg)
