핀테크가 약속하는 것 중 하나는 다양한 사람들이 금융 활동을 할 수 있게 된다는 것이다. 요즘 유행하는 ‘다양성’을 충족시켜준다는 건데, 글쎄, 지금으로서는 이것이 선전 문구 이상의 의미를 갖지는 않는 것처럼 보인다.
[보안뉴스 문정후 기자] 핀테크의 ‘셀링포인트’ 중 하나는 더 많은 사람들이 금융 서비스를 누릴 수 있도록 해 준다는 것이다. IT 기술과 금융이 결합하여, 여러 가지 사회적 혹은 경제적 환경 때문에 주류 경제 체제의 서비스를 누리지 못하는 사람들까지 포용할 수 있게 된다는 말은 대단히 매력적이다. 하지만 이 말은 자칫 심각한 왜곡과 오해를 불러일으킬 수 있다.
온라인 대출 프로그램이 활성화 되고, 디지털 상에서만 존재하는 은행들이 점점 영역을 넓히고 있으며, 디지털 화폐들이 출현하고 탈중앙화 금융이 생겨나는 이 때에 기존 금융 서비스의 다소 딱딱한 측면이 소비자들에게 더욱 부각되는 건 사실이다. 또한, 각종 금융 분야 신기술 덕분에 기존 금융 서비스에서 제외되었던 사람들이 금융 서비스를 누를 수 있게 된 것이 사실이긴 하지만 그만큼 오히려 핀테크 때문에 소외되는 계층들도 존재한다.
인공지능 업체 태클에이아이(TackleAI)의 CEO인 서지오 수아레즈 주니어(Sergio Suarez Jr.)는 “머신러닝이나 인공지능을 구축하여 특정 패턴을 찾을 때, 만약 특정 계층의 사람들이 예외된 이력이 있다면, 바로 그러한 ‘예외 이력’ 자체도 데이터가 된다”고 설명한다. “만약 알고리즘이 지난 이력을 통해 학습을 한다면 당연히 과거 제외 사례도 학습을 할 것이고, 심지어 그 이력 위에 다른 데이터를 추가해 결론을 강화하겠죠.”
핀테크에는 금융 업무의 효율성을 높이고 경제 활동의 참여 인구를 늘릴 수 있다는 잠재력이 있다. 예를 들어 머신러닝의 경우 이미 대출 업무의 속도를 크게 높이고 있는 상황이다. 대출 신청자의 이력을 확인하고 이자율을 계산하는 데에 걸리는 시간이 수초에서 수분 정도로 단축되기 때문이다. “하지만 이러한 데이터들 역시 기존의 금융 체제에서 나온 것들이죠. 그리고 기존 금융 체제에 오류나 편향성이 없는 것도 아니고요. 예를 들어 기존 금융 체제에서 특정 인구 집단에 속한 사람들은 다른 집단보다 높은 이자율을 가져가기도 했습니다. 이런 불균형은 머신러닝 및 핀테크 체제에도 고스란히 계승됩니다.”
편향성이라는 유산
신기술과 그 다음에 나타날 신기술로 편향성이 계승되는 것을 막을 방법은 아직까지 존재하지 않는다. 처음부터 우리가 가진 데이터에 편향성이 배어있기 때문이다. 예를 들어 인공지능으로 특정 국가나 민족에 속한 사람의 이름을 구분하는 건 가능하다. 그런데 단순 구분에 그치는 게 아니라 해당 국가나 민족에 대한 편향성까지 같이 부여될 가능성이 높다. 그럴 경우 신용 점수 부여에도 영향이 미치게 되고, 따라서 원격 대출이나 신용 관리에도 부정적인 결과가 따르게 된다.
수아레즈는 “아내의 경우 폴란드 사람이었다가 결혼 후 멕시코 사람의 성을 가지게 되었다”며 “3개월 후 신용 점수가 아무런 사건이나 사고 없이 12점이나 떨어지는 걸 목격할 수 있었다”고 말한다. 그러면서 “아직도 신용 점수 기관이 어떤 식으로 점수를 매기는지 공개하지 않고 있다”고도 덧붙였다.
오래된 코드의 구조적 요인들 역시 무시할 수 없는 문제의 근원이 될 수 있다고 수아레즈는 설명한다. “예를 들어 80년대나 90년대 초반에 작성된 코드는 하이픈, 아포스트로피, 강세 기호 등을 코드가 아닌 문자로 파악하려는 성향을 가지고 있습니다. 그래서 코드에서 오류가 나거나 비정상적인 작동 결과가 나타나죠. 이런 상태의 데이터나 코드들이 현대에 새롭게 작성된 인공지능 알고리즘에 주입되었을 때 예상치 못한 결과가 나올 수 있습니다. 또한, 영어가 아닌 언어로 된 이름이 데이터셋에 섞여 있을 때도 문제가 될 수 있죠. 그러다 보면 수십 년 간 축적된 데이터가 의도적으로 무시되기도 하고, 그 자체로도 인공지능이 제대로 학습을 못하게도 됩니다.”
심지어 핀테크가 해결해야 될 문제가 핀테크의 발목을 잡는 경우가 생길 수도 있다. “핀테크가 가진 기대치가 뭐였나요? 그 동안 금융 서비스를 받지 못했던 소외 계층의 경제 참여를 늘린다는 거였죠. 하지만 그 소외 계층에 관한 데이터를 어떻기 인공지능이나 핀테크에 학습시킬 건가요? 소외된 기간 동안 데이터가 쌓이지 못했는데 말이죠. 있다 해도 그 양이나 질에서 차이가 나기 때문에 진정 공평한 결정을 인공지능이 내리지는 못할 가능성이 높습니다. 즉, 지금의 금융 서비스를 기반으로 한 신기술이라면, 우리가 기대하는 혁신적 변화는 멀고 먼 이야기가 됩니다. 핀테크로 새로운 일을 이루려면 새로운 데이터를 마련해야 한다는 겁니다.”
하지만 실제 인공지능이나 머신러닝을 개발하는 사람들은 이러한 ‘계승된 데이터’의 측면을 잘 고려하지 않는 게 현실이라고 수아레즈는 지적한다. “보통은 개발부터 하고, 나중에 편향된 데이터가 축적되고 축적돼서 문제가 드러나면 패치를 통해 해결하려고 합니다. 일단 지르고 나서 나중에 고치자는 마인드가 팽배합니다.”
인공지능으로 고용까지?
아마존은 얼마 전까지 인공지능으로 사람을 고용하는 것까지 실험하기도 했었다. 수아레즈는 “그 결과 남성들에게 훨씬 좋은 유리한 쪽으로 알고리즘이 작용했다”고 말한다. “왜냐하면 인공지능이 학습한 과거 데이터에 여성보다 남성을 선호한 과거 이력이 남아 있었기 때문입니다. 문제가 되자 패치가 되면서 해결이 됐지만 그렇다고 알고리즘이 완전해진 건 아니었습니다. 다음에 또 어떤 문제가 나올지 예측이 불가능했죠. 왜냐면 알고리즘의 결정 과정을 사람이 들여다볼 수 없기 때문입니다. 그래서 결국 이 인공지능은 폐기되었습니다.”
이런 사례들이 있기에 “인공지능과 결합한 핀테크가 대출 결정을 온전히 할 수 있을까?”하는 의구심이 드는 건 어쩔 수 없다. 인공지능으로 결정된 이자율이 올바른가, 하는 찝찝한 의문이 대출을 받은 사람 입장에서 계속해서 들 수밖에 없는 것이다. “그렇다고 그 결정의 근거와 과정에 대해서 조사할 수 있는 방법이 딱히 있는 것도 아니고요. 아주 불가능한 건 아니지만 엄청난 자원을 소모해야 합니다.”
기존의 금융기관이나 행정기관들에서 쌓인 데이터나 패턴을 학습한 인공지능은 저소득층에 불리하게 작용할 가능성도 높다. 특히 잔고가 얼마 되지 않고 마이너스 통장 수치가 높을 경우 우호적으로 작용할 수 없는 게 현재의 사회 시스템이 가진 특성이라는 것이다. “가난한 사람들이 부자가 되는 경우가 매우 드물죠. 언제부턴가 이런 시스템이 굳어져가고 있어요. 그런데 이런 상태에서 이제 막 학습을 하기 시작한 알고리즘에 결정 권한을 준다고 사회가 확 바뀔까요? 비슷한 방향으로 더 빠르게 굴러갈 뿐이죠.” 수아레즈의 설명이다. “핀테크 분야의 머신러닝에 새로운 데이터를 학습시킬 필요가 있습니다. 이 부분에 대한 논의가 절실히 필요한 상태입니다.”
수아레즈는 이런 논의의 주체가 되어야 하는 조직들이 오히려 이런 부분에서의 검토를 꺼려할지 모르겠다고 말한다. “핀테크를 주로 사용해야 하는 조직들이 오히려 가난하고 소외된 사람들의 경제 참여를 두려워할지도 모르겠습니다. 하지만 이건 음모론 수준의 이야기일 뿐이죠. 중요한 건 핀테크의 개발자들이 나서서 정말로 소외 계층의 경제 참여를 독려할 수 있는 방법을 찾아내야 한다는 겁니다. 지금 우리가 가진 기술과 알고리즘의 학습 방법이 정말로 다양성을 보장하나요? 정말로 모든 사람을 차별없이 바라보고 결정을 내릴 수 있나요? IT 업계가 스스로에게 묻고 해결책을 찾아야 합니다.”
글 : 조아오피에르 루스(Joao-Pierre Ruth), Columnist
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 핀테크의 ‘셀링포인트’ 중 하나는 더 많은 사람들이 금융 서비스를 누릴 수 있도록 해 준다는 것이다. IT 기술과 금융이 결합하여, 여러 가지 사회적 혹은 경제적 환경 때문에 주류 경제 체제의 서비스를 누리지 못하는 사람들까지 포용할 수 있게 된다는 말은 대단히 매력적이다. 하지만 이 말은 자칫 심각한 왜곡과 오해를 불러일으킬 수 있다.
[이미지 = utoimage]
온라인 대출 프로그램이 활성화 되고, 디지털 상에서만 존재하는 은행들이 점점 영역을 넓히고 있으며, 디지털 화폐들이 출현하고 탈중앙화 금융이 생겨나는 이 때에 기존 금융 서비스의 다소 딱딱한 측면이 소비자들에게 더욱 부각되는 건 사실이다. 또한, 각종 금융 분야 신기술 덕분에 기존 금융 서비스에서 제외되었던 사람들이 금융 서비스를 누를 수 있게 된 것이 사실이긴 하지만 그만큼 오히려 핀테크 때문에 소외되는 계층들도 존재한다.
인공지능 업체 태클에이아이(TackleAI)의 CEO인 서지오 수아레즈 주니어(Sergio Suarez Jr.)는 “머신러닝이나 인공지능을 구축하여 특정 패턴을 찾을 때, 만약 특정 계층의 사람들이 예외된 이력이 있다면, 바로 그러한 ‘예외 이력’ 자체도 데이터가 된다”고 설명한다. “만약 알고리즘이 지난 이력을 통해 학습을 한다면 당연히 과거 제외 사례도 학습을 할 것이고, 심지어 그 이력 위에 다른 데이터를 추가해 결론을 강화하겠죠.”
핀테크에는 금융 업무의 효율성을 높이고 경제 활동의 참여 인구를 늘릴 수 있다는 잠재력이 있다. 예를 들어 머신러닝의 경우 이미 대출 업무의 속도를 크게 높이고 있는 상황이다. 대출 신청자의 이력을 확인하고 이자율을 계산하는 데에 걸리는 시간이 수초에서 수분 정도로 단축되기 때문이다. “하지만 이러한 데이터들 역시 기존의 금융 체제에서 나온 것들이죠. 그리고 기존 금융 체제에 오류나 편향성이 없는 것도 아니고요. 예를 들어 기존 금융 체제에서 특정 인구 집단에 속한 사람들은 다른 집단보다 높은 이자율을 가져가기도 했습니다. 이런 불균형은 머신러닝 및 핀테크 체제에도 고스란히 계승됩니다.”
편향성이라는 유산
신기술과 그 다음에 나타날 신기술로 편향성이 계승되는 것을 막을 방법은 아직까지 존재하지 않는다. 처음부터 우리가 가진 데이터에 편향성이 배어있기 때문이다. 예를 들어 인공지능으로 특정 국가나 민족에 속한 사람의 이름을 구분하는 건 가능하다. 그런데 단순 구분에 그치는 게 아니라 해당 국가나 민족에 대한 편향성까지 같이 부여될 가능성이 높다. 그럴 경우 신용 점수 부여에도 영향이 미치게 되고, 따라서 원격 대출이나 신용 관리에도 부정적인 결과가 따르게 된다.
수아레즈는 “아내의 경우 폴란드 사람이었다가 결혼 후 멕시코 사람의 성을 가지게 되었다”며 “3개월 후 신용 점수가 아무런 사건이나 사고 없이 12점이나 떨어지는 걸 목격할 수 있었다”고 말한다. 그러면서 “아직도 신용 점수 기관이 어떤 식으로 점수를 매기는지 공개하지 않고 있다”고도 덧붙였다.
오래된 코드의 구조적 요인들 역시 무시할 수 없는 문제의 근원이 될 수 있다고 수아레즈는 설명한다. “예를 들어 80년대나 90년대 초반에 작성된 코드는 하이픈, 아포스트로피, 강세 기호 등을 코드가 아닌 문자로 파악하려는 성향을 가지고 있습니다. 그래서 코드에서 오류가 나거나 비정상적인 작동 결과가 나타나죠. 이런 상태의 데이터나 코드들이 현대에 새롭게 작성된 인공지능 알고리즘에 주입되었을 때 예상치 못한 결과가 나올 수 있습니다. 또한, 영어가 아닌 언어로 된 이름이 데이터셋에 섞여 있을 때도 문제가 될 수 있죠. 그러다 보면 수십 년 간 축적된 데이터가 의도적으로 무시되기도 하고, 그 자체로도 인공지능이 제대로 학습을 못하게도 됩니다.”
심지어 핀테크가 해결해야 될 문제가 핀테크의 발목을 잡는 경우가 생길 수도 있다. “핀테크가 가진 기대치가 뭐였나요? 그 동안 금융 서비스를 받지 못했던 소외 계층의 경제 참여를 늘린다는 거였죠. 하지만 그 소외 계층에 관한 데이터를 어떻기 인공지능이나 핀테크에 학습시킬 건가요? 소외된 기간 동안 데이터가 쌓이지 못했는데 말이죠. 있다 해도 그 양이나 질에서 차이가 나기 때문에 진정 공평한 결정을 인공지능이 내리지는 못할 가능성이 높습니다. 즉, 지금의 금융 서비스를 기반으로 한 신기술이라면, 우리가 기대하는 혁신적 변화는 멀고 먼 이야기가 됩니다. 핀테크로 새로운 일을 이루려면 새로운 데이터를 마련해야 한다는 겁니다.”
하지만 실제 인공지능이나 머신러닝을 개발하는 사람들은 이러한 ‘계승된 데이터’의 측면을 잘 고려하지 않는 게 현실이라고 수아레즈는 지적한다. “보통은 개발부터 하고, 나중에 편향된 데이터가 축적되고 축적돼서 문제가 드러나면 패치를 통해 해결하려고 합니다. 일단 지르고 나서 나중에 고치자는 마인드가 팽배합니다.”
인공지능으로 고용까지?
아마존은 얼마 전까지 인공지능으로 사람을 고용하는 것까지 실험하기도 했었다. 수아레즈는 “그 결과 남성들에게 훨씬 좋은 유리한 쪽으로 알고리즘이 작용했다”고 말한다. “왜냐하면 인공지능이 학습한 과거 데이터에 여성보다 남성을 선호한 과거 이력이 남아 있었기 때문입니다. 문제가 되자 패치가 되면서 해결이 됐지만 그렇다고 알고리즘이 완전해진 건 아니었습니다. 다음에 또 어떤 문제가 나올지 예측이 불가능했죠. 왜냐면 알고리즘의 결정 과정을 사람이 들여다볼 수 없기 때문입니다. 그래서 결국 이 인공지능은 폐기되었습니다.”
이런 사례들이 있기에 “인공지능과 결합한 핀테크가 대출 결정을 온전히 할 수 있을까?”하는 의구심이 드는 건 어쩔 수 없다. 인공지능으로 결정된 이자율이 올바른가, 하는 찝찝한 의문이 대출을 받은 사람 입장에서 계속해서 들 수밖에 없는 것이다. “그렇다고 그 결정의 근거와 과정에 대해서 조사할 수 있는 방법이 딱히 있는 것도 아니고요. 아주 불가능한 건 아니지만 엄청난 자원을 소모해야 합니다.”
기존의 금융기관이나 행정기관들에서 쌓인 데이터나 패턴을 학습한 인공지능은 저소득층에 불리하게 작용할 가능성도 높다. 특히 잔고가 얼마 되지 않고 마이너스 통장 수치가 높을 경우 우호적으로 작용할 수 없는 게 현재의 사회 시스템이 가진 특성이라는 것이다. “가난한 사람들이 부자가 되는 경우가 매우 드물죠. 언제부턴가 이런 시스템이 굳어져가고 있어요. 그런데 이런 상태에서 이제 막 학습을 하기 시작한 알고리즘에 결정 권한을 준다고 사회가 확 바뀔까요? 비슷한 방향으로 더 빠르게 굴러갈 뿐이죠.” 수아레즈의 설명이다. “핀테크 분야의 머신러닝에 새로운 데이터를 학습시킬 필요가 있습니다. 이 부분에 대한 논의가 절실히 필요한 상태입니다.”
수아레즈는 이런 논의의 주체가 되어야 하는 조직들이 오히려 이런 부분에서의 검토를 꺼려할지 모르겠다고 말한다. “핀테크를 주로 사용해야 하는 조직들이 오히려 가난하고 소외된 사람들의 경제 참여를 두려워할지도 모르겠습니다. 하지만 이건 음모론 수준의 이야기일 뿐이죠. 중요한 건 핀테크의 개발자들이 나서서 정말로 소외 계층의 경제 참여를 독려할 수 있는 방법을 찾아내야 한다는 겁니다. 지금 우리가 가진 기술과 알고리즘의 학습 방법이 정말로 다양성을 보장하나요? 정말로 모든 사람을 차별없이 바라보고 결정을 내릴 수 있나요? IT 업계가 스스로에게 묻고 해결책을 찾아야 합니다.”
글 : 조아오피에르 루스(Joao-Pierre Ruth), Columnist
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-05-04] 
