인공지능이 불량한 이력서를 걸러내 주기만 하더라도 채용 담당자의 짐이 상당히 가벼워진다. 하지만 실제 현장에서 그런 효과를 누리려면 우리가 인공지능을 신뢰할 수 있어야 한다. 신뢰는 기술적 발전으로만 생겨나는 것이 아니다. 그 기술이 활용되는 제도적 범위가 타당하고, 그 범위 안에서 기술 발전이 안전하게 이뤄지는 것을 보고 경험해야 생긴다.
[보안뉴스 문정후 기자] 일자리를 찾고 이력서를 작성하여 제출하는 모든 과정은 거의 대부분 온라인에서 진행된다. 구직자와 구인자들을 위한 도구들이며 플랫폼이 넘쳐나는 시대니까. 게다가 팬데믹이 시작되고 대 퇴직의 시대로 접어들면서 이런 도구들과 플랫폼 사용자들은 폭발적으로 증가했다. 그러면서 이력서 제출과 접수를 넘어 면접 과정까지 온라인으로 진행되는 경우가 상당히 늘어났다. 아니, 팀즈와 줌으로 면접을 보는 게 일상이 되어가는 중이다. 하지만 구인과 구직의 방식이 이렇게 바뀌는 게 자연스럽기만 한 일일까? 모두가 공평하게 기회를 부여 받고, 제대로 보호 받고 있을까?
필자는 처음부터 끝까지 온라인으로만 진행되는 지금의 구인/구직 과정에도 규제와 제도가 필요하다고 생각한다. 당연하지만 구직자와 기업들을 보호하기 위해서다. 2021년 12월 뉴욕 시는 새로운 법안을 통과시켰다. 구인 과정에 인공지능 기술을 사용하면 안 된다는 내용의 법안이었다. 다만 철저한 감사를 통해 인종 및 성적 편견이 전혀 없다고 확실히 판명이 난 알고리즘의 경우라면 예외가 될 수 있다고 했다. 그리고 그 감사의 결과를 구인을 진행하는 회사의 웹사이트에 반드시 올려 공개해야 한다는 조건도 붙는다. 그래야 이력서를 내는 사람들이 어떤 알고리즘에 의해 떨어졌거나 붙었는지를 알 수 있기 때문이다. 이 규정은 2023년부터 시행될 것이라고 하는데, 아마 여기서부터 인공지능 알고리즘에 대한 규정의 홍수가 시작되지 않을까 조심스럽게 예상한다.
필자는 이것이 올바른 방향이라고 생각한다. 하지만 이것만으로는 충분치 않다. 인공지능 이전에도 구인과 구직 과정에 사용될 목적으로 수많은 기술들이 만들어지고 적용되고 사라졌다. 하지만 그 어떤 것도 투명하게 공개되거나 적절한 제도적 안전 장치 안에서 운영되지 않았다. 즉 모든 구직자들이 자기도 모르게 신기술을 실험하기 위한 피실험체가 되었던 것이다. 이를 다시 반복해서는 안 된다. 인공지능이라는 신기술이 다시 한 번 구인과 구직 과정에 개입하려 하는 지금 시점에 과거에 바로잡지 못했던 것들을 바로잡을 수 있어야 한다. 그래야 구인과 구직을 위한 인공지능이 보다 안전한 테두리 안에서 발전할 수 있게 되고, 그 누구도 피실험체가 되지 않으니까. 또한 이것이 본이 되어 인공지능 이후에 등장할 또 다른 새 기술들도 안전하게 회사와 인재의 연을 맺어주게 될 테니까 말이다.
현대의 ‘채용 인공지능’이 가진 문제점은?
한 가지 분명해 둘 것은 인공지능이라는 기술이 채용 과정에 주는 이득이 대단히 많다는 걸 필자도 인지하고 있다는 것이다. 필자는 인공지능 배척자나 부정론자가 아니다. 사람을 구한다는 광고를 온라인에 올려본 사람이라면 누구나 인공지능의 필요성을 이해할 것이다. 왜냐하면 ‘오롯한 진실’이 담긴 이력서를 골라내는 일부터가 매우 성가시고 어렵기 때문이다. 허위 이력이 기재되어 있거나, 심지어 가상의 인물이 이력서를 내는 경우가 왕왕 있고, 어쩌다 제대로 된 이력서가 발견되더라도 우리 회사가 필요로 하는 사람이 아니다. 최종 합격자는커녕 면접자를 추려내는 단계부터 가야할 길이 멀고 험난하다. 누군가 이런 ‘노이즈 이력서’들을 걸러만 줘도 얼마나 편해질까!
그래서 등장한 것이 채용 인공지능이다. 통틀어 ‘채용 인공지능’이라고 하는데 사실 수준은 제품마다 천차만별이다. 회사가 구하는 인재상과 이력서에 기재된 보유 기술이나 이력을 간단히 매칭시켜 주는 것부터, 이전 고용 절차를 전부 학습해 스스로 이력서를 전부 검토해 면접자를 뽑아내는 고급 것까지 이미 시장에 갖가지 도구들이 존재한다. 문제는 현재의 수준이 어쨌든 채용 인공지능 전부가 ‘편견’으로부터 자유롭지 못하다는 것이다. 실제로 현재까지 나온 고급 채용 인공지능들이 여성을 남성보다 많이 걸러낸다는 사실이 밝혀지기도 했었다. 음성 기반 인공지능에서도 여성이나 소수 인종(그러므로 특이한 억양이 있는)의 말을 부정확하게 이해하는 사례가 발견된 적이 있다.
법으로 편견을 지워내고 공평함의 기반을 마련할 수 있을까?
필자가 “아직 규제가 더 필요하다”고 앞서 말한 건 이 ‘편견’ 때문이다. 현재 우리에게는 인공지능을 기반으로 한 채용 도구들이 편견을 내포하고 있지 않다고 확신할 수 있게 해 주는 안전 장치나 표준 검사 도구 같은 것이 마련되어 있지 않다. 감사를 해서 편견의 가능성을 전부 제거하는 것이 반드시 필요하지만, 편견 가능성이 제거됐다고 해서 공평한 결과가 나온다고 보장할 수 없다. 둘은 다른 말이다. 공평한 결과를 내기 위한 노력의 일환으로 편견을 없애는 것이지, 편견을 없애는 게 곧바로 공평을 뜻하는 건 아니다. 게다가 편견이라는 것이 ‘인종’이나 ‘성별’과만 관련된 것도 아니다. 우리에게는 수많은 종류의 편견들이 있으며 이를 전부 찾아내 기술적으로 없앤다는 건 불가능할 지도 모른다.
인공지능에서 편견을 없앤다는 건, 인공지능이 학습을 하기 위해 소비하는 데이터에서 편견을 없앤다는 뜻이다. 현재 IT 업계는 여성이나 고령자, 유색 인종에 대한 편견을 데이터에서 없애기 위해 노력하고 있지만 특정 직업에 대한 편견 혹은 특정 장애에 대한 편견 등은 손도 대지 못하고 있다. 또한 최근의 연구 결과에 따르면 인공지능은 편견들을 그대로 답습하는 게 아니라 강화하고 증폭시킨다고도 한다. 이런 상태에서 아무런 안전 장치 없이 채용 인공지능을 그대로 사용한다는 건 너무나 위험한 생각이다. 관련 규제가 충분히 방대한 양으로 마련되어야 한다.
뉴욕시가 최근 통과시킨 법은 꽤나 의미 깊은 첫 걸음이다. 구직자들은 자신들을 평가하는 도구의 정체에 대해 알 권리를 가지고 있다. 하지만 알기만 해서는 아무런 도움이 되지 않는다. ‘나 A라는 알고리즘 때문에 면접도 못 해봤어’라고 알아봐야 무슨 효과가 있을까. 그 알고리즘이 어떤 식으로 작동하고, 어떤 항목에 따라 이력서를 검토하며, 얼마나 자주 검토와 평가를 받는지 알아야 당락의 결정을 충분히 신뢰하고, 떨어진 이유를 납득하여, 다음을 준비할 수 있게 된다.
글 : 레나 니감(Rena Nigam), CEO, Meytier
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 일자리를 찾고 이력서를 작성하여 제출하는 모든 과정은 거의 대부분 온라인에서 진행된다. 구직자와 구인자들을 위한 도구들이며 플랫폼이 넘쳐나는 시대니까. 게다가 팬데믹이 시작되고 대 퇴직의 시대로 접어들면서 이런 도구들과 플랫폼 사용자들은 폭발적으로 증가했다. 그러면서 이력서 제출과 접수를 넘어 면접 과정까지 온라인으로 진행되는 경우가 상당히 늘어났다. 아니, 팀즈와 줌으로 면접을 보는 게 일상이 되어가는 중이다. 하지만 구인과 구직의 방식이 이렇게 바뀌는 게 자연스럽기만 한 일일까? 모두가 공평하게 기회를 부여 받고, 제대로 보호 받고 있을까?
[이미지 = utoimage\
필자는 처음부터 끝까지 온라인으로만 진행되는 지금의 구인/구직 과정에도 규제와 제도가 필요하다고 생각한다. 당연하지만 구직자와 기업들을 보호하기 위해서다. 2021년 12월 뉴욕 시는 새로운 법안을 통과시켰다. 구인 과정에 인공지능 기술을 사용하면 안 된다는 내용의 법안이었다. 다만 철저한 감사를 통해 인종 및 성적 편견이 전혀 없다고 확실히 판명이 난 알고리즘의 경우라면 예외가 될 수 있다고 했다. 그리고 그 감사의 결과를 구인을 진행하는 회사의 웹사이트에 반드시 올려 공개해야 한다는 조건도 붙는다. 그래야 이력서를 내는 사람들이 어떤 알고리즘에 의해 떨어졌거나 붙었는지를 알 수 있기 때문이다. 이 규정은 2023년부터 시행될 것이라고 하는데, 아마 여기서부터 인공지능 알고리즘에 대한 규정의 홍수가 시작되지 않을까 조심스럽게 예상한다.
필자는 이것이 올바른 방향이라고 생각한다. 하지만 이것만으로는 충분치 않다. 인공지능 이전에도 구인과 구직 과정에 사용될 목적으로 수많은 기술들이 만들어지고 적용되고 사라졌다. 하지만 그 어떤 것도 투명하게 공개되거나 적절한 제도적 안전 장치 안에서 운영되지 않았다. 즉 모든 구직자들이 자기도 모르게 신기술을 실험하기 위한 피실험체가 되었던 것이다. 이를 다시 반복해서는 안 된다. 인공지능이라는 신기술이 다시 한 번 구인과 구직 과정에 개입하려 하는 지금 시점에 과거에 바로잡지 못했던 것들을 바로잡을 수 있어야 한다. 그래야 구인과 구직을 위한 인공지능이 보다 안전한 테두리 안에서 발전할 수 있게 되고, 그 누구도 피실험체가 되지 않으니까. 또한 이것이 본이 되어 인공지능 이후에 등장할 또 다른 새 기술들도 안전하게 회사와 인재의 연을 맺어주게 될 테니까 말이다.
현대의 ‘채용 인공지능’이 가진 문제점은?
한 가지 분명해 둘 것은 인공지능이라는 기술이 채용 과정에 주는 이득이 대단히 많다는 걸 필자도 인지하고 있다는 것이다. 필자는 인공지능 배척자나 부정론자가 아니다. 사람을 구한다는 광고를 온라인에 올려본 사람이라면 누구나 인공지능의 필요성을 이해할 것이다. 왜냐하면 ‘오롯한 진실’이 담긴 이력서를 골라내는 일부터가 매우 성가시고 어렵기 때문이다. 허위 이력이 기재되어 있거나, 심지어 가상의 인물이 이력서를 내는 경우가 왕왕 있고, 어쩌다 제대로 된 이력서가 발견되더라도 우리 회사가 필요로 하는 사람이 아니다. 최종 합격자는커녕 면접자를 추려내는 단계부터 가야할 길이 멀고 험난하다. 누군가 이런 ‘노이즈 이력서’들을 걸러만 줘도 얼마나 편해질까!
그래서 등장한 것이 채용 인공지능이다. 통틀어 ‘채용 인공지능’이라고 하는데 사실 수준은 제품마다 천차만별이다. 회사가 구하는 인재상과 이력서에 기재된 보유 기술이나 이력을 간단히 매칭시켜 주는 것부터, 이전 고용 절차를 전부 학습해 스스로 이력서를 전부 검토해 면접자를 뽑아내는 고급 것까지 이미 시장에 갖가지 도구들이 존재한다. 문제는 현재의 수준이 어쨌든 채용 인공지능 전부가 ‘편견’으로부터 자유롭지 못하다는 것이다. 실제로 현재까지 나온 고급 채용 인공지능들이 여성을 남성보다 많이 걸러낸다는 사실이 밝혀지기도 했었다. 음성 기반 인공지능에서도 여성이나 소수 인종(그러므로 특이한 억양이 있는)의 말을 부정확하게 이해하는 사례가 발견된 적이 있다.
법으로 편견을 지워내고 공평함의 기반을 마련할 수 있을까?
필자가 “아직 규제가 더 필요하다”고 앞서 말한 건 이 ‘편견’ 때문이다. 현재 우리에게는 인공지능을 기반으로 한 채용 도구들이 편견을 내포하고 있지 않다고 확신할 수 있게 해 주는 안전 장치나 표준 검사 도구 같은 것이 마련되어 있지 않다. 감사를 해서 편견의 가능성을 전부 제거하는 것이 반드시 필요하지만, 편견 가능성이 제거됐다고 해서 공평한 결과가 나온다고 보장할 수 없다. 둘은 다른 말이다. 공평한 결과를 내기 위한 노력의 일환으로 편견을 없애는 것이지, 편견을 없애는 게 곧바로 공평을 뜻하는 건 아니다. 게다가 편견이라는 것이 ‘인종’이나 ‘성별’과만 관련된 것도 아니다. 우리에게는 수많은 종류의 편견들이 있으며 이를 전부 찾아내 기술적으로 없앤다는 건 불가능할 지도 모른다.
인공지능에서 편견을 없앤다는 건, 인공지능이 학습을 하기 위해 소비하는 데이터에서 편견을 없앤다는 뜻이다. 현재 IT 업계는 여성이나 고령자, 유색 인종에 대한 편견을 데이터에서 없애기 위해 노력하고 있지만 특정 직업에 대한 편견 혹은 특정 장애에 대한 편견 등은 손도 대지 못하고 있다. 또한 최근의 연구 결과에 따르면 인공지능은 편견들을 그대로 답습하는 게 아니라 강화하고 증폭시킨다고도 한다. 이런 상태에서 아무런 안전 장치 없이 채용 인공지능을 그대로 사용한다는 건 너무나 위험한 생각이다. 관련 규제가 충분히 방대한 양으로 마련되어야 한다.
뉴욕시가 최근 통과시킨 법은 꽤나 의미 깊은 첫 걸음이다. 구직자들은 자신들을 평가하는 도구의 정체에 대해 알 권리를 가지고 있다. 하지만 알기만 해서는 아무런 도움이 되지 않는다. ‘나 A라는 알고리즘 때문에 면접도 못 해봤어’라고 알아봐야 무슨 효과가 있을까. 그 알고리즘이 어떤 식으로 작동하고, 어떤 항목에 따라 이력서를 검토하며, 얼마나 자주 검토와 평가를 받는지 알아야 당락의 결정을 충분히 신뢰하고, 떨어진 이유를 납득하여, 다음을 준비할 수 있게 된다.
글 : 레나 니감(Rena Nigam), CEO, Meytier
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-18] 
.jpg)
.jpg)
.jpg)
