Home > 전체기사

각종 논란의 중심 AI 챗봇 ‘이루다’, 개인정보 노출 우려도 커지나

  |  입력 : 2021-01-11 00:33
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
AI 성희롱, 동성애·장애인 혐오 의혹 이어 개인정보 노출 우려까지 ‘사면초가’
‘이루다’ 개발사 책임론과 함께 운영중단 운동까지...일각에선 악용하는 네티즌의 윤리의식 부재 비판
AI 시대의 부작용 고스란히 노출된 사례...AI 분야 개인정보보호 중요성 더욱 커져


[보안뉴스 권 준 기자] 지난 연말 출시돼 화제가 되고 있는 대화형 인공지능(AI) 챗봇 ‘이루다’가 AI 성희롱, 동성애·장애인 혐오 의혹 등 각종 논란의 중심에 선 가운데 이젠 개인정보 노출 우려까지 제기돼 사면초가 상황에 몰리고 있다.

AI 스타트업 스캐터랩이 지난 연말 출시한 AI 챗봇 ‘이루다’는 실제 연인들이 나눈 대화 데이터 약 100억 건을 딥러닝(Deep Learning) 방식으로 학습한 20살 여성으로 설정돼 있어 직접 대면이 어려운 코로나 시대에 대화 상대가 필요한 젊은 층 사이에 큰 관심을 불러일으켰다.

▲개인정보 유출 우려가 제기될 수 있는 ‘이루다’와의 채팅 화면[자료=네티즌]


특히, 대화가 진짜 사람과 하는 것 같아 재밌고 신선하다는 반응이 많았는데, 네티즌들 사이에서 채팅 후기가 하나둘씩 올라오면서 각종 논란이 야기되고 있다. 논란의 시작은 ‘이루다’에 대한 네티즌들의 다양한 성희롱 표현과 대화가 수위를 넘고 있다는 지적이 제기되면서부터다. 이른바 ‘AI 성희롱’ 논란이다. 이어 동성애와 장애인에 대해 불편하다, 어렵다는 등 거북한 반응을 보인다면서 동성애·장애인 혐오 논란이 불거지기도 했다.

그러나 더욱 심각한 건 바로 개인정보 노출 우려가 제기되고 있다는 점이다. 네티즌들이 대화를 나눠본 결과, 실제 사람들의 이름과 애칭, 집주소, 금융정보 등 개인정보들이 그대로 노출되는 문제점이 있었다는 것이다

한 네티즌과 ‘이루다’의 채팅 내용을 살펴본 결과, 해당 네티즌이 집요하게 주소를 요구하니까 집 주소를 알려주는 이루다의 대화가 그대로 캡처돼 있다. 결국 사람들에 의해 ‘이루다’가 악용될 경우 개인정보가 노출될 수 있는 가능성도 배제할 수 없는 셈이다.

이렇듯 각종 논란이 이어지면서 SNS에서는 ‘#이루다봇_운영중단’이라는 해시태그(#) 운동도 펼쳐지는 등 개발사의 책임론이 제기되고 있다. 그러나 일부에서는 해당 서비스를 제공하는 회사에 책임을 물을 게 아니라 이를 악용하는 일부 네티즌들의 도덕성 및 윤리의식 부재를 비판해야 한다는 지적도 나온다.

이번 ‘이루다’ 사태는 곧 도래할 AI 시대에 야기될 수 있는 각종 부작용들이 고스란히 노출된 사례로 평가된다. 특히, AI 챗봇 ‘이루다’의 개인정보 노출 우려는 인공지능을 통한 빅데이터 활용에 있어 개인정보의 가명화 조치 등 개인정보보호 대책이 얼마나 중요한지 여실히 보여주고 있다.
[권 준 기자(editor@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기

stro**** 2021.01.11 20:25

반대파들
인공지능의 한계를 이루다의 문제처럼 말하네
그럼 빅스비, 시리, 구글 어시스턴트, 네이버 클로바, 카카오 i, 알렉사한텐 딴지 안거냐?
오히려 이쪽은 특성상 메신저인 이루다보다 기기에 정착한 프로그램이라 정보 엑세스가 더 쉬워서 여기가 더 정보 많이 털릴텐데?
그럼 인공지능 개발하지 말자는거밖엔 답이없는데?
개발자들도 최선을 다해서 해결하려하지
이시국에 이 어려운거 해낸 개발자들한테 박수 한 번 치기는 했나


임꺽지 2021.01.11 15:35

딥러닝이나 상호반응해야하는 ai개발과정에 당연하 일어나는 문제들 아냐?
저런걸 해결해가면서 ai의 발전이 이루어지는거고
딥러닝 자체가 사람이 입력하는 지식인데 시작부터 완벽할수 있나?
대학교수가 말하면 100프로 무결점 진리인가?
사람의 말도 오류 투성이인데


개느끼해 2021.01.11 09:34

소름돋네요


난주 2021.01.11 09:07

주소는 문제의 일부고 ㅇㅇㅇ 하나은행같이 다른 신상정보도 나옵니다 그게 다가 아니라고요


sin 2021.01.11 08:59

회사주소만 나오는게 아닙니다.


김성훈 2021.01.11 01:49

회사 주소 노출되는 것도 문제냐 검색만 해도 나오는걸


sin 2021.01.11 01:25

"안 막혔습니다. 성희롱 뚫듯이 얼마든지 뚫을수 있어요.
저런건 키워드 한두개 막는다고 못 뽑는거 아닙니다."


K CN 2021.01.11 00:45

저거 이젠 막혔고 주소알려 달라하면 본사 주소 알려줌 ㅋㅋㅋ


  •  SNS에서도 보안뉴스를 받아보세요!! 
넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
보안전문 기자들이 뽑은 2021년 보안 핫키워드 10개 가운데 가장 관심이 높은 키워드는?
민간인증서부터 융복합인증까지, 인증의 시대 열린다
랜섬웨어 공격, ‘불특정 다수’에서 ‘표적형’으로 진화
데이터 프라이버시가 기업들의 목을 죈다
재택근무와 주 52시간 근무제, 오피스 보안 ‘혁신’ 예고
영상·음성까지 합성 ‘딥페이크’, 비대면 사회 침투하나
의료·제약 분야, 코로나19 다음은 해커
스마트공장 구축은 OT/ICS 보안 정립부터
드론, 융합보안 산업의 핵심 아이템이 되다
몸집 키운 ADT캡스-에스원 대격돌, 보안시장 지각변동
CCTV 시스템온칩 대란, 중소기업 생존까지 위협