AI 클린봇 2.5 버전 적용해 욕설, 성적표현 등 차단
n번방 금지법 시행에 맞춰 불법촬영물 관련 신고 편의성도 높여
[보안뉴스 이사우 기자] 네이버(대표이사 한성숙)는 인공지능을 기반으로 악성댓글을 차단하는 ‘AI 클린봇’을 욕설 뿐 아니라 과도한 성적표현까지도 찾아서 거르는 2.5 버전으로 업그레이드 한다고 밝혔다. 이번 AI 클린봇 업그레이드는 2.0 버전 업그레이드 이후 7개월 만에 추가로 진행된 것으로, 뉴스댓글 뿐만 아니라 방송톡과 네이버TV 댓글에도 적용된다.
이번 업그레이드를 위해 AI클린봇은 기존에 학습된 데이터를 포함해 약 1억 6,000만 건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용했고, 이를 통해 기존대비 정확도가 약 15%가량 향상된 것으로 나타났다. 특히, 2.5버전에는 과도한 성적표현에 대한 AI학습이 반영해, 성적 불쾌감을 일으킬 수 있는 수준의 표현을 차단하는 등 악성댓글 차단 범위를 넓혔다. 예를 들어, 직·간접적인 성적 행위나 특정부위 등의 표현에 대해 클린봇이 자동으로 차단한다.
이와 함께, 네이버는 불법촬영물 유통금지를 규정한 n번방 방지법 시행에 맞춰 이용자 신고와 관련해 접근 편의성을 높이는 조치도 진행했다. 지난 1월 15일 '불법촬영물’ 신고항목을 뉴스를 비롯해 카페, 블로그, 지식IN 등 다양한 영역에 추가했고, ‘불법촬영물’ 관련 검색 시에도 신고센터 도움말이 노출되도록 했다.
네이버는 “보다 높은 책임의식을 가지고 앞으로도 선언적 의미를 넘어 실질적으로 악성댓글 차단 및 불법촬영물의 2차피해 방지에 최선의 노력을 진행해 나갈 것”이라고 밝혔다.
[이상우 기자(boan@boannews.com)]
n번방 금지법 시행에 맞춰 불법촬영물 관련 신고 편의성도 높여
[보안뉴스 이사우 기자] 네이버(대표이사 한성숙)는 인공지능을 기반으로 악성댓글을 차단하는 ‘AI 클린봇’을 욕설 뿐 아니라 과도한 성적표현까지도 찾아서 거르는 2.5 버전으로 업그레이드 한다고 밝혔다. 이번 AI 클린봇 업그레이드는 2.0 버전 업그레이드 이후 7개월 만에 추가로 진행된 것으로, 뉴스댓글 뿐만 아니라 방송톡과 네이버TV 댓글에도 적용된다.
[이미지=네이버]
이번 업그레이드를 위해 AI클린봇은 기존에 학습된 데이터를 포함해 약 1억 6,000만 건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용했고, 이를 통해 기존대비 정확도가 약 15%가량 향상된 것으로 나타났다. 특히, 2.5버전에는 과도한 성적표현에 대한 AI학습이 반영해, 성적 불쾌감을 일으킬 수 있는 수준의 표현을 차단하는 등 악성댓글 차단 범위를 넓혔다. 예를 들어, 직·간접적인 성적 행위나 특정부위 등의 표현에 대해 클린봇이 자동으로 차단한다.
이와 함께, 네이버는 불법촬영물 유통금지를 규정한 n번방 방지법 시행에 맞춰 이용자 신고와 관련해 접근 편의성을 높이는 조치도 진행했다. 지난 1월 15일 '불법촬영물’ 신고항목을 뉴스를 비롯해 카페, 블로그, 지식IN 등 다양한 영역에 추가했고, ‘불법촬영물’ 관련 검색 시에도 신고센터 도움말이 노출되도록 했다.
네이버는 “보다 높은 책임의식을 가지고 앞으로도 선언적 의미를 넘어 실질적으로 악성댓글 차단 및 불법촬영물의 2차피해 방지에 최선의 노력을 진행해 나갈 것”이라고 밝혔다.
[이상우 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이상우기자 기사보기
[2025-04-07] .jpg)
