네이버·카카오, ‘욕설·비속어’ 통합 DB 공개됐다

KISO, 욕설 필터링 솔루션 ‘KSS’ 개발 완료...베타서비스 후 내년 정식 공개

[보안뉴스 박미영 기자] 네이버와 카카오 양대 포털이 구축한 욕설·비속어 통합 데이터베이스(DB)가 공개돼 보다 많은 플랫폼 기업들이 혜택을 보게 될 전망이다.

사단법인 한국인터넷자율정책기구(이하 KISO)는 인터넷상 욕설·비속어 등을 노출 제한할 수 있도록 하는 ‘KSS’(KISO Safeguard System)를 개발했다고 지난 1일 밝혔다. 이는 다양한 인터넷 서비스에서 욕설·비속어가 노출되는 것을 막기 위해 실시간으로 이를 판별하는 기능을 갖춘 솔루션이다.

KISO는 특별분과 산하 ‘자율규제DB 소위원회’를 통해 국내 대표 포털인 네이버와 카카오로부터 제공받은 약 60만건의 욕설 데이터베이스(DB)를 통합했다. 앞서 네이버와 카카오는 건강한 인터넷 문화 조성과 ESG(환경·사회·지배구조) 경영 활동의 일환으로 각사가 축적한 욕설 DB를 KISO에 무상공여한 바 있다.

KISO는 이를 바탕으로 인터넷 서비스 기업들이 자율적으로 기술적 보호 조치에 활용할 수 있도록 응용 프로그램 인터페이스(API)를 최근 개발 완료했다.

기존에는 욕설을 차단하기 위해 개별 업체들이 자체 DB를 구축해야 하고, 지속적인 유지 관리에 많은 비용이 소요돼 중소규모 업체의 경우 유사 시스템 구축이 어려웠다.

네이버와 카카오 등 포털 업계는 수년 전부터 댓글 등에 욕설‧비속어 등을 필터링하는 인공지능(AI) 기반의 탐지·차단 프로그램을 자체 개발해 적용해 왔다. 이러한 프로그램 도입 이후 실제 악성 댓글이 줄어드는 등 자정 효과가 나타나고 있다.

KSS는 데이터 분석을 통해 욕설 여부를 판단하며 DB에 포함되어 있으면 변형 욕설도 필터링이 가능하도록 설계됐다. KISO는 이를 향후 모니터링 및 분석해 신규 생성되는 욕설에 대해서도 지속적으로 대응한다는 방침이다.

내년 상반기 정식 서비스 예정이며 본 서비스에 앞서 베타서비스를 진행한다. 이용을 원하는 기업은 KISO에 신청하면 된다.

혐오 표현과 유해 콘텐츠의 유통을 제재하는 디지털서비스법(DSA·Digital Services Act)이 유럽에 도입됨에 따라 국내에서도 KSS와 같은 시도가 여러 플랫폼에서 필요할 것으로 기대한다.

이재신 KISO 자율규제DB 소위원회 위원장(중앙대 미디어커뮤니케이션학부 교수)은 “국내 포털 회원사들이 욕설과 같은 비윤리적 표현 공동 DB를 구축하는 등 안전한 인터넷 환경 조성을 위한 사회적 책임을 실현하고 있다”며, “KISO는 건전한 디지털 이용 환경을 만들고 이용자를 보호하기 위해 다양한 정책을 마련해 나갈 것”이라고 밝혔다.

KISO는 2009년 출범한 자율규제기구로 인터넷 포털과 커뮤니티·챗봇 서비스 등 15개 인터넷 사업자가 KISO 회원사로 참여하고 있으며, 그간 청소년 보호를 위한 음란물 및 유해 검색어 DB 구축을 비롯한 사업을 진행해 왔다.
[박미영 기자(mypark@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다