.jpg)
.jpg)
AI 기반 아동·청소년 온라인 성착취 선제 과제 착수
과학기술정보통신부와 여성가족부가 인공지능(AI) 기술을 적극 활용, 아동·청소년을 성범죄로부터 보호한다.
23일 두 기관은 ‘디지털 기반 사회현안 해결 프로젝트’사업을 통해 추진하는 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제 착수보고회를 과기정통부 세종청사에서 개최했다.
디지털 기반 사회현안 해결 프로젝트 사업은 AI·빅데이터·클라우드 등 디지털 신기술을 선도적으로 적용해 국민 생활과 밀접한 공공 서비스를 향상하고, 사회 현안을 해결하려는 목적이다.
여성가족부의 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제는 최근 딥페이크 성범죄 등 디지털 성범죄가 심각한 사회문제로 대두됨에 따른 것이다. ‘성범죄 사회문제 해결’을 주제로 추진한 지정 공모를 통해 선정된 주요 과제다.
AI를 기반으로 온라인에서 아동·청소년 성착취물 등을 자동 탐지하고 조기 차단해 피해를 예방하고, 안전한 온라인 환경을 조성하기 위해 추진하고 있다.
기존에는 아동·청소년 대상 성착취물을 식별하기 위해 한국여성인권진흥원 담당자의 키워드 중심의 수작업 검색 등 육안 모니터링 방식 위주였다. 성착취물 발견 시에도 수작업으로 플랫폼사에 삭제를 요청하는 식이다.
이번 사업을 통해 자가학습형 AI 시스템을 구축·접목함으로써 24시간 365일 실시간 감시가 가능해진다. AI 알고리즘을 활용해 온라인 플랫폼에서 성착취 키워드·이미지 유해성 분석 등을 통해 의심 정보를 탐지하고, 분석 기술 고도화를 통해 위험도에 따른 검토 대기열을 구성해 체계적인 검토 후 삭제 지원을 연계한다.
신고·삭제 지원 API 등을 활용해 탐지된 게시물의 삭제를 관련 플랫폼으로 요청하고, 처리 내역을 체계적으로 관리한다. 공동주관기관인 한국여성인권진흥원(원장 신보라)은 피해자 보호 전문성을 바탕으로, 플랫폼 내 상담 연계 및 피해 대응체계 설계에 중요한 역할을 수행할 계획이다.
이번 착수보고회에는 과기정통부와 한국지능정보사회진흥원, 여성가족부 등 과제 주관기관 및 수행기업이 참여했다. 디지털 성착취 문제 등 사회적 약자 대상 범죄에 대한 디지털 대응 역량을 강화하고, AI·데이터 기반 선제 대응체계 구축을 위한 기관 간 협업 방향을 논의했다. 이번 과제를 통해 피해 접수, 삭제 지원, 상담 연계에 이르는 통합 체계를 구축하게 된다. 더 체계적이고 지속 가능한 디지털 성범죄 대응 모델을 만들 계획이다.
과기정통부 관계자는 “앞으로도 AI 등 디지털 기술을 공공 서비스에 적극 접목해, 사회적 약자를 보호하고 국민이 체감할 수 있는 디지털 안전망 구축에 기여할 수 있도록 적극 지원할 계획”이라고 밝혔다.
[강현주 기자(jjoo@boannews.com)]
과학기술정보통신부와 여성가족부가 인공지능(AI) 기술을 적극 활용, 아동·청소년을 성범죄로부터 보호한다.
23일 두 기관은 ‘디지털 기반 사회현안 해결 프로젝트’사업을 통해 추진하는 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제 착수보고회를 과기정통부 세종청사에서 개최했다.
[자료: 과기정통부]
디지털 기반 사회현안 해결 프로젝트 사업은 AI·빅데이터·클라우드 등 디지털 신기술을 선도적으로 적용해 국민 생활과 밀접한 공공 서비스를 향상하고, 사회 현안을 해결하려는 목적이다.
여성가족부의 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제는 최근 딥페이크 성범죄 등 디지털 성범죄가 심각한 사회문제로 대두됨에 따른 것이다. ‘성범죄 사회문제 해결’을 주제로 추진한 지정 공모를 통해 선정된 주요 과제다.
AI를 기반으로 온라인에서 아동·청소년 성착취물 등을 자동 탐지하고 조기 차단해 피해를 예방하고, 안전한 온라인 환경을 조성하기 위해 추진하고 있다.
기존에는 아동·청소년 대상 성착취물을 식별하기 위해 한국여성인권진흥원 담당자의 키워드 중심의 수작업 검색 등 육안 모니터링 방식 위주였다. 성착취물 발견 시에도 수작업으로 플랫폼사에 삭제를 요청하는 식이다.
이번 사업을 통해 자가학습형 AI 시스템을 구축·접목함으로써 24시간 365일 실시간 감시가 가능해진다. AI 알고리즘을 활용해 온라인 플랫폼에서 성착취 키워드·이미지 유해성 분석 등을 통해 의심 정보를 탐지하고, 분석 기술 고도화를 통해 위험도에 따른 검토 대기열을 구성해 체계적인 검토 후 삭제 지원을 연계한다.
신고·삭제 지원 API 등을 활용해 탐지된 게시물의 삭제를 관련 플랫폼으로 요청하고, 처리 내역을 체계적으로 관리한다. 공동주관기관인 한국여성인권진흥원(원장 신보라)은 피해자 보호 전문성을 바탕으로, 플랫폼 내 상담 연계 및 피해 대응체계 설계에 중요한 역할을 수행할 계획이다.
이번 착수보고회에는 과기정통부와 한국지능정보사회진흥원, 여성가족부 등 과제 주관기관 및 수행기업이 참여했다. 디지털 성착취 문제 등 사회적 약자 대상 범죄에 대한 디지털 대응 역량을 강화하고, AI·데이터 기반 선제 대응체계 구축을 위한 기관 간 협업 방향을 논의했다. 이번 과제를 통해 피해 접수, 삭제 지원, 상담 연계에 이르는 통합 체계를 구축하게 된다. 더 체계적이고 지속 가능한 디지털 성범죄 대응 모델을 만들 계획이다.
과기정통부 관계자는 “앞으로도 AI 등 디지털 기술을 공공 서비스에 적극 접목해, 사회적 약자를 보호하고 국민이 체감할 수 있는 디지털 안전망 구축에 기여할 수 있도록 적극 지원할 계획”이라고 밝혔다.
[강현주 기자(jjoo@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
강현주기자 기사보기
[2025-04-07] 
.jpg)
.png){kind=spacer}
.jpg)
.jpg)
.jpg)
.png)
.jpg)
