[PIS FAIR 2025] “공공분야 AI, 신뢰 위해 ‘설명 가능한 AI’ 필수”

[보안뉴스 강현주 기자] 국민을 대상으로 서비스하는 공공 분야에 인공지능(AI)을 도입하려면 믿을만한 정보와 윤리를 기반으로 해야 한다. 이를 위해 ‘설명 가능한 AI’의 중요성이 커지고 있다.

김범수 연세대학교 정보대학원 교수는 28일 서울 삼성동 코엑스에서 이틀째 진행된 PIS FAIR 2025에서 ‘신뢰할 수 있는 공공분야 AI 서비스 운영’을 주제로 발표했다.

▲김범수 연세대 교수가 PIS FAIR 2025에서 발표하고 있다. [자료: 보안뉴스]

김 교수는 “서울시 AI 행정과 같은 혁신적 AI 서비스의 전제 조건은 AI의 신뢰도”라고 말했다. 서울시는 디지털 성범죄 자동 감시 시스템에 AI를 도입, 피해자 동의 없이 올라온 성적 동영상을 자동으로 찾아 삭제하는 시간을 3시간에서 6분으로 줄였다.

공공 분야는 이 같은 대국민 서비스를 제공하기 때문에 AI의 신뢰도가 높아야 한다. 자율주행과 항공우주산업, 의료장비, 금융 등 정부 규제가 적용되는 안전 필수 산업 역시 마찬가지다.

김 교수는 신뢰할 수 있는 AI의 요소로 AI 의사결정 메커니즘에 대한 정보를 제공하는 ‘설명가능성’을 제시했다.

그는 “‘설명 가능한 AI’(XAI)는 모든 사용자가 이해할 수 있는 맞춤화된 설명을 제공하기 때문에 정보 처리 과정을 알 수 없다는 AI의 ‘블랙박스’ 문제도 해결한다”고 말했다.

국제통화기금(IMF)은 XAI를 도입해 정부 부채 분석에 활용한 바 있다. 데이터 구조를 단순화하고, 설명가능성을 확보해 정책 결정의 투명성을 높인 사례다. 김 교수는 “설명 가능한 AI는 결정 과정을 투명하게 해 AI의 실무 활용 가능성을 높인다”고 말했다.

[강현주 기자(jjoo@boannews.com)]

우리나라 정보보호 수준 향상을 위해 이재명 정부에게 가장 바라는 점은 무엇인가요?
	ISMS 등 보안 인증 제도 실효성 개선
	AI 보안, 양자보안 등 보안 기술 연구개발 지원 확대
	중소 기업 보안 지원 확대
	기업 보안 예산 비율 의무화
	국가 정보보호 거버넌스 체계 정비
	기타(댓글로)