올해 인공지능 윤리정책 추진 결과 공유 및 의견 수렴 진행
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)는 한국정보통신기술협회(이하 TTA), 정보통신정책연구원(이하 KISDI)과 함께 지난 23일 ‘제1회 인공지능 신뢰성·품질 대상’(이하 시상식)과 연계해 청중 200여명을 대상으로 ‘2023 인공지능 윤리정책 포럼 공개 세미나’(이하 공개 세미나)를 개최했다.
이번 행사는 차별 및 편향 심화·사생활 침해 등 인공지능 기술의 오남용에 대한 사회적 우려가 심화되고 관련 논의가 활성화되는 최근의 국제 추세 속에서, 제2기 인공지능 윤리정책 포럼(이하 포럼)의 운영 활동과 주요 정책 추진 결과를 국민에게 공개하고 의견을 수렴하기 위해 개최됐다.
특히 이번 공개 세미나는 올해 처음으로 인공지능 신뢰성을 확보한 우수 제품·서비스를 선정해 시상하는 ‘인공지능 신뢰성·품질 대상’과 연계하는 한편, 인공지능 윤리영향평가 운영 방안·일반인 대상 인공지능 윤리교육 교재 등 올해 추진한 정책 과제물들을 국민들에게 처음으로 선보이고 이에 대한 논의 과정을 온라인 생중계를 통해 전 국민에게 공개했다는 점에서 의미를 더했다.
우선 시상식에서는 인공지능 신뢰성이 확보된 제품 및 서비스를 개발 또는 제공하는 기업을 대상으로 과기정통부 장관상(2점)과 우수상(7점)을 수여했다. 과기정통부 장관상으로 ‘인공지능 윤리기준’을 참고해 기업 자체 윤리 점검표를 마련하고 자사 면접평가 솔루션에 신뢰성 검증을 시행한 제네시스랩이 ‘대상’에, 설명 가능한 인공지능을 기반으로 급성질환 조기 진단 예측을 위한 의료 소프트웨어를 제공하는 에이아이트릭스가 ‘최우수상’에 각각 선정됐다.
이어진 공개 세미나는 성과보고 및 정책제언을 시작으로, ①윤리 ②기술 ③교육 세션별 발표와 패널토론으로 구성됐다. 문광진 KISDI 부연구위원은 지난 1년간 법률·교육 분야별 생성형 인공지능 활용 쟁점 및 ‘디지털 권리장전’ 수립을 위해 윤리적으로 고려해야 할 사항을 논의했던 포럼의 활동 내용을 발표했다.
이어서 김명주 포럼위원장(서울여대 교수)은 ‘인공지능 규제 글로벌 동향에 따른 인공지능 윤리정책 제언’ 발표에서 최근 생성형 인공지능의 확산으로 인한 위험을 관리하려는 국제 동향을 조망하고, 산업 육성과 신뢰 기반 조성을 균형있게 다루는 ‘인공지능법’ 제정과 인공지능 윤리영향평가·신뢰성 인증제도 추진 및 글로벌 인공지능 거버넌스에 참여해 우리나라가 주도적인 역할을 해야 할 필요성을 강조했다.
제1세션에서는 문정욱 윤리분과장(KISDI 실장)이 ‘인공지능 윤리영향평가(안)’를 주제로 △대상 선정 △기초 분석(평가도구의 구체화 및 정교화) △영향평가 시행 △정책 제언·보고서 작성 단계로 구성된 윤리 영향평가체계(안)를 발표했다. UNESCO가 발간한 윤리영향평가 가이드라인을 참조해 윤리원칙별 긍정적·부정적 영향을 검토·기술하고 과정 및 결과에 대한 타당성 확보를 위해 다면적 평가(전문가 평가단·국민 포럼단·온라인 창구 활용)를 시행하겠다고 덧붙였다.
제2세션에서는 이강해 기술분과장(TTA 단장)이 ‘인공지능 신뢰성 민간 자율인증’을 주제로 △인증체계 개요 △인증 기준 △시험·인증 절차에 관해 설명하고 ‘2024 신뢰할 수 있는 인공지능 개발 안내서’ 개발 현황을 발표했다. 특히 신뢰성 인증의 국제적 공신력을 높이기 위해 IEEE·NIST 등과 협력하여 상호호환성을 확보하고, 생성형 인공지능 결과물에 워터마크 도입 등 인공지능 관련 최신 연구 동향을 반영해 개발안내서를 지속적으로 보완해 나갈 것을 강조했다.
제3세션에서는 조성은 연구위원(KISDI)이 ‘일반인을 위한 인공지능 윤리교육 교재 개발 과정과 내용’이라는 주제로 △필요성 △구성 방향과 집필 의도 △교재의 목차 및 주요 내용에 대해 발표했다. 특히 일반인을 위한 교재는 일반성인 학습자의 디지털 역량 격차가 큰 것을 고려해, 이론 중심이나 지식 전달보다는 각 목차마다 간단한 체험이나 실습을 통해 인공지능 기술로 인한 사회영향이나 윤리 이슈를 살펴보고 성찰할 수 있도록 구성했다고 설명했다.
과기정통부 강도현 정보통신정책실장은 “최근 인공지능의 위험성에 대한 우려가 커지고 있지만, 오늘 시상식을 통해 국내의 많은 기업이 인공지능의 신뢰성과 윤리 확보를 위해 노력하고 있다는 사실을 확인했다”며, “정부는 이러한 산업계의 자발적인 노력이 더욱 확산되도록 정책적 지원을 아끼지 않을 것”이라고 밝혔다. 또 “디지털 공동번영사회를 구현하기 위해 마련된 ‘디지털 권리장전(2023.9.25.)’에서 디지털 기술의 개발과 사용은 안전과 신뢰를 확보하기 위해 윤리적인 방식으로 책임있게 이뤄져야 함을 강조하고 있어, 디지털 공동번영사회의 기반이 되는 인공지능 윤리와 신뢰성을 확보하기 위해서 민관 협력의 정책 추진이 필수적이고 이를 위해서 포럼이 계속해서 노력해 줄 것”을 당부했다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)는 한국정보통신기술협회(이하 TTA), 정보통신정책연구원(이하 KISDI)과 함께 지난 23일 ‘제1회 인공지능 신뢰성·품질 대상’(이하 시상식)과 연계해 청중 200여명을 대상으로 ‘2023 인공지능 윤리정책 포럼 공개 세미나’(이하 공개 세미나)를 개최했다.
이번 행사는 차별 및 편향 심화·사생활 침해 등 인공지능 기술의 오남용에 대한 사회적 우려가 심화되고 관련 논의가 활성화되는 최근의 국제 추세 속에서, 제2기 인공지능 윤리정책 포럼(이하 포럼)의 운영 활동과 주요 정책 추진 결과를 국민에게 공개하고 의견을 수렴하기 위해 개최됐다.
특히 이번 공개 세미나는 올해 처음으로 인공지능 신뢰성을 확보한 우수 제품·서비스를 선정해 시상하는 ‘인공지능 신뢰성·품질 대상’과 연계하는 한편, 인공지능 윤리영향평가 운영 방안·일반인 대상 인공지능 윤리교육 교재 등 올해 추진한 정책 과제물들을 국민들에게 처음으로 선보이고 이에 대한 논의 과정을 온라인 생중계를 통해 전 국민에게 공개했다는 점에서 의미를 더했다.
우선 시상식에서는 인공지능 신뢰성이 확보된 제품 및 서비스를 개발 또는 제공하는 기업을 대상으로 과기정통부 장관상(2점)과 우수상(7점)을 수여했다. 과기정통부 장관상으로 ‘인공지능 윤리기준’을 참고해 기업 자체 윤리 점검표를 마련하고 자사 면접평가 솔루션에 신뢰성 검증을 시행한 제네시스랩이 ‘대상’에, 설명 가능한 인공지능을 기반으로 급성질환 조기 진단 예측을 위한 의료 소프트웨어를 제공하는 에이아이트릭스가 ‘최우수상’에 각각 선정됐다.
이어진 공개 세미나는 성과보고 및 정책제언을 시작으로, ①윤리 ②기술 ③교육 세션별 발표와 패널토론으로 구성됐다. 문광진 KISDI 부연구위원은 지난 1년간 법률·교육 분야별 생성형 인공지능 활용 쟁점 및 ‘디지털 권리장전’ 수립을 위해 윤리적으로 고려해야 할 사항을 논의했던 포럼의 활동 내용을 발표했다.
이어서 김명주 포럼위원장(서울여대 교수)은 ‘인공지능 규제 글로벌 동향에 따른 인공지능 윤리정책 제언’ 발표에서 최근 생성형 인공지능의 확산으로 인한 위험을 관리하려는 국제 동향을 조망하고, 산업 육성과 신뢰 기반 조성을 균형있게 다루는 ‘인공지능법’ 제정과 인공지능 윤리영향평가·신뢰성 인증제도 추진 및 글로벌 인공지능 거버넌스에 참여해 우리나라가 주도적인 역할을 해야 할 필요성을 강조했다.
제1세션에서는 문정욱 윤리분과장(KISDI 실장)이 ‘인공지능 윤리영향평가(안)’를 주제로 △대상 선정 △기초 분석(평가도구의 구체화 및 정교화) △영향평가 시행 △정책 제언·보고서 작성 단계로 구성된 윤리 영향평가체계(안)를 발표했다. UNESCO가 발간한 윤리영향평가 가이드라인을 참조해 윤리원칙별 긍정적·부정적 영향을 검토·기술하고 과정 및 결과에 대한 타당성 확보를 위해 다면적 평가(전문가 평가단·국민 포럼단·온라인 창구 활용)를 시행하겠다고 덧붙였다.
제2세션에서는 이강해 기술분과장(TTA 단장)이 ‘인공지능 신뢰성 민간 자율인증’을 주제로 △인증체계 개요 △인증 기준 △시험·인증 절차에 관해 설명하고 ‘2024 신뢰할 수 있는 인공지능 개발 안내서’ 개발 현황을 발표했다. 특히 신뢰성 인증의 국제적 공신력을 높이기 위해 IEEE·NIST 등과 협력하여 상호호환성을 확보하고, 생성형 인공지능 결과물에 워터마크 도입 등 인공지능 관련 최신 연구 동향을 반영해 개발안내서를 지속적으로 보완해 나갈 것을 강조했다.
제3세션에서는 조성은 연구위원(KISDI)이 ‘일반인을 위한 인공지능 윤리교육 교재 개발 과정과 내용’이라는 주제로 △필요성 △구성 방향과 집필 의도 △교재의 목차 및 주요 내용에 대해 발표했다. 특히 일반인을 위한 교재는 일반성인 학습자의 디지털 역량 격차가 큰 것을 고려해, 이론 중심이나 지식 전달보다는 각 목차마다 간단한 체험이나 실습을 통해 인공지능 기술로 인한 사회영향이나 윤리 이슈를 살펴보고 성찰할 수 있도록 구성했다고 설명했다.
과기정통부 강도현 정보통신정책실장은 “최근 인공지능의 위험성에 대한 우려가 커지고 있지만, 오늘 시상식을 통해 국내의 많은 기업이 인공지능의 신뢰성과 윤리 확보를 위해 노력하고 있다는 사실을 확인했다”며, “정부는 이러한 산업계의 자발적인 노력이 더욱 확산되도록 정책적 지원을 아끼지 않을 것”이라고 밝혔다. 또 “디지털 공동번영사회를 구현하기 위해 마련된 ‘디지털 권리장전(2023.9.25.)’에서 디지털 기술의 개발과 사용은 안전과 신뢰를 확보하기 위해 윤리적인 방식으로 책임있게 이뤄져야 함을 강조하고 있어, 디지털 공동번영사회의 기반이 되는 인공지능 윤리와 신뢰성을 확보하기 위해서 민관 협력의 정책 추진이 필수적이고 이를 위해서 포럼이 계속해서 노력해 줄 것”을 당부했다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-05-08] 
