.jpg)
과기정통부 이종호 장관, 개인정보위 고학수 위원장 및 AI 관계자와 제4차 AI 최고위 전략대화 개최
참여기업들, 인공지능 신뢰성 강화를 위한 안전조치 마련 동참
[보안뉴스 김영명 기자] 과학기술정보통신부(이하 과기정통부) 이종호 장관은 10월 25일 오전 10시, 개인정보보호위원회 고학수 위원장 및 인공지능 분야 민간 최고위 관계자들과 함께 인공지능 위험성 우려에 대응, 안전한 인공지능 확산방안을 논의하기 위해 제4차 인공지능 최고위 전략대화를 개최했다. 인공지능 최고위 전략대화는 국가 AI 경쟁력 강화를 위해 민·관이 함께 정책·투자방향, 전략적 협력방안을 논의하는 인공지능 대표급 협의체로 1차는 2021년 9월에 열렸으며, 2차는 2022년 2월, 3차는 올해 3월에 개최됐다.
이번 행사는 올해 9월 ‘대한민국 초거대 인공지능 도약’ 행사에서 기업들이 인공지능 신뢰성 강화를 위해 필요한 안전조치를 자발적으로 마련하겠다고 약속했던 선언의 후속으로 마련됐다. 과기정통부는 그동안 진행한 간담회와 현장방문 등에서 수렴한 의견들을 토대로 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표하며 향후 민·관이 함께 나아가야 할 방향에 대해 공유했다.
이날 행사에는 정부 및 학계에서는 과기정통부 이종호 장관, 개인정보위 고학수 위원장, 서울대 임용 교수가, 민간에서는 초거대 AI 기업으로 네이버, SK텔레콤, KT, 카카오, LG AI 연구원과 함께 이스트소프트, JLK, 셀렉트스타, 스냅태그, 코난 테크놀로지 등이 참석했다.
인공지능 윤리·신뢰성 확보 추진계획은 △민간 자율 인공지능 윤리·신뢰성 확보 지원 △세계를 선도하는 인공지능 윤리·신뢰성 기술·제도적 기반 마련 △사회 전반 책임 있는 인공지능 의식 확산 등 인공지능 윤리·신뢰성 모범국가를 위한 내용 등으로 구성됐다.
세부 내용을 보면 첫째, 주요국과 국제기구들이 AI 신뢰성 확보를 산업 발전의 전제로 인식해 가이드라인 등 자율 실천방안을 제시하는 상황에서 ‘국가 인공지능 윤리기준’의 구체적 실천수단으로 채용, 생성형 AI 기반 서비스 등 분야별 가이드라인을 마련·확대하고, 11월부터 민간 자율 신뢰성 검증과 인증을 추진할 계획이다. 특히, AI 사업 중 고위험 영역 인공지능 개발·실증 사업을 수행하는 기업을 일부 선정해 올해 12월에 시범 인증을 추진하게 된다.
둘째, AI 자체가 내포하는 편향성, 불투명성 등 기술적 한계와 AI 오작동 등에 따른 AI의 잠재 위험요인에 대응하기 위해 기존 AI의 한계를 극복하고 초거대 AI의 신뢰성 확보를 위한 ‘차세대생성인공지능’ 기술개발을 내년부터 2027년까지 총 220억원을 투입해 신규로 추진할 예정이다.
셋째, 챗GPT와 같은 초거대 AI의 확산으로 AI가 가져올 혜택에 대한 기대와 함께 안전에 대한 위험성 우려가 확대되는 상황에서 AI가 생성한 결과물에 대한 워터마크 도입의 제도화를 검토한다. 이어 내년 1분기에는 고위험 AI에 대한 해설서를 마련하는 등 신뢰성 확보를 위한 제도 정립 과제를 추진할 방침이다.
민간에서는 LG 김유철 AI 연구원 부문장이 ‘AI 윤리원칙 실행을 위한 기업의 노력’을, 이어진 발표에서는 JLK 김동민 대표가 ‘고위험 AI 분야에 대한 신뢰성 검·인증의 필요성’을 설명했다.
발표에 이어 세 가지 주제의 토론이 진행됐다. 첫 번째로 ‘AI 산업발전과 신뢰성 확보의 균형을 위한 민간자율 검·인증 추진방향’에서는 일반영역 및 고위험영역 AI의 신뢰성 검·인증이 나아가야 할 방향에 관한 논의가 이뤄졌다.
두 번째로 ‘초거대·생성형 인공지능의 신뢰성 향상을 위한 자발적 노력’에 대한 논의가 있었으며 기업들은 AI 생성물에 워터마크를 도입, 신뢰성 확보 기술개발 및 책임 있는 거버넌스 구축 등 기업의 자발적인 노력을 공유했다. 초거대 AI 기업들은 AI가 생성한 결과물에 대한 ‘가시적 워터마크’ 도입이 필요하다는 점에 공감했으며. 기술적 완성도를 고려해 자사 서비스에 단계적으로 적용하는 것에 동의했다.
마지막 주제인 ‘AI 윤리의식 확산 및 글로벌 규범 선도를 위한 제언’에서는 AI 윤리교육과 전문 인력의 필요성, AI 윤리·신뢰성 표준 제정의 중요성 및 글로벌 인공지능 규범을 선도하기 위한 방안 등이 논의됐다.
과기정통부 이종호 장관은 “AI는 디지털 심화 시대의 핵심기술로서 인공지능의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”고 말했다. 이어 “민간 자율 AI 신뢰성 검·인증 지원을 비롯한 AI 윤리 생태계 기반 조성과 적합한 규제 체계 정립에 힘쓰고, 관계부처와 함께 AI 윤리·신뢰성을 확보할 수 있는 정책방안의 보완으로 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다”고 밝혔다.
[김영명 기자(boan@boannews.com)]
참여기업들, 인공지능 신뢰성 강화를 위한 안전조치 마련 동참
[보안뉴스 김영명 기자] 과학기술정보통신부(이하 과기정통부) 이종호 장관은 10월 25일 오전 10시, 개인정보보호위원회 고학수 위원장 및 인공지능 분야 민간 최고위 관계자들과 함께 인공지능 위험성 우려에 대응, 안전한 인공지능 확산방안을 논의하기 위해 제4차 인공지능 최고위 전략대화를 개최했다. 인공지능 최고위 전략대화는 국가 AI 경쟁력 강화를 위해 민·관이 함께 정책·투자방향, 전략적 협력방안을 논의하는 인공지능 대표급 협의체로 1차는 2021년 9월에 열렸으며, 2차는 2022년 2월, 3차는 올해 3월에 개최됐다.
[이미지=gettyimagesbank]
이번 행사는 올해 9월 ‘대한민국 초거대 인공지능 도약’ 행사에서 기업들이 인공지능 신뢰성 강화를 위해 필요한 안전조치를 자발적으로 마련하겠다고 약속했던 선언의 후속으로 마련됐다. 과기정통부는 그동안 진행한 간담회와 현장방문 등에서 수렴한 의견들을 토대로 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표하며 향후 민·관이 함께 나아가야 할 방향에 대해 공유했다.
이날 행사에는 정부 및 학계에서는 과기정통부 이종호 장관, 개인정보위 고학수 위원장, 서울대 임용 교수가, 민간에서는 초거대 AI 기업으로 네이버, SK텔레콤, KT, 카카오, LG AI 연구원과 함께 이스트소프트, JLK, 셀렉트스타, 스냅태그, 코난 테크놀로지 등이 참석했다.
인공지능 윤리·신뢰성 확보 추진계획은 △민간 자율 인공지능 윤리·신뢰성 확보 지원 △세계를 선도하는 인공지능 윤리·신뢰성 기술·제도적 기반 마련 △사회 전반 책임 있는 인공지능 의식 확산 등 인공지능 윤리·신뢰성 모범국가를 위한 내용 등으로 구성됐다.
세부 내용을 보면 첫째, 주요국과 국제기구들이 AI 신뢰성 확보를 산업 발전의 전제로 인식해 가이드라인 등 자율 실천방안을 제시하는 상황에서 ‘국가 인공지능 윤리기준’의 구체적 실천수단으로 채용, 생성형 AI 기반 서비스 등 분야별 가이드라인을 마련·확대하고, 11월부터 민간 자율 신뢰성 검증과 인증을 추진할 계획이다. 특히, AI 사업 중 고위험 영역 인공지능 개발·실증 사업을 수행하는 기업을 일부 선정해 올해 12월에 시범 인증을 추진하게 된다.
둘째, AI 자체가 내포하는 편향성, 불투명성 등 기술적 한계와 AI 오작동 등에 따른 AI의 잠재 위험요인에 대응하기 위해 기존 AI의 한계를 극복하고 초거대 AI의 신뢰성 확보를 위한 ‘차세대생성인공지능’ 기술개발을 내년부터 2027년까지 총 220억원을 투입해 신규로 추진할 예정이다.
셋째, 챗GPT와 같은 초거대 AI의 확산으로 AI가 가져올 혜택에 대한 기대와 함께 안전에 대한 위험성 우려가 확대되는 상황에서 AI가 생성한 결과물에 대한 워터마크 도입의 제도화를 검토한다. 이어 내년 1분기에는 고위험 AI에 대한 해설서를 마련하는 등 신뢰성 확보를 위한 제도 정립 과제를 추진할 방침이다.
민간에서는 LG 김유철 AI 연구원 부문장이 ‘AI 윤리원칙 실행을 위한 기업의 노력’을, 이어진 발표에서는 JLK 김동민 대표가 ‘고위험 AI 분야에 대한 신뢰성 검·인증의 필요성’을 설명했다.
▲제4차 인공지능 최고위 전략대화 논의 주제(안)[자료=과기정통부]
발표에 이어 세 가지 주제의 토론이 진행됐다. 첫 번째로 ‘AI 산업발전과 신뢰성 확보의 균형을 위한 민간자율 검·인증 추진방향’에서는 일반영역 및 고위험영역 AI의 신뢰성 검·인증이 나아가야 할 방향에 관한 논의가 이뤄졌다.
두 번째로 ‘초거대·생성형 인공지능의 신뢰성 향상을 위한 자발적 노력’에 대한 논의가 있었으며 기업들은 AI 생성물에 워터마크를 도입, 신뢰성 확보 기술개발 및 책임 있는 거버넌스 구축 등 기업의 자발적인 노력을 공유했다. 초거대 AI 기업들은 AI가 생성한 결과물에 대한 ‘가시적 워터마크’ 도입이 필요하다는 점에 공감했으며. 기술적 완성도를 고려해 자사 서비스에 단계적으로 적용하는 것에 동의했다.
마지막 주제인 ‘AI 윤리의식 확산 및 글로벌 규범 선도를 위한 제언’에서는 AI 윤리교육과 전문 인력의 필요성, AI 윤리·신뢰성 표준 제정의 중요성 및 글로벌 인공지능 규범을 선도하기 위한 방안 등이 논의됐다.
과기정통부 이종호 장관은 “AI는 디지털 심화 시대의 핵심기술로서 인공지능의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”고 말했다. 이어 “민간 자율 AI 신뢰성 검·인증 지원을 비롯한 AI 윤리 생태계 기반 조성과 적합한 규제 체계 정립에 힘쓰고, 관계부처와 함께 AI 윤리·신뢰성을 확보할 수 있는 정책방안의 보완으로 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다”고 밝혔다.
[김영명 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김영명기자 기사보기
[2024-04-24] _m.jpg)
.jpg)
.jpg)
