보안뉴스 창간 17주년을 축하합니다!!

Home > 전체기사

AI 시대 사회적 신뢰 기반 조성 위한 논의 개시

입력 : 2024-04-19 18:43
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
제3기 ‘AI 윤리·신뢰성 포럼’(‘AI전략최고위협의회’ 윤리·안전분과) 출범식 개최

[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)는 정보통신정책연구원(이하 KISDI)과 함께 지난 18일 ‘제3기 인공지능(이하 AI) 윤리·신뢰성 포럼’(‘AI전략최고위협의회’ 윤리·안전분과) 출범식을 개최했다.

‘AI전략최고위협의회’는 상호 연계되고 통합된 시각에서 국가 전체 AI 혁신의 방향을 이끌 거버넌스 차원에서 출범한 협의회(공동위원장: 과기정통부 장관, 태재대 염재호 총장)다.

최근 멀티모달 기술 등 생성형 AI 기술이 빠르게 발전하면서, 지속가능한 AI 혁신의 전제로 AI 윤리·신뢰성이 중요성이 더욱 부각되고 있다. 이에 과기정통부는 이상욱 한양대 철학과 교수가 포럼위원장을 맡고, 학계·산업계·법조계·공공·시민사회·국제기구 등 분야별 전문가 20명이 참여하는 제3기 ‘AI 윤리·신뢰성 포럼’을 구성해 AI의 사회적 신뢰 기반 조성을 위한 논의를 시작한다.

이번에 출범한 제3기 ‘AI 윤리·신뢰성 포럼’은 지난 4월에 출범한 ‘AI전략최고위협의회’(이하 최고위협의회) 윤리·안전분과로 운영된다. 포럼은 최고위협의회와 연계·운영해 AI 윤리·신뢰성 분야 범부처 과제를 발굴하고, 정책과제를 구체화해 민관이 함께 이행해 나갈 계획이다.

이번 포럼에서는 지난해 정부 AI 윤리사업 핵심 과제로 민간 전문가 의견 수렴을 거쳐 개발한 ‘AI 윤리기준 실천을 위한 자율점검표(채용 분야)’, AI 서비스의 윤리적 영향력을 체계적으로 파악하고 AI의 윤리적인 개발·활용을 장려할 수 있는 ‘AI 윤리영향평가’ 프레임워크, 일반인의 AI 이해와 AI 활용역량을 지원하기 위한 AI 윤리교육 교재 등을 공개했다.

특히 최근 오픈AI 소라 등 생성형 AI 기술의 활용범위가 기존 텍스트 생성에서 영상까지 빠르게 확대되고 뮌헨 안보회의 ‘기만적 AI 사용 방지를 위한 기술 합의문’(2024.2.16.) 발표, 유엔총회 ‘AI 결의안’ 채택(2024.3.21.) 등 AI 관련 글로벌 논의가 활발해지는 정책환경 속에서 국내 AI 윤리·신뢰성 확보를 위한 정책 방향에 관한 종합토론을 진행했다.

향후 격월로 포럼을 운영해 AI 윤리·신뢰성 관련 글로벌 논의에 대한 대응전략을 모색하고, AI 산업 현장에서의 윤리·신뢰성 확산 방안과 생성형 AI의 악의적 활용을 완화·방지하기 위한 정책과제 등을 집중적으로 논의해 나갈 계획이다.

출범식에 참석한 과기정통부 엄열 인공지능기반정책관은 “최근 전 세계 AI 분야의 경쟁적 투자 확대로 AI 발전 속도는 더욱 가속화되고, 진화 방향은 예측하기 어려워지고 있다”며, “생성형 AI 기술로 촉발된 AI 시대로의 본격적인 전환점에서 AI 발전과 공존 가능한 AI의 전제는 윤리와 신뢰라며, AI에 대한 사회적 신뢰 기반을 만들어 갈 수 있도록 AI 윤리·신뢰성 포럼이 사회적 논의의 구심점 역할을 수행해 주길 기대한다”고 말했다.
[박미영 기자(mypark@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
 하이젠 파워비즈 23년 11월 16일~2024년 11월 15일까지 아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지
설문조사
3월 15일부터 시행되고 있는 개정 개인정보보호법과 관련해 가장 까다롭고 이행하기 어려운 조항은 무엇인가요?
인공지능(AI) 등 자동화된 결정에 대한 정보주체 권리 구체화
접근권한 관리 등 개인정보 안전성 확보조치 강화 및 고유식별정보 관리실태 정기조사
영향평가 요약본 공개제도 도입 등 개인정보 영향평가제도
영상정보처리기기 및 안전조치 기준
개인정보 보호책임자의 전문성 강화 위한 전문CPO 지정
국외 수집·이전 개인정보 처리방침 공개 등 개인정보 처리방침 평가제도
손해배상책임 의무대상자 변경 및 확대
공공기관 개인정보 보호수준 평가 확대
기타(댓글로)