범용성있는 일반원칙을 토대로 유연하게 적용할 수 있는 국가 인공지능 윤리기준 마련
[보안뉴스 이상우 기자] 과학기술정보통신부(장관 최기영, 이하 과기정통부)와 정보통신정책연구원이 바람직한 인공지능의 개발 및 활용하는 방향을 제시하기 위한 ‘국가 인공지능 윤리기준’안을 발표했다. 이는 윤리적 인공지능을 실현하기 위해 정부, 공공기관, 기업, 이용자 등 모든 사회 구성원이 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준으로, 인공지능, 윤리학, 법학 등 주요 분야 전문가가 자문과 의견수렴 과정에 참여했다.
그간 인공지능 기술의 발전 및 확산과 함께 인공지능 기술의 윤리적 개발과 활용 역시 세계 각국과 주요 국제기구의 관심 대상이 되어 왔으며, 지난해 OECD 인공지능 권고안을 비롯해 세계 각국에서 다양한 인공지능 윤리 원칙이 발표된 바 있다. 이에 과학기술정보통신부는 이러한 글로벌 추세에 발맞춰, 지난해 발표한 ‘인공지능 국가전략‘ 주요 과제로 윤리기준 마련을 추진해왔다.
과기정통부는 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계하여 ‘인간성을 위한 인공지능(AI for Humanity)’를 목표로 하는 윤리기준 초안을 마련했으며, 3개월에 걸쳐 학계, 기업, 시민단체 등의 의견을 수렴했다.
이러한 과정을 거쳐 마련한 국가 인공지능 윤리기준안은 인간성을 위한 3대 기본원칙과 10대 핵심요건을 제시하고 있다. 이번 안은 ‘모든 사회구성원’이 ‘모든 분야’에서 ‘자율적으로 준수’하며 ‘지속 발전하는 윤리기준’을 지향한다. 인공지능 개발에서 활용에 이르는 전 단계에서 정부·공공기관, 기업, 이용자 등 모든 사회 구성원이 참조하는 기준을 목표로 하며, 특정 분야가 아닌 범용성을 가진 일반원칙을 토대로 향후 등장할 새로운 영역에도 유연하게 적용할 수 있는 기반을 마련한다.
또한, 구속력 있는 ’법‘이나 ’지침‘이 아닌 도덕적 규범이자 자율규범으로, 기업 자율성을 존중하고 인공지능 기술발전을 장려하며 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성할 계획이다. 향후 사회경제, 기술 변화에 따라 새롭게 제기되는 인공지능 윤리 이슈를 논의하고 구체적으로 발전시킬 수 있는 플랫폼으로 기능도 할 것으로 전망된다.
3대 기본원칙은 인간성을 구현하기 위해 인공지능의 개발 및 활용 과정에서 △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙을 지켜야 한다. 또한, 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발에서 활용까지 모든 과정에서 △인권 보장 △프라이버시 보호 △다양성 존중 △침해금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성의 요건을 충족해야 한다.
과기정통부 최기영 장관은 “이번 윤리기준안 공개가 국가 전반의 인공지능 윤리 이슈에 대한 인식과 논의를 활성화해, 사람 중심의 인공지능으로 나아가는 기반이 되기를 기대한다”며, “앞으로 제기될 인공지능 윤리이슈에 대한 토론과 숙의의 토대가 되고 현장에 정착할 수 있도록 노력하고, 윤리기준의 사회 확산을 위한 주체별 체크리스트 개발 등 실천방안도 마련해나가겠다”고 밝혔다.
한편, 과기정통부는 12월 7일 공개 공청회를 통해 이번 윤리기준안을 소개할 예정이며, 12월 15일까지 시민들의 자유로운 의견을 이메일로 접수한다. 공개 의견수렴을 거쳐 보완한 최종 윤리기준은 12월 중순경에 대통령 직속 ‘4차산업혁명위원회’ 심의를 거쳐 확정할 예정이다.
[이상우 기자(boan@boannews.com)]
[보안뉴스 이상우 기자] 과학기술정보통신부(장관 최기영, 이하 과기정통부)와 정보통신정책연구원이 바람직한 인공지능의 개발 및 활용하는 방향을 제시하기 위한 ‘국가 인공지능 윤리기준’안을 발표했다. 이는 윤리적 인공지능을 실현하기 위해 정부, 공공기관, 기업, 이용자 등 모든 사회 구성원이 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준으로, 인공지능, 윤리학, 법학 등 주요 분야 전문가가 자문과 의견수렴 과정에 참여했다.
[이미지=utoimage]
그간 인공지능 기술의 발전 및 확산과 함께 인공지능 기술의 윤리적 개발과 활용 역시 세계 각국과 주요 국제기구의 관심 대상이 되어 왔으며, 지난해 OECD 인공지능 권고안을 비롯해 세계 각국에서 다양한 인공지능 윤리 원칙이 발표된 바 있다. 이에 과학기술정보통신부는 이러한 글로벌 추세에 발맞춰, 지난해 발표한 ‘인공지능 국가전략‘ 주요 과제로 윤리기준 마련을 추진해왔다.
과기정통부는 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계하여 ‘인간성을 위한 인공지능(AI for Humanity)’를 목표로 하는 윤리기준 초안을 마련했으며, 3개월에 걸쳐 학계, 기업, 시민단체 등의 의견을 수렴했다.
이러한 과정을 거쳐 마련한 국가 인공지능 윤리기준안은 인간성을 위한 3대 기본원칙과 10대 핵심요건을 제시하고 있다. 이번 안은 ‘모든 사회구성원’이 ‘모든 분야’에서 ‘자율적으로 준수’하며 ‘지속 발전하는 윤리기준’을 지향한다. 인공지능 개발에서 활용에 이르는 전 단계에서 정부·공공기관, 기업, 이용자 등 모든 사회 구성원이 참조하는 기준을 목표로 하며, 특정 분야가 아닌 범용성을 가진 일반원칙을 토대로 향후 등장할 새로운 영역에도 유연하게 적용할 수 있는 기반을 마련한다.
또한, 구속력 있는 ’법‘이나 ’지침‘이 아닌 도덕적 규범이자 자율규범으로, 기업 자율성을 존중하고 인공지능 기술발전을 장려하며 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성할 계획이다. 향후 사회경제, 기술 변화에 따라 새롭게 제기되는 인공지능 윤리 이슈를 논의하고 구체적으로 발전시킬 수 있는 플랫폼으로 기능도 할 것으로 전망된다.
3대 기본원칙은 인간성을 구현하기 위해 인공지능의 개발 및 활용 과정에서 △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙을 지켜야 한다. 또한, 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발에서 활용까지 모든 과정에서 △인권 보장 △프라이버시 보호 △다양성 존중 △침해금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성의 요건을 충족해야 한다.
과기정통부 최기영 장관은 “이번 윤리기준안 공개가 국가 전반의 인공지능 윤리 이슈에 대한 인식과 논의를 활성화해, 사람 중심의 인공지능으로 나아가는 기반이 되기를 기대한다”며, “앞으로 제기될 인공지능 윤리이슈에 대한 토론과 숙의의 토대가 되고 현장에 정착할 수 있도록 노력하고, 윤리기준의 사회 확산을 위한 주체별 체크리스트 개발 등 실천방안도 마련해나가겠다”고 밝혔다.
한편, 과기정통부는 12월 7일 공개 공청회를 통해 이번 윤리기준안을 소개할 예정이며, 12월 15일까지 시민들의 자유로운 의견을 이메일로 접수한다. 공개 의견수렴을 거쳐 보완한 최종 윤리기준은 12월 중순경에 대통령 직속 ‘4차산업혁명위원회’ 심의를 거쳐 확정할 예정이다.
[이상우 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이상우기자 기사보기
[2025-04-07] 
.png)
